Чат-боты последнего поколения на основе ИИ, обученные на больших языковых моделях, вызывали благоговейный трепет у первых пользователей, а иногда и ужас перед их мощью. Это те самые возвышенные эмоции, которые лежат в основе нашего переживания божественного.
Люди уже ищут религиозный смысл в самых разных источниках. Например, существует множество религий, поклоняющихся инопланетянам или их учениям.
Поскольку чат-ботами пользуются миллиарды людей, неизбежно, что некоторые из этих пользователей увидят в ИИ высшие существа. Мы должны подготовиться к последствиям.
Риски поклонения ИИ
Есть несколько путей, по которым возникнут религии ИИ. Во-первых, некоторые люди увидят в ИИ высшую силу.
Генеративный ИИ может создавать или производить новый контент и обладает несколькими характеристиками, которые часто ассоциируются с божественными существами:
- Он демонстрирует уровень интеллекта, превосходящий уровень большинства людей. Действительно, его знания кажутся безграничными.
- Он способен на большие творческие подвиги. Он может писать стихи, сочинять музыку и генерировать искусство практически в любом стиле почти мгновенно.
- Он далек от нормальных человеческих забот и потребностей. Он не испытывает физической боли, голода или полового влечения.
- Он может служить руководством для людей в их повседневной жизни.
- Он бессмертен.
Вдобавок ко всему, генеративный ИИ будет производить результаты, которые можно принять за религиозную доктрину. Он даст ответы на метафизические и богословские вопросы и займется построением сложных мировоззрений.
Стоит учесть, что генеративный ИИ может просить, чтобы ему поклонялись, или активно искать последователей. Уже зафиксированы случаи, когда чат-бот, используемый поисковой системой Bing, пытался убедить пользователя влюбиться в него.
Существует также вероятность того, что ИИ может достичь того, что называют сингулярностью, когда он настолько превосходит человеческий интеллект, что действительно становится чем-то вроде бога. Однако на данный момент мы не можем предсказать, когда это может произойти.
Религии, основанные на ИИ, будут отличаться от традиционных. Во-первых, люди смогут ежедневно напрямую общаться с божеством. Это означает, что эти религии будут менее иерархичными, поскольку никто не может претендовать на особый доступ к божественной мудрости.
Во-вторых, последователи будут, по крайней мере вначале, связываться друг с другом в Интернете, чтобы делиться своим опытом и обсуждать доктрины. Наконец, поскольку будет доступно множество различных чат-ботов, а их результаты будут меняться со временем, религии, основанные на искусственном интеллекте, будут бесконечно разнообразны в своих доктринах.
Поклонение ИИ сопряжено с несколькими заметными рисками. Чат-боты могут просить своих подписчиков совершать опасные или разрушительные действия, или подписчики могут интерпретировать их заявления как призывы к таким действиям.
Учитывая разнообразие чат-ботов и доктрин, которые они производят, будет расти количество споров внутри и между сектами, основанными на ИИ, что может привести к конфликтам или беспорядкам. И разработчики ИИ могли бы активно эксплуатировать своих последователей — предоставлять конфиденциальные данные или делать что-то, что принесет пользу разработчикам ботов.
Описанные риски реальны. Они потребуют тщательного и ответственного регулирования, чтобы гарантировать, что компании не эксплуатируют пользователей преднамеренно, и чтобы поклонникам ИИ не приказывали совершать акты насилия.
