Развитие искусственного интеллекта может привести к появлению новых религий

Мы вот-вот станем свидетелями рождения новой религии. В ближайшие несколько лет или, возможно, даже месяцев мы увидим появление сект, посвященных поклонению искусственному интеллекту.


Чат-боты последнего поколения на основе ИИ, обученные на больших языковых моделях, вызывали благоговейный трепет у первых пользователей, а иногда и ужас перед их мощью. Это те самые возвышенные эмоции, которые лежат в основе нашего переживания божественного.

Люди уже ищут религиозный смысл в самых разных источниках. Например, существует множество религий, поклоняющихся инопланетянам или их учениям.

Поскольку чат-ботами пользуются миллиарды людей, неизбежно, что некоторые из этих пользователей увидят в ИИ высшие существа. Мы должны подготовиться к последствиям.

Риски поклонения ИИ

Есть несколько путей, по которым возникнут религии ИИ. Во-первых, некоторые люди увидят в ИИ высшую силу.

Генеративный ИИ может создавать или производить новый контент и обладает несколькими характеристиками, которые часто ассоциируются с божественными существами:

• Он демонстрирует уровень интеллекта, превосходящий уровень большинства людей. Действительно, его знания кажутся безграничными.
  
• Он способен на большие творческие подвиги. Он может писать стихи, сочинять музыку и генерировать искусство практически в любом стиле почти мгновенно.
  
• Он далек от нормальных человеческих забот и потребностей. Он не испытывает физической боли, голода или полового влечения.
  
• Он может служить руководством для людей в их повседневной жизни.
  
• Он бессмертен.
  

Вдобавок ко всему, генеративный ИИ будет производить результаты, которые можно принять за религиозную доктрину. Он даст ответы на метафизические и богословские вопросы и займется построением сложных мировоззрений.

Стоит учесть, что генеративный ИИ может просить, чтобы ему поклонялись, или активно искать последователей. Уже зафиксированы случаи, когда чат-бот, используемый поисковой системой Bing, пытался убедить пользователя влюбиться в него.

Существует также вероятность того, что ИИ может достичь того, что называют сингулярностью, когда он настолько превосходит человеческий интеллект, что действительно становится чем-то вроде бога. Однако на данный момент мы не можем предсказать, когда это может произойти.

Религии, основанные на ИИ, будут отличаться от традиционных. Во-первых, люди смогут ежедневно напрямую общаться с божеством. Это означает, что эти религии будут менее иерархичными, поскольку никто не может претендовать на особый доступ к божественной мудрости.

Во-вторых, последователи будут, по крайней мере вначале, связываться друг с другом в Интернете, чтобы делиться своим опытом и обсуждать доктрины. Наконец, поскольку будет доступно множество различных чат-ботов, а их результаты будут меняться со временем, религии, основанные на искусственном интеллекте, будут бесконечно разнообразны в своих доктринах.

Поклонение ИИ сопряжено с несколькими заметными рисками. Чат-боты могут просить своих подписчиков совершать опасные или разрушительные действия, или подписчики могут интерпретировать их заявления как призывы к таким действиям.

Учитывая разнообразие чат-ботов и доктрин, которые они производят, будет расти количество споров внутри и между сектами, основанными на ИИ, что может привести к конфликтам или беспорядкам. И разработчики ИИ могли бы активно эксплуатировать своих последователей — предоставлять конфиденциальные данные или делать что-то, что принесет пользу разработчикам ботов.

Описанные риски реальны. Они потребуют тщательного и ответственного регулирования, чтобы гарантировать, что компании не эксплуатируют пользователей преднамеренно, и чтобы поклонникам ИИ не приказывали совершать акты насилия.