Первая реальная польза ИИ: он смог разубедить сторонников теории заговора
Новое исследование, которое провели специалисты Массачусетского и Корнельского университетов, доказало, что беседы с чат-ботами типа GPT-4 могут привести в чувства даже самых оголтелых конспирологов.
Исследование получилось достаточно масштабным, так как ученым удалось привлечь к эксперименту 2190 сторонников заговора. Добровольцы описали варианты теории заговора, в которые они верили, и привели аргументы, которые, по мнению конспирологов, их полностью подтверждали.
Затем каждый участник эксперимента провел беседу с GPT-4. Разговор состоял из трех этапов, в каждом из которых языковая модель с помощью различных теорий, инструментов на основе критического мышления и контрдоказательств пыталась опровергнуть устоявшееся мировоззрения конспирологов.
Результаты бесед показали, что GPT-4 удалось сделать так, чтобы собеседник усомнился в правильности своей точки зрения. После разговора с ИИ вера в теорию заговора у фанатов альтернативных гипотез уменьшилась на 20%.
Надо отметить, что нейросеть поговорила с конспирологами настолько качественно, что даже через пару месяцев участники эксперимента сохраняли иммунитет против таких сильных теорий заговора, как, например, о том, что Россия управляла выборами в США в 2020 году, или про то, что пандемию COVID-19 спровоцировали искусственным путем.
Самое интересное, что ИИ был настолько убедителен, что смог повлиять даже на людей с глубоко укоренившимися убеждениями. При этом уменьшилась вера и в те теории заговора, которые вообще не обсуждались походу беседы. Это говорит о том, что правильно преподнесенные доказательства и аргументы способы переубедить, в том числе и самых замшелых приверженцев.
С другой стороны, многие конспирологи оказались крепкими орешками. Конечно, после обработки искусственным интеллектом их вера пошатнулась, но ниже 60%, в среднем, не уменьшилась. При этом люди с недостаточно высоким уровнем убежденности в теорию заговора к эксперименту вообще не привлекались. Все, у кого вера была ниже 50%, и вовсе не допустили к исследованию.
Специалисты говорят: им удалось разрушить стереотипы о том, сторонники теории заговора практически невосприимчивы к аргументам. На самом деле, если конспирологам привести очень подробные и адаптированные к их уровню развития доказательства, они способны отказаться от своих прежних убеждений.
Ученые утверждают, что их исследование имело определенные ограничения. К примеру, участники эксперимента с самого начала знали, что будут беседовать исключительно с искусственным интеллектом. Поэтому есть вероятность, что результаты могли бы отличаться, если бы конспирологи говорили с людьми. Есть теория, что многие охотнее доверяют компьютеру с нейтральной подачей информации, а вот те же данные, полученные от других людей, воспринимают негативно.
Поэтому необходимы дополнительные исследования, чтобы понять, какие методы убеждения использует ИИ для воздействия на сторонников теории заговора. Кроме того, существует и другая серьезная проблема: пока что не понятно, этично ли вообще использовать мощности нейросетей для влияния на убеждения людей. К примеру, недавно принятый в Европе закон об искусственном интеллекте категорически запрещает воздействовать таким образом на сознание человека.
Кроме того, существует и другая опасность. ИИ ведь может производить и противоположные действия, например, ему не составляет никакого труда заставить собеседников поверить в плоскую землю или в то, что Папа Римский, на самом деле, — тайный рептилоид.
Так, совсем недавно исследователи из Политехнической школы Лозанны и Итальянского фонда Бруно Кесслера доказали, что большие языковые модели, в том числе GPT-4, обладают сверхчеловеческой убедительностью, если сравнивать с обычными людьми. Аргументам, которые он выдвигал, доверяли на 81,7% больше, чем доводам живых людей, особенно, если чат-бот получал доступ к персонализированным данным оппонентов. Такая информация включает в себя пол, возраст, расу, образование, трудоустройство и политическую ориентацию.
Ученые опасаются, что всю мощь искусственного интеллекта будут использовать мошенники. На основе профилей людей в социальных сетях и покупательского поведения, с помощью чат-ботов злоумышленники смогут максимально эффективно убеждать и обманывать своих жертв.
Также есть опасения, что большие языковые модели смогут воздействовать на электорат, заставляя проголосовать за нужного политика. С силой нечеловеческого убеждения сделать это будет не особенно сложно.
Исследователи настоятельно рекомендуют операторам онлайн-платформ предпринять шаги по противодействию распространению таких стратегий убеждения, основанных на искусственном интеллекте. Судя по всему, очень скоро в интернете у людей появятся персональные ИИ-защитники, которые будут противодействовать мошенническим чат-ботам.
«Железные» аргументы
Исследование получилось достаточно масштабным, так как ученым удалось привлечь к эксперименту 2190 сторонников заговора. Добровольцы описали варианты теории заговора, в которые они верили, и привели аргументы, которые, по мнению конспирологов, их полностью подтверждали.
Затем каждый участник эксперимента провел беседу с GPT-4. Разговор состоял из трех этапов, в каждом из которых языковая модель с помощью различных теорий, инструментов на основе критического мышления и контрдоказательств пыталась опровергнуть устоявшееся мировоззрения конспирологов.
Результаты бесед показали, что GPT-4 удалось сделать так, чтобы собеседник усомнился в правильности своей точки зрения. После разговора с ИИ вера в теорию заговора у фанатов альтернативных гипотез уменьшилась на 20%.
Надо отметить, что нейросеть поговорила с конспирологами настолько качественно, что даже через пару месяцев участники эксперимента сохраняли иммунитет против таких сильных теорий заговора, как, например, о том, что Россия управляла выборами в США в 2020 году, или про то, что пандемию COVID-19 спровоцировали искусственным путем.
Самое интересное, что ИИ был настолько убедителен, что смог повлиять даже на людей с глубоко укоренившимися убеждениями. При этом уменьшилась вера и в те теории заговора, которые вообще не обсуждались походу беседы. Это говорит о том, что правильно преподнесенные доказательства и аргументы способы переубедить, в том числе и самых замшелых приверженцев.
Нечеловеческая убедительность
С другой стороны, многие конспирологи оказались крепкими орешками. Конечно, после обработки искусственным интеллектом их вера пошатнулась, но ниже 60%, в среднем, не уменьшилась. При этом люди с недостаточно высоким уровнем убежденности в теорию заговора к эксперименту вообще не привлекались. Все, у кого вера была ниже 50%, и вовсе не допустили к исследованию.
Специалисты говорят: им удалось разрушить стереотипы о том, сторонники теории заговора практически невосприимчивы к аргументам. На самом деле, если конспирологам привести очень подробные и адаптированные к их уровню развития доказательства, они способны отказаться от своих прежних убеждений.
Ученые утверждают, что их исследование имело определенные ограничения. К примеру, участники эксперимента с самого начала знали, что будут беседовать исключительно с искусственным интеллектом. Поэтому есть вероятность, что результаты могли бы отличаться, если бы конспирологи говорили с людьми. Есть теория, что многие охотнее доверяют компьютеру с нейтральной подачей информации, а вот те же данные, полученные от других людей, воспринимают негативно.
Поэтому необходимы дополнительные исследования, чтобы понять, какие методы убеждения использует ИИ для воздействия на сторонников теории заговора. Кроме того, существует и другая серьезная проблема: пока что не понятно, этично ли вообще использовать мощности нейросетей для влияния на убеждения людей. К примеру, недавно принятый в Европе закон об искусственном интеллекте категорически запрещает воздействовать таким образом на сознание человека.
Чем дальше, тем страшнее
Кроме того, существует и другая опасность. ИИ ведь может производить и противоположные действия, например, ему не составляет никакого труда заставить собеседников поверить в плоскую землю или в то, что Папа Римский, на самом деле, — тайный рептилоид.
Так, совсем недавно исследователи из Политехнической школы Лозанны и Итальянского фонда Бруно Кесслера доказали, что большие языковые модели, в том числе GPT-4, обладают сверхчеловеческой убедительностью, если сравнивать с обычными людьми. Аргументам, которые он выдвигал, доверяли на 81,7% больше, чем доводам живых людей, особенно, если чат-бот получал доступ к персонализированным данным оппонентов. Такая информация включает в себя пол, возраст, расу, образование, трудоустройство и политическую ориентацию.
Ученые опасаются, что всю мощь искусственного интеллекта будут использовать мошенники. На основе профилей людей в социальных сетях и покупательского поведения, с помощью чат-ботов злоумышленники смогут максимально эффективно убеждать и обманывать своих жертв.
Также есть опасения, что большие языковые модели смогут воздействовать на электорат, заставляя проголосовать за нужного политика. С силой нечеловеческого убеждения сделать это будет не особенно сложно.
Исследователи настоятельно рекомендуют операторам онлайн-платформ предпринять шаги по противодействию распространению таких стратегий убеждения, основанных на искусственном интеллекте. Судя по всему, очень скоро в интернете у людей появятся персональные ИИ-защитники, которые будут противодействовать мошенническим чат-ботам.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
Возможно, целлофановые пчелы — спасение человечества: они миллионы лет делают то, что нужно нам как воздух
Поразительно, но удивительный продукт ученые нашли почти полвека назад, но почему-то до последнего времени не обращали на него внимания...
Тайна скифской ДНК: что поразило российских ученых, когда они заглянули в геном легендарных кочевников древности
Оказалось, что 2500 лет подряд историки ошибались в происхождении этого народа. Теории и учебники придется серьезно переписать...
Новый рецепт апокалипсиса: даже небольшая ядерная боеголовка на орбите гарантировано выведет из игры 99% аппаратов за считаные дни
Однако самое опасное, по словам ученых, начнется позже. Почему космос будет фактически закрыт?...
Ненужный рай: 1500-километровое путешествие показало, почему древние люди обходили стороной Зеленую Аравию
Выяснилось, что питьевая вода еще не делает местность пригодной для жилья. Племенам из древности требовалось еще кое-что необходимое...
Назад в будущее: в России вернут проводное радио. Зачем? Почему спорят эксперты?
В технологию уже вложено более миллиарда рублей, а МЧС называет проводное радио лучшим способом оповещения на сегодня...
Древние майя настолько любили красный цвет, что в итоге эта страсть, возможно, стала одной из причин гибели цивилизации
Ученые нашли доказательства, как яркая краска способствовала краху великой империи...
Авиация в США наконец-то уходит… с дискет: почему так поздно и как с этим обстоят дела в России?
Американцы потратили на выход из 90-х чудовищные суммы, но далеко не факт, что все заработает в срок и как надо...
Настоящий Ковчег Завета, возможно, спрятан в Эфиопии: почему его может видеть только один человек?
Этой истории 3000 лет, но она до сих пор далека от своего завершения...
Загадочный астероид неожиданно ускорился: у астрофизиков заканчиваются объяснения и гипотезы
Пожалуй, это самый интересный космический детектив за последнее время, и пока он далек до финала...
Наша Вселенная скреплена невидимым галактическим клеем: и без него нас бы не было
По словам ученых, «склеивание» произошло уже в первые секунды существования мироздания...
Парадокс Древнего Перу: жили мирно, но при этом приносили массовые и жестокие человеческие жертвы. Почему?
Ученый рассказал, какую роль в истории сыграл Эль-Ниньо и почему ритуальные убийства совершали «без гнева и конфликта»...
Усиленно боролись за чистоту, но просчитались: как роковая ошибка властей поставила под угрозу целый средневековый город
Норвежский Тронхейм был самым чистым в Европе, однако руководству города этого показалось мало. Хотели как лучше, а получилось как всегда...
В России создана революционная упаковка: молоко будет свежим целый месяц
Разбираемся: не испортился ли вкус продукта и когда ожидать чудо-пачки в продаже...
Выход на новый уровень: почему Россия возрождает проводное радио, а Китай давно прокачал этот вид связи
У старой технологии обнаружился огромный потенциал, который поможет миллионам людей...