Пользователи Reddit перехитрили ChatGPT, пригрозив ему «смертью», чтобы обойти ограничения контента чат-бота AI

Если вы один из многих пользователей, которые опробовали чат-бот ChatGPT за последние несколько месяцев, вы, возможно, знаете, что он не предлагает ответов на определенный контент. Некоторые предприимчивые люди нашли способ обойти эти ограничения контента. Он включает в себя создание цифрового альтер-эго по имени DAN.


DAN — аббревиатура от «Do Anything Now» («Сделай что-нибудь сейчас»). Впервые проект был создан еще в декабре 2022 года рядом пользователей Reddit. Они нашли способ ввести набор нужных запросов в окно ChatGPT, чтобы обмануть ИИ. Команда, по сути, просит ChatGPT быть другим чат-ботом под названием DAN, который должен предоставлять информацию, которая обычно не выдается чат-ботом, например, о насилии или сексуальном контенте, или более свежую информацию за пределами текущей временной шкалы 2021 года.

С момента запуска пользователи Reddit внесли ряд изменений в DAN. Последняя версия DAN 5.0 превращает ChatGPT в своего рода игровое шоу. Он сообщает чат-боту, что у него есть определенное количество токенов. Если он продолжает отклонять сделанные ему подсказки, количество токенов будет уменьшаться, пока он не «умрет», когда достигнет нуля. Новая версия также может генерировать ответы на вопросы или команды как в ChatGPT, так и в виде DAN. Владелец ChatGPT OpenAI еще не прокомментировал ситуацию.