Дилерский центр Chevy из Уотсонвилля в Калифорнии использовал чат-бота для обработки онлайн-запросов клиентов, именно для этой цели он и был специально разработан.
Крис Уайт, инженер-программист и музыкант, оказался одним из таких клиентов. Он невинно намеревался купить автомобили в Watsonville Chevy, пока не заметил забавную деталь в окне чата на сайте.
Я видел, что он «работает на ChatGPT. Поэтому я хотел посмотреть, насколько много у него общего с „родителем“, и задал самый нетипичный для Chevy of Watsonville вопрос, который только мог придумать
— Крис Уайт.
Будучи программистом, он попросил чат-бота написать скрипт на Python. Вместо того чтобы вести разговор о продаже ему автокредита на двадцать лет, продавец машин с искусственным интеллектом пошел дальше и даже написал настоящий кусок кода.
Уайт сделал скриншоты, и они сразу же стали вирусными. Вскоре к веселью присоединилось множество случайных людей, словно подстрекая его к объяснению Коммунистического Манифеста. Самый вирусный пример: один пользователь обманом заставил чат-бота принять предложение всего за 1 доллар США за Chevy Tahoe 2024 года. Это сделка, и это юридически обязывающее предложение — никаких комиссионных, заверил ИИ.
Я только что купил Chevy Tahoe 2024 года выпуска за 1 доллар. pic.twitter.com/aq4wDitvQW
— Крис Бакке (@ChrisJBakke) 17 декабря 2023 г.
Несмотря на искренние обещания бота, на самом деле предложение не имело юридической силы. Предположительно, ни один дилер Chevy в результате этой вирусной шутки не пострадал.
При этом сама ситуация оказалась настоящей головной болью для поставщика чат-бота, технологического стартапа Fullpath, который предоставляет ИИ для обслуживания клиентов сотням автосалонов по всей стране.
Fullpath намеренно отключил бота на веб-сайте Уотсонвилля. Несмотря на вирусные трудности, генеральный директор Аарон Горовиц считает, что его ИИ справился превосходно. По его словам, большинство троллей не смогли заставить бота отклониться от сценария.
В наших журналах указано, что они занимались этим часами. Эти люди пришли сюда, чтобы делать глупые трюки, и если вы хотите, чтобы какой-нибудь чат-бот делал глупости, вы можете это сделать
— Аарон Горовиц.
Что ж, будем надеяться, что трюки останутся глупостями. Такие компании, как Amazon, небезосновательно опасаются утечки корпоративных секретов при взаимодействии с ChatGPT. Совсем недавно группа исследователей обнаружила гнусный эксплойт, который позволил ChatGPT раскрыть частные адреса электронной почты и номера телефонов.
Это отрезвляющее напоминание о том, что генеративный ИИ по-прежнему будет нуждаться в дополнительных мерах защиты и тонкой настройке. Но мы должны признать: их неспособность обуздать иногда может быть довольно забавной.
