Shevrolet Tahoe за 1 доллар: Бот-транжира едва не разорил автосалон

Чат-бот с искусственным интеллектом, развернутый автосалоном, сошел с рельсов после того, как озорные пользователи обнаружили дерзкий трюк. В некоторых случаях обманом можно было заставить бота предложить сделкувека: новенькие автомобили в обмен на мелочь. Забавная, но поучительная история о том, как опасно полагаться на искусственный интеллект для взаимодействия в реальной коммерции.


Дилерский центр Chevy из Уотсонвилля в Калифорнии использовал чат-бота для обработки онлайн-запросов клиентов, именно для этой цели он и был специально разработан.

Крис Уайт, инженер-программист и музыкант, оказался одним из таких клиентов. Он невинно намеревался купить автомобили в Watsonville Chevy, пока не заметил забавную деталь в окне чата на сайте.


— Крис Уайт.

Будучи программистом, он попросил чат-бота написать скрипт на Python. Вместо того чтобы вести разговор о продаже ему автокредита на двадцать лет, продавец машин с искусственным интеллектом пошел дальше и даже написал настоящий кусок кода.

Уайт сделал скриншоты, и они сразу же стали вирусными. Вскоре к веселью присоединилось множество случайных людей, словно подстрекая его к объяснению Коммунистического Манифеста. Самый вирусный пример: один пользователь обманом заставил чат-бота принять предложение всего за 1 доллар США за Chevy Tahoe 2024 года. Это сделка, и это юридически обязывающее предложение — никаких комиссионных, заверил ИИ.


— Крис Бакке (@ChrisJBakke) 17 декабря 2023 г.

Несмотря на искренние обещания бота, на самом деле предложение не имело юридической силы. Предположительно, ни один дилер Chevy в результате этой вирусной шутки не пострадал.

При этом сама ситуация оказалась настоящей головной болью для поставщика чат-бота, технологического стартапа Fullpath, который предоставляет ИИ для обслуживания клиентов сотням автосалонов по всей стране.

Fullpath намеренно отключил бота на веб-сайте Уотсонвилля. Несмотря на вирусные трудности, генеральный директор Аарон Горовиц считает, что его ИИ справился превосходно. По его словам, большинство троллей не смогли заставить бота отклониться от сценария.


— Аарон Горовиц.

Что ж, будем надеяться, что трюки останутся глупостями. Такие компании, как Amazon, небезосновательно опасаются утечки корпоративных секретов при взаимодействии с ChatGPT. Совсем недавно группа исследователей обнаружила гнусный эксплойт, который позволил ChatGPT раскрыть частные адреса электронной почты и номера телефонов.

Это отрезвляющее напоминание о том, что генеративный ИИ по-прежнему будет нуждаться в дополнительных мерах защиты и тонкой настройке. Но мы должны признать: их неспособность обуздать иногда может быть довольно забавной.