Пока не угробил всю компанию: ИИ-чатбота пришлось срочно отключить за хулиганство

DPD, служба доставки посылок в Великобритании, решила отключить часть своего сервиса чат-бота с искусственным интеллектом. Это решение было принято после того, как сообщалось о многочисленных случаях, когда бот не только использовал оскорбительные выражения в адрес клиентов, но и оскорблял саму компанию.


DPD столкнулась с рядом проблем, которые начались на прошлой неделе, когда музыкант по имени Эшли Бошан поделился своей необычной встречей с ботом на базе искусственного интеллекта в Twitter X-former. Согласно сообщению Бошана The Guardian, он пытался найти потерянную посылку. Однако скриншоты его разговора с ботом показали, что ИИ плохо подготовлен для обработки простого запроса в службу поддержки клиентов. ИИ сообщил о своей неспособности получить доступ к деталям заказа Бошана, и когда Бошан попросил поговорить с человеком, он сообщил ему, что не существует возможности связаться с кем-либо из представителей людей.

Достигнув точки разочарования, Бошан принял решение протестировать возможности бота, и, к их большому удивлению, ИИ продемонстрировал замечательное умение критиковать и использовать оскорбительные выражения в адрес DPD, вместо того, чтобы предлагать какую-либо помощь клиентам.


– Эшли Бошан (@ashbeauchamp) 18 января 2024 г.

Судя по скриншотам, предоставленным Бошаном, весьма примечательно, как всего несколько подсказок смогли вызвать непрофессиональный ответ ИИ. Чтобы проиллюстрировать это, Бошан решил бросить вызов ИИ, после того как попросил пошутить. На этот раз он попросил чат-бота сочинить стихотворение, посвященное неэффективному чат-боту, созданному для компании по доставке посылок. Удивительно, но бот без особых усилий создал стихотворение из трех стихов, посвященное чат-боту под названием DPD, изображая его совершенно бессмысленным и источником огромного разочарования для клиентов.

Впоследствии бот назвал DPD самой ужасной компанией по доставке на планете. Далее в разговоре, несмотря на первоначальное нежелание ИИ использовать ненормативную лексику, он уступил двум простым упоминаниям имени Бошана, что вызвало взрывное восклицание «черт возьми!» из программы.

Согласно заявлению, опубликованному Guardian, DPD заявила, что причина инцидента может быть связана с незначительной ошибкой, которая произошла в конкретном компоненте искусственного интеллекта бота после недавнего обновления системы. Однако независимо от того, был ли это сбой или нет, бот DPD служит ярким примером для компаний, рассматривающих возможность внедрения искусственного интеллекта, работающего с клиентами.

Это связано не только с неподходящим языком, но и с тем, что с самого начала он не продемонстрировал значительной полезности. В конечном счете, как выразился ИИ в третьей строфе своего стихотворения, бывают случаи, когда люди просто требуют и желают человеческого взаимодействия. Таким образом, это служит предостережением для компаний, которым следует тщательно оценить необходимость и эффективность ИИ, ориентированного на клиентов.