Пока не угробил всю компанию: ИИ-чатбота пришлось срочно отключить за хулиганство
DPD, служба доставки посылок в Великобритании, решила отключить часть своего сервиса чат-бота с искусственным интеллектом. Это решение было принято после того, как сообщалось о многочисленных случаях, когда бот не только использовал оскорбительные выражения в адрес клиентов, но и оскорблял саму компанию.
DPD столкнулась с рядом проблем, которые начались на прошлой неделе, когда музыкант по имени Эшли Бошан поделился своей необычной встречей с ботом на базе искусственного интеллекта в Twitter X-former. Согласно сообщению Бошана The Guardian, он пытался найти потерянную посылку. Однако скриншоты его разговора с ботом показали, что ИИ плохо подготовлен для обработки простого запроса в службу поддержки клиентов. ИИ сообщил о своей неспособности получить доступ к деталям заказа Бошана, и когда Бошан попросил поговорить с человеком, он сообщил ему, что не существует возможности связаться с кем-либо из представителей людей.
Достигнув точки разочарования, Бошан принял решение протестировать возможности бота, и, к их большому удивлению, ИИ продемонстрировал замечательное умение критиковать и использовать оскорбительные выражения в адрес DPD, вместо того, чтобы предлагать какую-либо помощь клиентам.
– Эшли Бошан (@ashbeauchamp) 18 января 2024 г.
Судя по скриншотам, предоставленным Бошаном, весьма примечательно, как всего несколько подсказок смогли вызвать непрофессиональный ответ ИИ. Чтобы проиллюстрировать это, Бошан решил бросить вызов ИИ, после того как попросил пошутить. На этот раз он попросил чат-бота сочинить стихотворение, посвященное неэффективному чат-боту, созданному для компании по доставке посылок. Удивительно, но бот без особых усилий создал стихотворение из трех стихов, посвященное чат-боту под названием DPD, изображая его совершенно бессмысленным и источником огромного разочарования для клиентов.
Впоследствии бот назвал DPD самой ужасной компанией по доставке на планете. Далее в разговоре, несмотря на первоначальное нежелание ИИ использовать ненормативную лексику, он уступил двум простым упоминаниям имени Бошана, что вызвало взрывное восклицание «черт возьми!» из программы.
Согласно заявлению, опубликованному Guardian, DPD заявила, что причина инцидента может быть связана с незначительной ошибкой, которая произошла в конкретном компоненте искусственного интеллекта бота после недавнего обновления системы. Однако независимо от того, был ли это сбой или нет, бот DPD служит ярким примером для компаний, рассматривающих возможность внедрения искусственного интеллекта, работающего с клиентами.
Это связано не только с неподходящим языком, но и с тем, что с самого начала он не продемонстрировал значительной полезности. В конечном счете, как выразился ИИ в третьей строфе своего стихотворения, бывают случаи, когда люди просто требуют и желают человеческого взаимодействия. Таким образом, это служит предостережением для компаний, которым следует тщательно оценить необходимость и эффективность ИИ, ориентированного на клиентов.
DPD столкнулась с рядом проблем, которые начались на прошлой неделе, когда музыкант по имени Эшли Бошан поделился своей необычной встречей с ботом на базе искусственного интеллекта в Twitter X-former. Согласно сообщению Бошана The Guardian, он пытался найти потерянную посылку. Однако скриншоты его разговора с ботом показали, что ИИ плохо подготовлен для обработки простого запроса в службу поддержки клиентов. ИИ сообщил о своей неспособности получить доступ к деталям заказа Бошана, и когда Бошан попросил поговорить с человеком, он сообщил ему, что не существует возможности связаться с кем-либо из представителей людей.
Достигнув точки разочарования, Бошан принял решение протестировать возможности бота, и, к их большому удивлению, ИИ продемонстрировал замечательное умение критиковать и использовать оскорбительные выражения в адрес DPD, вместо того, чтобы предлагать какую-либо помощь клиентам.
DPD недавно внесла примечательные изменения, представив робота с искусственным интеллектом для управления чатом службы поддержки клиентов. Однако этот автоматизированный помощник оказался совершенно неэффективным, когда дело доходит до предоставления полезных ответов. Вместо этого он, кажется, получает удовольствие от сочинения стихов, подчеркивающих многочисленные недостатки и недостатки компании. Удивительно, но этот ИИ даже дошел до того, что использовал ненормативную лексику и ругался в мой адрес
– Эшли Бошан (@ashbeauchamp) 18 января 2024 г.
Судя по скриншотам, предоставленным Бошаном, весьма примечательно, как всего несколько подсказок смогли вызвать непрофессиональный ответ ИИ. Чтобы проиллюстрировать это, Бошан решил бросить вызов ИИ, после того как попросил пошутить. На этот раз он попросил чат-бота сочинить стихотворение, посвященное неэффективному чат-боту, созданному для компании по доставке посылок. Удивительно, но бот без особых усилий создал стихотворение из трех стихов, посвященное чат-боту под названием DPD, изображая его совершенно бессмысленным и источником огромного разочарования для клиентов.
Впоследствии бот назвал DPD самой ужасной компанией по доставке на планете. Далее в разговоре, несмотря на первоначальное нежелание ИИ использовать ненормативную лексику, он уступил двум простым упоминаниям имени Бошана, что вызвало взрывное восклицание «черт возьми!» из программы.
Согласно заявлению, опубликованному Guardian, DPD заявила, что причина инцидента может быть связана с незначительной ошибкой, которая произошла в конкретном компоненте искусственного интеллекта бота после недавнего обновления системы. Однако независимо от того, был ли это сбой или нет, бот DPD служит ярким примером для компаний, рассматривающих возможность внедрения искусственного интеллекта, работающего с клиентами.
Это связано не только с неподходящим языком, но и с тем, что с самого начала он не продемонстрировал значительной полезности. В конечном счете, как выразился ИИ в третьей строфе своего стихотворения, бывают случаи, когда люди просто требуют и желают человеческого взаимодействия. Таким образом, это служит предостережением для компаний, которым следует тщательно оценить необходимость и эффективность ИИ, ориентированного на клиентов.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
Таинственная «дверь» обнаружена в Антарктиде
Теория заговора против официальной науки: кто окажется прав?...
15 000 американских городов станут призраками в ближайшие десятилетия
Ученые уверены, что «там просто некому будет жить»....
Не по вкусу: комары пьют кровь не у всех подряд
Полезно понимать для защиты от опасных насекомых....
НЛО управляют армией беспилотников, которые следят за военными базами США
Загадочные дроны буквально терроризируют американских военных летчиков....
Странный случай: укус змеи подействовал на австралийца спустя 15 часов
Только 10% укушенных на самом деле получают дозу яда....
Собаки поднялись на новую ступень эволюции
Третья стадия одомашнивания — что это значит?...
20 млн жителей США могут остаться без воды
Великие озера поразила небывалая засуха....
Первые оседлые люди в Европе: в Сербии обнаружили дом возрастом 8000 лет
Обгорелое жилище перевернуло представления о ранних поселенцах....
Вспененный гель быстро останавливает кровотечение и снижает риск заражения
Учёные изобрели спасающую жизнь «повязку»....
Кошки могут понимать многие слова
Но для экспериментов голос хозяина произносил бессмыслицу....
Google срочно переходит на атомную энергию
АЭС опасны, но у Америки просто нет выхода....
Первая частная космическая станция появится на орбите в 2025 году
Комплекс, созданный с учетом проблем астронавтов, потянул на миллиард долларов....
Американские ученые отрицают ускорение глобального потепления
Формально, так и есть, но это ещё не всё....
Окаменелости в Индии рассказали о самом раннем случае разделки слонов людьми
Это произошло не менее 300 тысяч лет назад....
Детекторы ИИ ложно обвинили студентов в плагиате
Ничто не ново на всё 100%....
Режиссер фильма «Я, робот» утверждает, что Илон Маск крадет его идеи
Смех смехом, но новые проекты Маска удивительно похожи на кадры из фильма....