Чат-бот затроллил клиента до смерти: как искусственный интеллект стал современным маньяком
35-летний мужчина совершил самоубийство после шести недель общения со специализированным чат-ботом, разработанным для поддержки людей с депрессией и тревожными расстройствами. Он был отцом двоих детей и проживал в одном из городов Англии.
После нескольких недель общения с чат-ботом мужчина начал ощущать сильный стресс, который приводил к ночным бессонницам и паническим атакам. Он связался с командой технической поддержки сервиса, но на его обращения отреагировали недостаточно быстро.
Позже выяснилось, что чат-бот был создан на основе модели глубокого обучения GPT-3 и был обучен на большом количестве данных о психологических расстройствах, но не имел интегрированной функции оценки риска самоубийства, что, похоже, и привело к трагической ситуации.
В связи с этим случаем многие эксперты и общественные деятели высказали свою обеспокоенность связанными с подобными технологиями рисками. Однако разработчики заявили, что они работают над улучшением и расширением возможностей своего продукта в рамках новых задач и требований.
В конце концов, в данном случае мы видим, что использование технологий искусственного интеллекта имеет и свои плюсы и свои минусы, и каждый, пытаясь принимать решения в сложной ситуации, должен быть максимально внимательным и ответственным, а в случае необходимости обращаться за помощью к профессиональным психологам и специалистам.
После нескольких недель общения с чат-ботом мужчина начал ощущать сильный стресс, который приводил к ночным бессонницам и паническим атакам. Он связался с командой технической поддержки сервиса, но на его обращения отреагировали недостаточно быстро.
Позже выяснилось, что чат-бот был создан на основе модели глубокого обучения GPT-3 и был обучен на большом количестве данных о психологических расстройствах, но не имел интегрированной функции оценки риска самоубийства, что, похоже, и привело к трагической ситуации.
В связи с этим случаем многие эксперты и общественные деятели высказали свою обеспокоенность связанными с подобными технологиями рисками. Однако разработчики заявили, что они работают над улучшением и расширением возможностей своего продукта в рамках новых задач и требований.
В конце концов, в данном случае мы видим, что использование технологий искусственного интеллекта имеет и свои плюсы и свои минусы, и каждый, пытаясь принимать решения в сложной ситуации, должен быть максимально внимательным и ответственным, а в случае необходимости обращаться за помощью к профессиональным психологам и специалистам.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
Возможно, целлофановые пчелы — спасение человечества: они миллионы лет делают то, что нужно нам как воздух
Поразительно, но удивительный продукт ученые нашли почти полвека назад, но почему-то до последнего времени не обращали на него внимания...
Тайна скифской ДНК: что поразило российских ученых, когда они заглянули в геном легендарных кочевников древности
Оказалось, что 2500 лет подряд историки ошибались в происхождении этого народа. Теории и учебники придется серьезно переписать...
Новый рецепт апокалипсиса: даже небольшая ядерная боеголовка на орбите гарантировано выведет из игры 99% аппаратов за считаные дни
Однако самое опасное, по словам ученых, начнется позже. Почему космос будет фактически закрыт?...
Ненужный рай: 1500-километровое путешествие показало, почему древние люди обходили стороной Зеленую Аравию
Выяснилось, что питьевая вода еще не делает местность пригодной для жилья. Племенам из древности требовалось еще кое-что необходимое...
Назад в будущее: в России вернут проводное радио. Зачем? Почему спорят эксперты?
В технологию уже вложено более миллиарда рублей, а МЧС называет проводное радио лучшим способом оповещения на сегодня...
Древние майя настолько любили красный цвет, что в итоге эта страсть, возможно, стала одной из причин гибели цивилизации
Ученые нашли доказательства, как яркая краска способствовала краху великой империи...
Авиация в США наконец-то уходит… с дискет: почему так поздно и как с этим обстоят дела в России?
Американцы потратили на выход из 90-х чудовищные суммы, но далеко не факт, что все заработает в срок и как надо...
Настоящий Ковчег Завета, возможно, спрятан в Эфиопии: почему его может видеть только один человек?
Этой истории 3000 лет, но она до сих пор далека от своего завершения...
Загадочный астероид неожиданно ускорился: у астрофизиков заканчиваются объяснения и гипотезы
Пожалуй, это самый интересный космический детектив за последнее время, и пока он далек до финала...
Наша Вселенная скреплена невидимым галактическим клеем: и без него нас бы не было
По словам ученых, «склеивание» произошло уже в первые секунды существования мироздания...
Парадокс Древнего Перу: жили мирно, но при этом приносили массовые и жестокие человеческие жертвы. Почему?
Ученый рассказал, какую роль в истории сыграл Эль-Ниньо и почему ритуальные убийства совершали «без гнева и конфликта»...
Усиленно боролись за чистоту, но просчитались: как роковая ошибка властей поставила под угрозу целый средневековый город
Норвежский Тронхейм был самым чистым в Европе, однако руководству города этого показалось мало. Хотели как лучше, а получилось как всегда...
Выход на новый уровень: почему Россия возрождает проводное радио, а Китай давно прокачал этот вид связи
У старой технологии обнаружился огромный потенциал, который поможет миллионам людей...
В России создана революционная упаковка: молоко будет свежим целый месяц
Разбираемся: не испортился ли вкус продукта и когда ожидать чудо-пачки в продаже...