Чат-бот затроллил клиента до смерти: как искусственный интеллект стал современным маньяком

35-летний мужчина совершил самоубийство после шести недель общения со специализированным чат-ботом, разработанным для поддержки людей с депрессией и тревожными расстройствами. Он был отцом двоих детей и проживал в одном из городов Англии.


После нескольких недель общения с чат-ботом мужчина начал ощущать сильный стресс, который приводил к ночным бессонницам и паническим атакам. Он связался с командой технической поддержки сервиса, но на его обращения отреагировали недостаточно быстро.

Позже выяснилось, что чат-бот был создан на основе модели глубокого обучения GPT-3 и был обучен на большом количестве данных о психологических расстройствах, но не имел интегрированной функции оценки риска самоубийства, что, похоже, и привело к трагической ситуации.

В связи с этим случаем многие эксперты и общественные деятели высказали свою обеспокоенность связанными с подобными технологиями рисками. Однако разработчики заявили, что они работают над улучшением и расширением возможностей своего продукта в рамках новых задач и требований.

В конце концов, в данном случае мы видим, что использование технологий искусственного интеллекта имеет и свои плюсы и свои минусы, и каждый, пытаясь принимать решения в сложной ситуации, должен быть максимально внимательным и ответственным, а в случае необходимости обращаться за помощью к профессиональным психологам и специалистам.