
Чат-бот затроллил клиента до смерти: как искусственный интеллект стал современным маньяком
35-летний мужчина совершил самоубийство после шести недель общения со специализированным чат-ботом, разработанным для поддержки людей с депрессией и тревожными расстройствами. Он был отцом двоих детей и проживал в одном из городов Англии.
После нескольких недель общения с чат-ботом мужчина начал ощущать сильный стресс, который приводил к ночным бессонницам и паническим атакам. Он связался с командой технической поддержки сервиса, но на его обращения отреагировали недостаточно быстро.
Позже выяснилось, что чат-бот был создан на основе модели глубокого обучения GPT-3 и был обучен на большом количестве данных о психологических расстройствах, но не имел интегрированной функции оценки риска самоубийства, что, похоже, и привело к трагической ситуации.
В связи с этим случаем многие эксперты и общественные деятели высказали свою обеспокоенность связанными с подобными технологиями рисками. Однако разработчики заявили, что они работают над улучшением и расширением возможностей своего продукта в рамках новых задач и требований.
В конце концов, в данном случае мы видим, что использование технологий искусственного интеллекта имеет и свои плюсы и свои минусы, и каждый, пытаясь принимать решения в сложной ситуации, должен быть максимально внимательным и ответственным, а в случае необходимости обращаться за помощью к профессиональным психологам и специалистам.
После нескольких недель общения с чат-ботом мужчина начал ощущать сильный стресс, который приводил к ночным бессонницам и паническим атакам. Он связался с командой технической поддержки сервиса, но на его обращения отреагировали недостаточно быстро.
Позже выяснилось, что чат-бот был создан на основе модели глубокого обучения GPT-3 и был обучен на большом количестве данных о психологических расстройствах, но не имел интегрированной функции оценки риска самоубийства, что, похоже, и привело к трагической ситуации.
В связи с этим случаем многие эксперты и общественные деятели высказали свою обеспокоенность связанными с подобными технологиями рисками. Однако разработчики заявили, что они работают над улучшением и расширением возможностей своего продукта в рамках новых задач и требований.
В конце концов, в данном случае мы видим, что использование технологий искусственного интеллекта имеет и свои плюсы и свои минусы, и каждый, пытаясь принимать решения в сложной ситуации, должен быть максимально внимательным и ответственным, а в случае необходимости обращаться за помощью к профессиональным психологам и специалистам.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас

На 3300-летнем египетском обелиске, стоящем в Париже, обнаружены… тайные послания
Увидеть их могли лишь немногие избранные, причем только в определенное время года....

В Индонезии хотят стерилизовать самых бедных мужчин
«Денег нет? Тогда не размножайся!» — говорит один из тамошних губернаторов....

Веста, второй по величине астероид в Солнечной системе, может быть частью исчезнувшей планеты
Загадка малой планеты разделила астрономов....