Чат-бот «виртуальной дружбы» запретили в Италии из-за детей
Replika, чат-бот с искусственным интеллектом (ИИ) для «виртуальной дружбы», попал под запрет на передачу данных в Италии из-за безопасности детей, а также за другие нарушения.
Производитель чат-ботов с ИИ Luka, Inc. из Сан-Франциско управляет сервисом виртуальной дружбы по бизнес-модели freemium. То есть безовая версия бесплатна, а варианты с дополнительными опциями доступны за плату. Смысл чат-бота в настраиваемых цифровых аватарах, чьи «персонализированные» ответы основаны на ИИ, а цель — улучшить настроение пользователей.
Стартап Luka основали в Сан-Франциско россияне: бывшая обозревательница «Афиши» Евгения Куйда и экс-сотрудник «РИА Новости» Филипп Дудчук. Общее число инвестиций в Replika в 2017-м, в год запуска, превысило 11 млн $. Поначалу ПО создавали как цифровую копию пользователя, но вскоре переформатировали в полноценного собеседника, с которым каждый день общаются «за жизнь» тысячи человек.
И вот «дружелюбному» чат-боту выписали приказ от итальянской Garante per la protezione dei dati personali (Гарант защиты персональных данных) — прекратить обработку данных местных пользователей.
Госудетсвенный регулятор выразил обеспокоенность, что технология чат-ботов Replika представляет опасность для несовершеннолетних.
— гарант защиты персональных данных.
А также в ведомстве отметили, что компании-разработчику не хватает надлежащей правовой основы для обработки данных детей в соответствии с правилами Европейского Союза.
Ещё итальянские чиновники обвинили компанию разработчика приложения Replika в невыполнении требований регионального законодательства — чётко обозначить, как ПО использует данные пользователей.
И прежде звучали опасения по поводу рисков, которые технология может представлять для детей: что дети могут столкнуться с неподобающим контентом, что могут стать зависимыми от общения с ИИ или что просто будут вынуждены тратить много денег на настройку своих аватаров или на доступ к другому платному контенту. Но итальянский регулятор, похоже, первым принял официальные запретительные меры.
В распоряжении Garante оказалась информация о сексуально неприемлемом контенте. Причём приложение не проверяет возраст пользователей и не блокирует несовершеннолетних, которые предоставляют информацию о своём возрасте — отсюда и мнение, что Replika не в состоянии обезопасить детей.
Приказ о прекращении обработки данных итальянцев вступил в силу немедленно, при опубликовании. Невыполнение грозит штрафом до 20 млн евро, или 4% от общего мирового годового оборота.
Производитель чат-ботов с ИИ Luka, Inc. из Сан-Франциско управляет сервисом виртуальной дружбы по бизнес-модели freemium. То есть безовая версия бесплатна, а варианты с дополнительными опциями доступны за плату. Смысл чат-бота в настраиваемых цифровых аватарах, чьи «персонализированные» ответы основаны на ИИ, а цель — улучшить настроение пользователей.
Стартап Luka основали в Сан-Франциско россияне: бывшая обозревательница «Афиши» Евгения Куйда и экс-сотрудник «РИА Новости» Филипп Дудчук. Общее число инвестиций в Replika в 2017-м, в год запуска, превысило 11 млн $. Поначалу ПО создавали как цифровую копию пользователя, но вскоре переформатировали в полноценного собеседника, с которым каждый день общаются «за жизнь» тысячи человек.
И вот «дружелюбному» чат-боту выписали приказ от итальянской Garante per la protezione dei dati personali (Гарант защиты персональных данных) — прекратить обработку данных местных пользователей.
Госудетсвенный регулятор выразил обеспокоенность, что технология чат-ботов Replika представляет опасность для несовершеннолетних.
Недавние сообщения в СМИ, а также тесты, проведённые надзорным органом для Replika, показали, что приложение несёт фактические риски для детей — в первую очередь, тот факт, что им предоставляются ответы, которые абсолютно не соответствуют их возрасту
— гарант защиты персональных данных.
А также в ведомстве отметили, что компании-разработчику не хватает надлежащей правовой основы для обработки данных детей в соответствии с правилами Европейского Союза.
Ещё итальянские чиновники обвинили компанию разработчика приложения Replika в невыполнении требований регионального законодательства — чётко обозначить, как ПО использует данные пользователей.
И прежде звучали опасения по поводу рисков, которые технология может представлять для детей: что дети могут столкнуться с неподобающим контентом, что могут стать зависимыми от общения с ИИ или что просто будут вынуждены тратить много денег на настройку своих аватаров или на доступ к другому платному контенту. Но итальянский регулятор, похоже, первым принял официальные запретительные меры.
В распоряжении Garante оказалась информация о сексуально неприемлемом контенте. Причём приложение не проверяет возраст пользователей и не блокирует несовершеннолетних, которые предоставляют информацию о своём возрасте — отсюда и мнение, что Replika не в состоянии обезопасить детей.
Приказ о прекращении обработки данных итальянцев вступил в силу немедленно, при опубликовании. Невыполнение грозит штрафом до 20 млн евро, или 4% от общего мирового годового оборота.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
Возможно, целлофановые пчелы — спасение человечества: они миллионы лет делают то, что нужно нам как воздух
Поразительно, но удивительный продукт ученые нашли почти полвека назад, но почему-то до последнего времени не обращали на него внимания...
Тайна скифской ДНК: что поразило российских ученых, когда они заглянули в геном легендарных кочевников древности
Оказалось, что 2500 лет подряд историки ошибались в происхождении этого народа. Теории и учебники придется серьезно переписать...
Новый рецепт апокалипсиса: даже небольшая ядерная боеголовка на орбите гарантировано выведет из игры 99% аппаратов за считаные дни
Однако самое опасное, по словам ученых, начнется позже. Почему космос будет фактически закрыт?...
Ненужный рай: 1500-километровое путешествие показало, почему древние люди обходили стороной Зеленую Аравию
Выяснилось, что питьевая вода еще не делает местность пригодной для жилья. Племенам из древности требовалось еще кое-что необходимое...
Назад в будущее: в России вернут проводное радио. Зачем? Почему спорят эксперты?
В технологию уже вложено более миллиарда рублей, а МЧС называет проводное радио лучшим способом оповещения на сегодня...
Древние майя настолько любили красный цвет, что в итоге эта страсть, возможно, стала одной из причин гибели цивилизации
Ученые нашли доказательства, как яркая краска способствовала краху великой империи...
Авиация в США наконец-то уходит… с дискет: почему так поздно и как с этим обстоят дела в России?
Американцы потратили на выход из 90-х чудовищные суммы, но далеко не факт, что все заработает в срок и как надо...
Настоящий Ковчег Завета, возможно, спрятан в Эфиопии: почему его может видеть только один человек?
Этой истории 3000 лет, но она до сих пор далека от своего завершения...
Загадочный астероид неожиданно ускорился: у астрофизиков заканчиваются объяснения и гипотезы
Пожалуй, это самый интересный космический детектив за последнее время, и пока он далек до финала...
Наша Вселенная скреплена невидимым галактическим клеем: и без него нас бы не было
По словам ученых, «склеивание» произошло уже в первые секунды существования мироздания...
Парадокс Древнего Перу: жили мирно, но при этом приносили массовые и жестокие человеческие жертвы. Почему?
Ученый рассказал, какую роль в истории сыграл Эль-Ниньо и почему ритуальные убийства совершали «без гнева и конфликта»...
Усиленно боролись за чистоту, но просчитались: как роковая ошибка властей поставила под угрозу целый средневековый город
Норвежский Тронхейм был самым чистым в Европе, однако руководству города этого показалось мало. Хотели как лучше, а получилось как всегда...
Выход на новый уровень: почему Россия возрождает проводное радио, а Китай давно прокачал этот вид связи
У старой технологии обнаружился огромный потенциал, который поможет миллионам людей...
В России создана революционная упаковка: молоко будет свежим целый месяц
Разбираемся: не испортился ли вкус продукта и когда ожидать чудо-пачки в продаже...