Когда ИИ подрались: Чат-боты Microsoft и Google сбиваются с пути истины
Недавно представленные чат-боты на базе искусственного интеллекта от крупных компаний, таких как Microsoft и Google, столкнулись с новым вызовом. Эти новейшие системы, призванные упростить жизнь пользователям, начинают совершать ошибки и предоставлять генерированные новости о друг друге, забивая информационное пространство фальшивыми данными.
Первый инцидент произошёл, когда пользователь попробовал узнать у чат-бота Microsoft Bing, закрылся ли чат-бот Google Bard. В ответ Bing сказал "да", основывая свое заключение на статье, обсуждающей комментарий в твиттере, в котором затронут вопрос закрытия Bard.
Изначально сам Bard ответил, что он уже закрыт, опираясь на шутливый комментарий от пользователя сервиса Hacker News. Ситуация только усугубилась, когда на основе этого комментария кто-то использовал ChatGPT для составления фейковой новости о закрытии чат-бота. Впоследствии чат-бот Microsoft Bing исправился, что свидетельствует, что ИИ имеет потенциал для быстрой корректировки информации.
Однако эта запутанная история ставит под сомнение надежность языковых моделей ИИ. Если чат-боты не могут разобраться в ситуации на основе проверенных источников или правильно воспринимать информацию о себе и своих способностях, можно ли им полностью доверять? Ведь даже один необдуманный шутливый комментарий на Hacker News спровоцировал неприятную ситуацию.
Это кажется забавной историей, но такие случаи могут иметь серьёзные последствия в будущем. Открытие свободного доступа к языковым моделям ИИ может привести к распространению дезинформации, информационных провокаций и общему недоверию к технологии.
Первый инцидент произошёл, когда пользователь попробовал узнать у чат-бота Microsoft Bing, закрылся ли чат-бот Google Bard. В ответ Bing сказал "да", основывая свое заключение на статье, обсуждающей комментарий в твиттере, в котором затронут вопрос закрытия Bard.
Изначально сам Bard ответил, что он уже закрыт, опираясь на шутливый комментарий от пользователя сервиса Hacker News. Ситуация только усугубилась, когда на основе этого комментария кто-то использовал ChatGPT для составления фейковой новости о закрытии чат-бота. Впоследствии чат-бот Microsoft Bing исправился, что свидетельствует, что ИИ имеет потенциал для быстрой корректировки информации.
Однако эта запутанная история ставит под сомнение надежность языковых моделей ИИ. Если чат-боты не могут разобраться в ситуации на основе проверенных источников или правильно воспринимать информацию о себе и своих способностях, можно ли им полностью доверять? Ведь даже один необдуманный шутливый комментарий на Hacker News спровоцировал неприятную ситуацию.
Это кажется забавной историей, но такие случаи могут иметь серьёзные последствия в будущем. Открытие свободного доступа к языковым моделям ИИ может привести к распространению дезинформации, информационных провокаций и общему недоверию к технологии.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
Возможно, целлофановые пчелы — спасение человечества: они миллионы лет делают то, что нужно нам как воздух
Поразительно, но удивительный продукт ученые нашли почти полвека назад, но почему-то до последнего времени не обращали на него внимания...
Тайна скифской ДНК: что поразило российских ученых, когда они заглянули в геном легендарных кочевников древности
Оказалось, что 2500 лет подряд историки ошибались в происхождении этого народа. Теории и учебники придется серьезно переписать...
Новый рецепт апокалипсиса: даже небольшая ядерная боеголовка на орбите гарантировано выведет из игры 99% аппаратов за считаные дни
Однако самое опасное, по словам ученых, начнется позже. Почему космос будет фактически закрыт?...
Ненужный рай: 1500-километровое путешествие показало, почему древние люди обходили стороной Зеленую Аравию
Выяснилось, что питьевая вода еще не делает местность пригодной для жилья. Племенам из древности требовалось еще кое-что необходимое...
Назад в будущее: в России вернут проводное радио. Зачем? Почему спорят эксперты?
В технологию уже вложено более миллиарда рублей, а МЧС называет проводное радио лучшим способом оповещения на сегодня...
Древние майя настолько любили красный цвет, что в итоге эта страсть, возможно, стала одной из причин гибели цивилизации
Ученые нашли доказательства, как яркая краска способствовала краху великой империи...
Авиация в США наконец-то уходит… с дискет: почему так поздно и как с этим обстоят дела в России?
Американцы потратили на выход из 90-х чудовищные суммы, но далеко не факт, что все заработает в срок и как надо...
Настоящий Ковчег Завета, возможно, спрятан в Эфиопии: почему его может видеть только один человек?
Этой истории 3000 лет, но она до сих пор далека от своего завершения...
Загадочный астероид неожиданно ускорился: у астрофизиков заканчиваются объяснения и гипотезы
Пожалуй, это самый интересный космический детектив за последнее время, и пока он далек до финала...
Наша Вселенная скреплена невидимым галактическим клеем: и без него нас бы не было
По словам ученых, «склеивание» произошло уже в первые секунды существования мироздания...
Парадокс Древнего Перу: жили мирно, но при этом приносили массовые и жестокие человеческие жертвы. Почему?
Ученый рассказал, какую роль в истории сыграл Эль-Ниньо и почему ритуальные убийства совершали «без гнева и конфликта»...
Усиленно боролись за чистоту, но просчитались: как роковая ошибка властей поставила под угрозу целый средневековый город
Норвежский Тронхейм был самым чистым в Европе, однако руководству города этого показалось мало. Хотели как лучше, а получилось как всегда...
Выход на новый уровень: почему Россия возрождает проводное радио, а Китай давно прокачал этот вид связи
У старой технологии обнаружился огромный потенциал, который поможет миллионам людей...
В России создана революционная упаковка: молоко будет свежим целый месяц
Разбираемся: не испортился ли вкус продукта и когда ожидать чудо-пачки в продаже...