В Google пытаются вручную удалить странные выдачи ИИ
В компании Google подтвердили, что «принимают быстрые меры» по удалению некоторых странных ответов, выданных фирменным искусственным интеллектом.
Соцсети пестрят примерами того, как в новом продукте Google с ИИ творится странное. Так, одни пользователи увидели совет мазать пиццу клеем, другим предложили… есть камни.

Сотрудники Google теперь пытаются вручную устранить появляющиеся свидетельства со скандальными поисковыми выдачами в виде экранных копий с дикими утверждениями, причину ехидных мемов. В результате пользователи видят, что многое из подобного контента исчезает вскоре после появления в соцсетях.
Ситуация складывается странная, поскольку Google уже год тестирует свои AI Overviews («Обзоры ИИ»). Обзоры представляют собой краткие сводки над результатами поисковика. И хотя тестируемый ИИ многое делает правильно, пользователи соцсетей отмечают многочисленные случаи со странными или противоречивыми ответами.
Функцию запустили в бета-версии в мае 2023 года, и гендиректор Сундар Пичаи сообщал, что с тех пор компания обслужила более миллиарда поисковых запросов. Причём стоимость генерации ответов ИИ снизилась с тех пор на 80% «благодаря аппаратным, инженерным и техническим достижениям».
Похоже, что оптимизация, которой похвалился гендиректор, оказалась преждевременной, ведь технология ещё сырая. Один из специалистов по ИИ на условиях анонимности сообщил изданию The Verge, что Google из передовой компании с высококачественными продуктами теперь приобрёл дополнительную известность из-за корявой разработки, которую вышучивают в мемах.
В Google продолжают заявлять, что их продукт с ИИ в значительной степени выдаёт пользователям «высококачественную информацию». Так, представитель Google Меганн Фарнсворт указала на странности в ряде курьёзных случаев. Многие из них, пояснила она, были необычными запросами, вроде «Сколько камней я съем?» А ещё были примеры, когда не удалось воспроизвести ответы ИИ, которые ранее вызвали смех. Фарнсворт также подтвердила, что компания «принимает оперативные меры» по удалению неудачных ответов ИИ.
Гэри Маркус, эксперт по ИИ и почётный профессор нейрологии Нью-Йоркского университета, сказал, что многие компании, занимающиеся ИИ, «продают мечты» о том, что эта технология будет корректной в пределах от 80% до 100%. Достичь начальных 80% относительно просто, считает эксперт, поскольку для этого требуется лишь обработка большого объёма собранных людьми данных. Но финальные 20% чрезвычайно сложны.
Маркус пояснил, что системе нужно решить, правдоподобно ли определённое утверждение и достоверен ли некий источник. ИИ должен научиться тому, что делал бы человек, проверяющий факты. Но для такого может потребоваться общий ИИ, не зависящий от успехов той или иной компании-разработчика.
Так что Google пока находится в трудном положении. Например, Bing добился успеха в области ИИ раньше, чем Google. Компания OpenAI, по сообщениям, работает над собственным продуктом, и её стартап с поисковиком на базе ИИ уже оценивают в 1 млрд $. А тем временем подрастающее поколение и вовсе фокусируется на TikTok.
Знаменитая компания явно испытывает давление из-за конкуренции, и это приводит к фальстартам с ИИ. Маркус напомнил, что ещё в 2022 году Meta* выпустила систему с ИИ под названием Galactica. И новинку пришлось удалить вскоре после запуска, потому что, среди прочего, эта самая «Галактика» советовала людям есть стекло. Звучит знакомо, памятуя о камнях с опубликованной выше экранной копии.
У Google грандиозные планы относительно ИИ. Уже достигнутое, при всех недочётах, — лишь толика того, что компания анонсировала недавно. Среди заявленных амбиций — многоступенчатое обоснование сложных запросов, возможность генерировать страницу результатов, поиск видео в Google Lens. Но прямо сейчас репутация компании зависит только от правильного понимания основ, и с этим пока вышел конфуз.
Позволим себе вставить свои «пять копеек»: если все ИИ-рисовальщики выдают то шестипалые руки, то ветвистые пальцы, то жуткие глаза, а ещё никак не научатся делать понятные надписи даже на английском — чему тут вообще удивляться? Кто знает, быть может, спустя пару лет шумиха вокруг ИИ закончится признанием подобных проектов всего лишь удобными, но небезупречными инструментами, одними из многих.
*Meta признана экстремистской организацией и запрещена на территории РФ.
Соцсети пестрят примерами того, как в новом продукте Google с ИИ творится странное. Так, одни пользователи увидели совет мазать пиццу клеем, другим предложили… есть камни.

Сотрудники Google теперь пытаются вручную устранить появляющиеся свидетельства со скандальными поисковыми выдачами в виде экранных копий с дикими утверждениями, причину ехидных мемов. В результате пользователи видят, что многое из подобного контента исчезает вскоре после появления в соцсетях.
Ситуация складывается странная, поскольку Google уже год тестирует свои AI Overviews («Обзоры ИИ»). Обзоры представляют собой краткие сводки над результатами поисковика. И хотя тестируемый ИИ многое делает правильно, пользователи соцсетей отмечают многочисленные случаи со странными или противоречивыми ответами.
Функцию запустили в бета-версии в мае 2023 года, и гендиректор Сундар Пичаи сообщал, что с тех пор компания обслужила более миллиарда поисковых запросов. Причём стоимость генерации ответов ИИ снизилась с тех пор на 80% «благодаря аппаратным, инженерным и техническим достижениям».
Похоже, что оптимизация, которой похвалился гендиректор, оказалась преждевременной, ведь технология ещё сырая. Один из специалистов по ИИ на условиях анонимности сообщил изданию The Verge, что Google из передовой компании с высококачественными продуктами теперь приобрёл дополнительную известность из-за корявой разработки, которую вышучивают в мемах.
В Google продолжают заявлять, что их продукт с ИИ в значительной степени выдаёт пользователям «высококачественную информацию». Так, представитель Google Меганн Фарнсворт указала на странности в ряде курьёзных случаев. Многие из них, пояснила она, были необычными запросами, вроде «Сколько камней я съем?» А ещё были примеры, когда не удалось воспроизвести ответы ИИ, которые ранее вызвали смех. Фарнсворт также подтвердила, что компания «принимает оперативные меры» по удалению неудачных ответов ИИ.
Гэри Маркус, эксперт по ИИ и почётный профессор нейрологии Нью-Йоркского университета, сказал, что многие компании, занимающиеся ИИ, «продают мечты» о том, что эта технология будет корректной в пределах от 80% до 100%. Достичь начальных 80% относительно просто, считает эксперт, поскольку для этого требуется лишь обработка большого объёма собранных людьми данных. Но финальные 20% чрезвычайно сложны.
Маркус пояснил, что системе нужно решить, правдоподобно ли определённое утверждение и достоверен ли некий источник. ИИ должен научиться тому, что делал бы человек, проверяющий факты. Но для такого может потребоваться общий ИИ, не зависящий от успехов той или иной компании-разработчика.
Так что Google пока находится в трудном положении. Например, Bing добился успеха в области ИИ раньше, чем Google. Компания OpenAI, по сообщениям, работает над собственным продуктом, и её стартап с поисковиком на базе ИИ уже оценивают в 1 млрд $. А тем временем подрастающее поколение и вовсе фокусируется на TikTok.
Знаменитая компания явно испытывает давление из-за конкуренции, и это приводит к фальстартам с ИИ. Маркус напомнил, что ещё в 2022 году Meta* выпустила систему с ИИ под названием Galactica. И новинку пришлось удалить вскоре после запуска, потому что, среди прочего, эта самая «Галактика» советовала людям есть стекло. Звучит знакомо, памятуя о камнях с опубликованной выше экранной копии.
У Google грандиозные планы относительно ИИ. Уже достигнутое, при всех недочётах, — лишь толика того, что компания анонсировала недавно. Среди заявленных амбиций — многоступенчатое обоснование сложных запросов, возможность генерировать страницу результатов, поиск видео в Google Lens. Но прямо сейчас репутация компании зависит только от правильного понимания основ, и с этим пока вышел конфуз.
Позволим себе вставить свои «пять копеек»: если все ИИ-рисовальщики выдают то шестипалые руки, то ветвистые пальцы, то жуткие глаза, а ещё никак не научатся делать понятные надписи даже на английском — чему тут вообще удивляться? Кто знает, быть может, спустя пару лет шумиха вокруг ИИ закончится признанием подобных проектов всего лишь удобными, но небезупречными инструментами, одними из многих.
*Meta признана экстремистской организацией и запрещена на территории РФ.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
Возможно, целлофановые пчелы — спасение человечества: они миллионы лет делают то, что нужно нам как воздух
Поразительно, но удивительный продукт ученые нашли почти полвека назад, но почему-то до последнего времени не обращали на него внимания...
Тайна скифской ДНК: что поразило российских ученых, когда они заглянули в геном легендарных кочевников древности
Оказалось, что 2500 лет подряд историки ошибались в происхождении этого народа. Теории и учебники придется серьезно переписать...
Новый рецепт апокалипсиса: даже небольшая ядерная боеголовка на орбите гарантировано выведет из игры 99% аппаратов за считаные дни
Однако самое опасное, по словам ученых, начнется позже. Почему космос будет фактически закрыт?...
Ненужный рай: 1500-километровое путешествие показало, почему древние люди обходили стороной Зеленую Аравию
Выяснилось, что питьевая вода еще не делает местность пригодной для жилья. Племенам из древности требовалось еще кое-что необходимое...
Назад в будущее: в России вернут проводное радио. Зачем? Почему спорят эксперты?
В технологию уже вложено более миллиарда рублей, а МЧС называет проводное радио лучшим способом оповещения на сегодня...
Древние майя настолько любили красный цвет, что в итоге эта страсть, возможно, стала одной из причин гибели цивилизации
Ученые нашли доказательства, как яркая краска способствовала краху великой империи...
Авиация в США наконец-то уходит… с дискет: почему так поздно и как с этим обстоят дела в России?
Американцы потратили на выход из 90-х чудовищные суммы, но далеко не факт, что все заработает в срок и как надо...
Настоящий Ковчег Завета, возможно, спрятан в Эфиопии: почему его может видеть только один человек?
Этой истории 3000 лет, но она до сих пор далека от своего завершения...
Загадочный астероид неожиданно ускорился: у астрофизиков заканчиваются объяснения и гипотезы
Пожалуй, это самый интересный космический детектив за последнее время, и пока он далек до финала...
Наша Вселенная скреплена невидимым галактическим клеем: и без него нас бы не было
По словам ученых, «склеивание» произошло уже в первые секунды существования мироздания...
Парадокс Древнего Перу: жили мирно, но при этом приносили массовые и жестокие человеческие жертвы. Почему?
Ученый рассказал, какую роль в истории сыграл Эль-Ниньо и почему ритуальные убийства совершали «без гнева и конфликта»...
Усиленно боролись за чистоту, но просчитались: как роковая ошибка властей поставила под угрозу целый средневековый город
Норвежский Тронхейм был самым чистым в Европе, однако руководству города этого показалось мало. Хотели как лучше, а получилось как всегда...
В России создана революционная упаковка: молоко будет свежим целый месяц
Разбираемся: не испортился ли вкус продукта и когда ожидать чудо-пачки в продаже...
Выход на новый уровень: почему Россия возрождает проводное радио, а Китай давно прокачал этот вид связи
У старой технологии обнаружился огромный потенциал, который поможет миллионам людей...