В Google пытаются вручную удалить странные выдачи ИИ

В компании Google подтвердили, что «принимают быстрые меры» по удалению некоторых странных ответов, выданных фирменным искусственным интеллектом.


Соцсети пестрят примерами того, как в новом продукте Google с ИИ творится странное. Так, одни пользователи увидели совет мазать пиццу клеем, другим предложили… есть камни.



Сотрудники Google теперь пытаются вручную устранить появляющиеся свидетельства со скандальными поисковыми выдачами в виде экранных копий с дикими утверждениями, причину ехидных мемов. В результате пользователи видят, что многое из подобного контента исчезает вскоре после появления в соцсетях.

Ситуация складывается странная, поскольку Google уже год тестирует свои AI Overviews («Обзоры ИИ»). Обзоры представляют собой краткие сводки над результатами поисковика. И хотя тестируемый ИИ многое делает правильно, пользователи соцсетей отмечают многочисленные случаи со странными или противоречивыми ответами.

Функцию запустили в бета-версии в мае 2023 года, и гендиректор Сундар Пичаи сообщал, что с тех пор компания обслужила более миллиарда поисковых запросов. Причём стоимость генерации ответов ИИ снизилась с тех пор на 80% «благодаря аппаратным, инженерным и техническим достижениям».

Похоже, что оптимизация, которой похвалился гендиректор, оказалась преждевременной, ведь технология ещё сырая. Один из специалистов по ИИ на условиях анонимности сообщил изданию The Verge, что Google из передовой компании с высококачественными продуктами теперь приобрёл дополнительную известность из-за корявой разработки, которую вышучивают в мемах.

В Google продолжают заявлять, что их продукт с ИИ в значительной степени выдаёт пользователям «высококачественную информацию». Так, представитель Google Меганн Фарнсворт указала на странности в ряде курьёзных случаев. Многие из них, пояснила она, были необычными запросами, вроде «Сколько камней я съем?» А ещё были примеры, когда не удалось воспроизвести ответы ИИ, которые ранее вызвали смех. Фарнсворт также подтвердила, что компания «принимает оперативные меры» по удалению неудачных ответов ИИ.

Гэри Маркус, эксперт по ИИ и почётный профессор нейрологии Нью-Йоркского университета, сказал, что многие компании, занимающиеся ИИ, «продают мечты» о том, что эта технология будет корректной в пределах от 80% до 100%. Достичь начальных 80% относительно просто, считает эксперт, поскольку для этого требуется лишь обработка большого объёма собранных людьми данных. Но финальные 20% чрезвычайно сложны.

Маркус пояснил, что системе нужно решить, правдоподобно ли определённое утверждение и достоверен ли некий источник. ИИ должен научиться тому, что делал бы человек, проверяющий факты. Но для такого может потребоваться общий ИИ, не зависящий от успехов той или иной компании-разработчика.

Так что Google пока находится в трудном положении. Например, Bing добился успеха в области ИИ раньше, чем Google. Компания OpenAI, по сообщениям, работает над собственным продуктом, и её стартап с поисковиком на базе ИИ уже оценивают в 1 млрд $. А тем временем подрастающее поколение и вовсе фокусируется на TikTok.

Знаменитая компания явно испытывает давление из-за конкуренции, и это приводит к фальстартам с ИИ. Маркус напомнил, что ещё в 2022 году Meta* выпустила систему с ИИ под названием Galactica. И новинку пришлось удалить вскоре после запуска, потому что, среди прочего, эта самая «Галактика» советовала людям есть стекло. Звучит знакомо, памятуя о камнях с опубликованной выше экранной копии.

У Google грандиозные планы относительно ИИ. Уже достигнутое, при всех недочётах, — лишь толика того, что компания анонсировала недавно. Среди заявленных амбиций — многоступенчатое обоснование сложных запросов, возможность генерировать страницу результатов, поиск видео в Google Lens. Но прямо сейчас репутация компании зависит только от правильного понимания основ, и с этим пока вышел конфуз.

Позволим себе вставить свои «пять копеек»: если все ИИ-рисовальщики выдают то шестипалые руки, то ветвистые пальцы, то жуткие глаза, а ещё никак не научатся делать понятные надписи даже на английском — чему тут вообще удивляться? Кто знает, быть может, спустя пару лет шумиха вокруг ИИ закончится признанием подобных проектов всего лишь удобными, но небезупречными инструментами, одними из многих.

*Meta признана экстремистской организацией и запрещена на территории РФ.