Сегодня утром компания Google объявила о приостановке работы своего инструмента Gemini AI в сообщении на платформе социальных сетей X (ранее Twitter).
Мы уже работаем над решением недавних проблем с функцией генерации изображений Gemini. Пока мы это делаем, мы собираемся приостановить создание изображений людей и вскоре перевыпустим улучшенную версию
— Google.
Google начал позволять пользователям использовать генератор изображений Gemini несколько недель назад, но пользователи быстро заметили, что платформа создает мягко говоря некорректные изображения, что привело к неловкой паузе в работе сервиса. Возмутившие пользователей сети изображения генерировались нейросетью при попытке пользователя воссоздать исторические сюжеты и дискредетировали людей по расовому признаку. В частности Gemini настойчиво гененрировал изображение представителей разных рас в рядах фашистских войск при создании сюжетов о Второй мировой войне.
Ситуация побудила консервативных критиков обвинить Google в предвзятом отношении к белым людям, добавив еще одну главу в культурные войны с ИИ. В то же время толерантно-осторожные критики спешат подчеркнуть: это не значит, что ремиксы на историю не могут быть интересными и провокационными — достаточно взглянуть на популярное бродвейское шоу «Гамильтон», которое представило цветных людей как отцов-основателей Америки, получивших одобрение широких масс.
С другой стороны, ИИ Google, похоже, на автопилоте вносит разнообразие в исторические образы, даже если контекст причудливый или оскорбительный, как, например, создание изображений расово разнообразных нацистских солдат во Второй мировой войне. Хуже того, ИИ, похоже, активно добавлял разнообразие в исторические образы, даже не предлагая пользователю внести изменения.
Это происходит не впервые: в прошлом году, когда проект Gemini еще назывался Bard, инструмент искусственного интеллекта выдал неточную информацию во время дебютной демонстрации, что привело к падению акций материнской компании Alphabet.
Google, по сути, пытается догнать поддерживаемую Microsoft OpenAI, которая около недели назад произвела огромный фурор благодаря своему AI-видеогенератору Sora. OpenAI до сих пор доминирует в этом зарождающемся высококонкурентном секторе, давая своим покровителям в Microsoft быструю победу.
Несомненно, инженеры Google сейчас работают над исправлением Gemini, чтобы технологический гигант мог восстановить свои позиции. Но он все еще может страдать от проблем, особенно в вопросах авторского права, от которых страдают другие генераторы изображений — и, как показывает эта последняя оплошность, ИИ отличается от ранних технологий своей безграничной способностью совершать громкие ошибки.
