Нацистский интернационал: Google вынужден отключить платформу Gemini из-за скандала в сети

Google приостановил работу своего ИИ-генератора изображений искусственного интеллекта из-за склонности к созданию крайне неточных исторических иллюстраций — таких как темнокожих нацистов — которые заставляли людей возмущаться в социальных сетях.


Сегодня утром компания Google объявила о приостановке работы своего инструмента Gemini AI в сообщении на платформе социальных сетей X (ранее Twitter).


— Google.

Google начал позволять пользователям использовать генератор изображений Gemini несколько недель назад, но пользователи быстро заметили, что платформа создает мягко говоря некорректные изображения, что привело к неловкой паузе в работе сервиса. Возмутившие пользователей сети изображения генерировались нейросетью при попытке пользователя воссоздать исторические сюжеты и дискредетировали людей по расовому признаку. В частности Gemini настойчиво гененрировал изображение представителей разных рас в рядах фашистских войск при создании сюжетов о Второй мировой войне.

Ситуация побудила консервативных критиков обвинить Google в предвзятом отношении к белым людям, добавив еще одну главу в культурные войны с ИИ. В то же время толерантно-осторожные критики спешат подчеркнуть: это не значит, что ремиксы на историю не могут быть интересными и провокационными — достаточно взглянуть на популярное бродвейское шоу «Гамильтон», которое представило цветных людей как отцов-основателей Америки, получивших одобрение широких масс.

С другой стороны, ИИ Google, похоже, на автопилоте вносит разнообразие в исторические образы, даже если контекст причудливый или оскорбительный, как, например, создание изображений расово разнообразных нацистских солдат во Второй мировой войне. Хуже того, ИИ, похоже, активно добавлял разнообразие в исторические образы, даже не предлагая пользователю внести изменения.

Это происходит не впервые: в прошлом году, когда проект Gemini еще назывался Bard, инструмент искусственного интеллекта выдал неточную информацию во время дебютной демонстрации, что привело к падению акций материнской компании Alphabet.

Google, по сути, пытается догнать поддерживаемую Microsoft OpenAI, которая около недели назад произвела огромный фурор благодаря своему AI-видеогенератору Sora. OpenAI до сих пор доминирует в этом зарождающемся высококонкурентном секторе, давая своим покровителям в Microsoft быструю победу.

Несомненно, инженеры Google сейчас работают над исправлением Gemini, чтобы технологический гигант мог восстановить свои позиции. Но он все еще может страдать от проблем, особенно в вопросах авторского права, от которых страдают другие генераторы изображений — и, как показывает эта последняя оплошность, ИИ отличается от ранних технологий своей безграничной способностью совершать громкие ошибки.