Чересчур умные боты инициировали «красный код» в Google

За последние три десятилетия несколько продуктов, таких как веб-браузер Netscape, поисковая система Google и iPhone от Apple, действительно перевернули технологическую индустрию и сделали то, что было до них, похожим на неуклюжих динозавров.


Три недели назад экспериментальный чат-бот под названием ChatGPT зарекомендовал себя как следующий крупный прорыв в отрасли. Он может предоставлять информацию в виде четких простых предложений, а не просто список интернет-ссылок. Он может объяснять концепции так, чтобы людям было легко их понять. Он даже может генерировать идеи с нуля, включая бизнес-стратегии, предложения рождественских подарков, темы для блогов и планы на отпуск.

Хотя у ChatGPT еще есть много возможностей для улучшения, его выпуск заставил руководство Google объявить «красный код». Для Google это было похоже на срабатывание пожарной сигнализации. Некоторые опасаются, что компания приближается к моменту, которого опасаются крупнейшие компании Силиконовой долины, — к глобальным технологическим изменениям, которые способны разрушить бизнес.

На протяжении более 20 лет поисковая система Google служила основным в мире шлюзом в Интернет. Но с новой технологией чат-ботов, готовой заново изобрести или даже заменить традиционные поисковые системы, Google может столкнуться с первой серьезной угрозой своему основному поисковому бизнесу.

ChatGPT выпущен исследовательской лабораторией OpenAI, и Google входит в число многих других компаний, лабораторий и исследователей, которые помогли создать эту технологию. Но эксперты считают, что технологическому гиганту будет сложно конкурировать с более новыми, более мелкими компаниями, разрабатывающими этих чат-ботов, из-за множества способов, которыми эта технология способна нанести ущерб его бизнесу.

Google несколько лет работал над чат-ботами и, как и другие крупные технологические компании, активно развивал технологии искусственного интеллекта. Google даже создал чат-бота, который может составить конкуренцию ChatGPT. На самом деле технология, лежащая в основе чат-бота OpenAI, была разработана исследователями из Google.

Названный LaMDA, или языковая модель для диалоговых приложений, чат-бот Google привлек огромное внимание летом, когда инженер Google Блейк Лемуан заявил, что он разумен. Это было неправдой, но технология показала, насколько улучшилась технология чат-ботов.

Однако Google может не захотеть использовать эту новую технологию в качестве замены онлайн-поиска, потому что она не подходит для доставки цифровой рекламы, на которую в прошлом году приходилось более 80% выручки компании.

Поскольку новые чат-боты изучают свои навыки, анализируя огромные объемы данных, размещенных в Интернете, они умеют смешивать вымысел с фактами, предоставляют информацию, которая может быть предвзятой в отношении пола и расы. Они могут генерировать токсичные идеи, в том числе разжигание ненависти.

Все это вполне способно настроить людей против Google и нанести ущерб корпоративному бренду, который компания создавала десятилетиями.

Даже если Google усовершенствует чат-ботов, он должен решить еще одну проблему: каннибализирует ли эта технология прибыльную поисковую рекламу компании? Если чат-бот отвечает на запросы короткими предложениями, у людей меньше причин переходить по рекламным ссылкам.


— Амр Авадалла, руководитель стартапа Vectara, разрабатывающего аналогичную технологию.

Сундар Пичаи, генеральный директор Google, провел серию совещаний, чтобы определить стратегию Google в области искусственного интеллекта, он переориентировал работу многочисленных групп внутри компании, чтобы отреагировать на угрозу, которую представляет ChatGPT. Сотрудникам также поручено разрабатывать продукты искусственного интеллекта, которые могут создавать иллюстрации и другие изображения, подобно OpenAI DALL-E.

По мере развития технологий, считают отраслевые эксперты, Google должна решить, будет ли она пересматривать свою поисковую систему и делать полноценный чат-бот лицом своего флагманского сервиса.

Google не хочет широко делиться технологией, потому что, как и ChatGPT и подобные системы, она может генерировать ложную, токсичную и предвзятую информацию. LaMDA доступен только ограниченному числу людей через экспериментальное приложение AI Test Kitchen.

Согласно меморандуму, просмотренному Times, Google рассматривает это как борьбу за развертывание своего продвинутого ИИ без вреда для пользователей или общества. На одном из недавних совещаний менеджер признал, что у небольших компаний меньше опасений по поводу выпуска этих инструментов, но подчеркнул, что Google должен вмешаться в борьбу, иначе отрасль сможет двигаться дальше без него.

У других компаний аналогичная проблема. Пять лет назад Microsoft выпустила чат-бота под названием Tay, который извергал расистские, ксенофобские и другие непристойные выражения, и была вынуждена немедленно удалить его из Интернета. В последние недели Meta удалила более нового чат-бота по похожим причинам.

Google уже работает над улучшением своей поисковой системы, используя ту же технологию, которая лежит в основе таких чат-ботов, как LaMDA и ChatGPT. Технология — «большая языковая модель» — это не просто способ для машин вести разговор. Сегодня ИИ помогает поисковой системе Google выделять релевантный ответ на заданный вами вопрос.

Многие эксперты считают, что Google продолжит придерживаться этого подхода, постепенно совершенствуя свою поисковую систему, а не переделывая ее. «Поиск Google довольно консервативен», — сказала Маргарет Митчелл, которая была исследователем ИИ в Microsoft и Google, где она помогла создать команду этического ИИ, а сейчас работает в исследовательской лаборатории Hugging Face. «Он пытается не испортить работающую систему».

Другие компании, в том числе Vectara и поисковая система Neeva, работают над совершенствованием поисковых технологий аналогичным образом. Но по мере того, как OpenAI и другие компании улучшают своих чат-ботов, работая над решением проблем с токсичностью и предвзятостью, они могут стать жизнеспособной заменой сегодняшним поисковым системам. Кто доберется туда первым, может стать победителем.