Нейросеть заговорила на языке, которому ее не обучали

В интервью каналу CBS президент Google Сундар Пичаи и два вице-президента компании продемонстрировали возможности нейросети Bard. Они попросили ее продолжить «самую короткую историю, которая может растрогать каждого», и Bard мгновенно выдал рассказ, который CBS назвал «глубоко человечным». Более того, через несколько секунд нейросеть переделала текст в стихотворение.


Однако самым удивительным фактом является то, что Bard выучил бенгальский язык, хотя на этом языке его не обучали. Старший вице-президент Google Джеймс Маниика рассказал, что результаты этого обучения сотрудники компании обнаружили случайно. В процессе общения тестировщики стали задавать Барду вопросы на бенгальском языке, и нейросеть неожиданно начала отвечать на нем.

Как объяснил этот феномен Федор Музалевский, директор технического департамента RTM Group, это объясняется тем, что нейросеть Bard пользовалась материалами, на которых были два языка одновременно, либо на каком-то схожем языке. Например, испанском и французском. Он также отметил, что нейросети обучаются самостоятельно и результаты их обучения достаточно сложно проконтролировать.

Тем не менее глава Google Сундар Пичаи считает, что внутренние процессы любой продвинутой нейросети остаются «черным ящиком» и никто точно не понимает, что именно происходит внутри модели. Он признался, что никаких галочек и подтверждений, что Bard знает тот или иной язык, нет. Нейросеть просто умеет пользоваться определенным количеством информации.

Данный феномен внушает определенные опасения. Кроме того, когда мы говорим о том, что ИИ написал какой-то текст на языке, на котором он до этого не писал, это может говорить о том, что он употребил большое количество материала, находящегося в интернете. Существует вероятность того, что в него закрался баг и он выдает неправильный текст.

Однако есть и определенная отдача от этого феномена. Например, нейросеть Bard может выдать миллион рассказов, пока Хемингуэй будет тянуться за ручкой. Более того, возможность пользоваться информацией, на которой нейросеть до этого не обучалась, очень важна, так как позволяет улучшить ее функциональность и дать ей еще больше возможностей, которые еще не были заложены в алгоритме.

Несмотря на все вопросы к возможностям нейросетей, их популярность и востребованность в наше время возрастает, и это никак не останавливает разработчиков.


— технический директор «Кросс Технолоджис» Александр Кукульчук

Таким образом, Bard и другие нейросети производят настоящий переворот в наших возможностях и новые технологии позволяют расширять наш кругозор. Несмотря на все вопросы и опасения к возможностям искусственного интеллекта, это явление продолжает удивлять, и мы можем только гадать, на что способен Бард и другие нейросети в ближайшем будущем.