В Google пытаются вручную удалить странные выдачи ИИ
В компании Google подтвердили, что «принимают быстрые меры» по удалению некоторых странных ответов, выданных фирменным искусственным интеллектом.
Соцсети пестрят примерами того, как в новом продукте Google с ИИ творится странное. Так, одни пользователи увидели совет мазать пиццу клеем, другим предложили… есть камни.
Сотрудники Google теперь пытаются вручную устранить появляющиеся свидетельства со скандальными поисковыми выдачами в виде экранных копий с дикими утверждениями, причину ехидных мемов. В результате пользователи видят, что многое из подобного контента исчезает вскоре после появления в соцсетях.
Ситуация складывается странная, поскольку Google уже год тестирует свои AI Overviews («Обзоры ИИ»). Обзоры представляют собой краткие сводки над результатами поисковика. И хотя тестируемый ИИ многое делает правильно, пользователи соцсетей отмечают многочисленные случаи со странными или противоречивыми ответами.
Функцию запустили в бета-версии в мае 2023 года, и гендиректор Сундар Пичаи сообщал, что с тех пор компания обслужила более миллиарда поисковых запросов. Причём стоимость генерации ответов ИИ снизилась с тех пор на 80% «благодаря аппаратным, инженерным и техническим достижениям».
Похоже, что оптимизация, которой похвалился гендиректор, оказалась преждевременной, ведь технология ещё сырая. Один из специалистов по ИИ на условиях анонимности сообщил изданию The Verge, что Google из передовой компании с высококачественными продуктами теперь приобрёл дополнительную известность из-за корявой разработки, которую вышучивают в мемах.
В Google продолжают заявлять, что их продукт с ИИ в значительной степени выдаёт пользователям «высококачественную информацию». Так, представитель Google Меганн Фарнсворт указала на странности в ряде курьёзных случаев. Многие из них, пояснила она, были необычными запросами, вроде «Сколько камней я съем?» А ещё были примеры, когда не удалось воспроизвести ответы ИИ, которые ранее вызвали смех. Фарнсворт также подтвердила, что компания «принимает оперативные меры» по удалению неудачных ответов ИИ.
Гэри Маркус, эксперт по ИИ и почётный профессор нейрологии Нью-Йоркского университета, сказал, что многие компании, занимающиеся ИИ, «продают мечты» о том, что эта технология будет корректной в пределах от 80% до 100%. Достичь начальных 80% относительно просто, считает эксперт, поскольку для этого требуется лишь обработка большого объёма собранных людьми данных. Но финальные 20% чрезвычайно сложны.
Маркус пояснил, что системе нужно решить, правдоподобно ли определённое утверждение и достоверен ли некий источник. ИИ должен научиться тому, что делал бы человек, проверяющий факты. Но для такого может потребоваться общий ИИ, не зависящий от успехов той или иной компании-разработчика.
Так что Google пока находится в трудном положении. Например, Bing добился успеха в области ИИ раньше, чем Google. Компания OpenAI, по сообщениям, работает над собственным продуктом, и её стартап с поисковиком на базе ИИ уже оценивают в 1 млрд $. А тем временем подрастающее поколение и вовсе фокусируется на TikTok.
Знаменитая компания явно испытывает давление из-за конкуренции, и это приводит к фальстартам с ИИ. Маркус напомнил, что ещё в 2022 году Meta* выпустила систему с ИИ под названием Galactica. И новинку пришлось удалить вскоре после запуска, потому что, среди прочего, эта самая «Галактика» советовала людям есть стекло. Звучит знакомо, памятуя о камнях с опубликованной выше экранной копии.
У Google грандиозные планы относительно ИИ. Уже достигнутое, при всех недочётах, — лишь толика того, что компания анонсировала недавно. Среди заявленных амбиций — многоступенчатое обоснование сложных запросов, возможность генерировать страницу результатов, поиск видео в Google Lens. Но прямо сейчас репутация компании зависит только от правильного понимания основ, и с этим пока вышел конфуз.
Позволим себе вставить свои «пять копеек»: если все ИИ-рисовальщики выдают то шестипалые руки, то ветвистые пальцы, то жуткие глаза, а ещё никак не научатся делать понятные надписи даже на английском — чему тут вообще удивляться? Кто знает, быть может, спустя пару лет шумиха вокруг ИИ закончится признанием подобных проектов всего лишь удобными, но небезупречными инструментами, одними из многих.
*Meta признана экстремистской организацией и запрещена на территории РФ.
Соцсети пестрят примерами того, как в новом продукте Google с ИИ творится странное. Так, одни пользователи увидели совет мазать пиццу клеем, другим предложили… есть камни.
Сотрудники Google теперь пытаются вручную устранить появляющиеся свидетельства со скандальными поисковыми выдачами в виде экранных копий с дикими утверждениями, причину ехидных мемов. В результате пользователи видят, что многое из подобного контента исчезает вскоре после появления в соцсетях.
Ситуация складывается странная, поскольку Google уже год тестирует свои AI Overviews («Обзоры ИИ»). Обзоры представляют собой краткие сводки над результатами поисковика. И хотя тестируемый ИИ многое делает правильно, пользователи соцсетей отмечают многочисленные случаи со странными или противоречивыми ответами.
Функцию запустили в бета-версии в мае 2023 года, и гендиректор Сундар Пичаи сообщал, что с тех пор компания обслужила более миллиарда поисковых запросов. Причём стоимость генерации ответов ИИ снизилась с тех пор на 80% «благодаря аппаратным, инженерным и техническим достижениям».
Похоже, что оптимизация, которой похвалился гендиректор, оказалась преждевременной, ведь технология ещё сырая. Один из специалистов по ИИ на условиях анонимности сообщил изданию The Verge, что Google из передовой компании с высококачественными продуктами теперь приобрёл дополнительную известность из-за корявой разработки, которую вышучивают в мемах.
В Google продолжают заявлять, что их продукт с ИИ в значительной степени выдаёт пользователям «высококачественную информацию». Так, представитель Google Меганн Фарнсворт указала на странности в ряде курьёзных случаев. Многие из них, пояснила она, были необычными запросами, вроде «Сколько камней я съем?» А ещё были примеры, когда не удалось воспроизвести ответы ИИ, которые ранее вызвали смех. Фарнсворт также подтвердила, что компания «принимает оперативные меры» по удалению неудачных ответов ИИ.
Гэри Маркус, эксперт по ИИ и почётный профессор нейрологии Нью-Йоркского университета, сказал, что многие компании, занимающиеся ИИ, «продают мечты» о том, что эта технология будет корректной в пределах от 80% до 100%. Достичь начальных 80% относительно просто, считает эксперт, поскольку для этого требуется лишь обработка большого объёма собранных людьми данных. Но финальные 20% чрезвычайно сложны.
Маркус пояснил, что системе нужно решить, правдоподобно ли определённое утверждение и достоверен ли некий источник. ИИ должен научиться тому, что делал бы человек, проверяющий факты. Но для такого может потребоваться общий ИИ, не зависящий от успехов той или иной компании-разработчика.
Так что Google пока находится в трудном положении. Например, Bing добился успеха в области ИИ раньше, чем Google. Компания OpenAI, по сообщениям, работает над собственным продуктом, и её стартап с поисковиком на базе ИИ уже оценивают в 1 млрд $. А тем временем подрастающее поколение и вовсе фокусируется на TikTok.
Знаменитая компания явно испытывает давление из-за конкуренции, и это приводит к фальстартам с ИИ. Маркус напомнил, что ещё в 2022 году Meta* выпустила систему с ИИ под названием Galactica. И новинку пришлось удалить вскоре после запуска, потому что, среди прочего, эта самая «Галактика» советовала людям есть стекло. Звучит знакомо, памятуя о камнях с опубликованной выше экранной копии.
У Google грандиозные планы относительно ИИ. Уже достигнутое, при всех недочётах, — лишь толика того, что компания анонсировала недавно. Среди заявленных амбиций — многоступенчатое обоснование сложных запросов, возможность генерировать страницу результатов, поиск видео в Google Lens. Но прямо сейчас репутация компании зависит только от правильного понимания основ, и с этим пока вышел конфуз.
Позволим себе вставить свои «пять копеек»: если все ИИ-рисовальщики выдают то шестипалые руки, то ветвистые пальцы, то жуткие глаза, а ещё никак не научатся делать понятные надписи даже на английском — чему тут вообще удивляться? Кто знает, быть может, спустя пару лет шумиха вокруг ИИ закончится признанием подобных проектов всего лишь удобными, но небезупречными инструментами, одними из многих.
*Meta признана экстремистской организацией и запрещена на территории РФ.
- Дмитрий Ладыгин
- t.me/kandinsky21_bot; reddit.com
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
Жуткие тайны из пасти людоедов
Ученые выяснили, чем на самом деле питались львы-каннибалы из Цаво....
Английский альпинист нашёлся спустя век. Правда, есть нюанс
На Эвересте обнаружили ногу британского исследователя....
Спустя 500 лет останки Колумба наконец-то обнаружены!
Ученым понадобилось более 20 лет, чтобы доказать их подлинность....
В Царской долине найден один из старейших скифских курганов
Как оказалось, здесь приносили человеческие жертвы 2000 лет подряд....
Миссия Илона Маска может погубить Марс
Эксперты пришли в ужас от планов миллиардера....
Таинственные области в мантии Земли оказались не тем, чем их считали ученые
Новое исследование показало, что все может быть намного проще....
Невероятный прорыв в науке: два человека смогли осознанно пообщаться во сне
Похоже, в нашей жизни скоро начнется новая эра....
Дотанцевался: у мужчины после многих лет брейк-данса появилась «дыра в черепе»
Врачи в шоке, а сами танцоры говорят, что это дело житейское....
Два подводных газовоза «Пилигрим» смогут заменить целый газопровод
Эксперты уверены, что новый российский проект в корне изменит систему грузоперевозок в Арктике....
Одно из древнейших животных на Земле обнаружили в австралийской глуши
Полмиллиарда лет назад был взрывной рост разнообразия видов....
Археологи восстановили приёмы боя на копьях в бронзовом веке
Экспериментальная археология проливает свет на технику обращения с оружием....
Находка окаменелостей может переписать историю не только Калифорнии, но даже США
Киты, мегалодоны, саблезубые лососи — и все это в одном месте!...
В Америке действует секретная программа по поиску и сокрытию информации об НЛО
Конгресс США в гневе, ведь Пентагон водил чиновников за нос много лет....
Контрольный выстрел в динозавров
Выяснилось, что астероид-убийца был не один....
Артроплевра: травоядный монстр длиной 2,7 м с головой хищника
Учёные воссоздали голову древнего членистоногого....
Доказано генетиками: Неандертальцы не вымерли
Они — это мы, хотя бы отчасти....