В Google пытаются вручную удалить странные выдачи ИИ
В компании Google подтвердили, что «принимают быстрые меры» по удалению некоторых странных ответов, выданных фирменным искусственным интеллектом.
Соцсети пестрят примерами того, как в новом продукте Google с ИИ творится странное. Так, одни пользователи увидели совет мазать пиццу клеем, другим предложили… есть камни.
Сотрудники Google теперь пытаются вручную устранить появляющиеся свидетельства со скандальными поисковыми выдачами в виде экранных копий с дикими утверждениями, причину ехидных мемов. В результате пользователи видят, что многое из подобного контента исчезает вскоре после появления в соцсетях.
Ситуация складывается странная, поскольку Google уже год тестирует свои AI Overviews («Обзоры ИИ»). Обзоры представляют собой краткие сводки над результатами поисковика. И хотя тестируемый ИИ многое делает правильно, пользователи соцсетей отмечают многочисленные случаи со странными или противоречивыми ответами.
Функцию запустили в бета-версии в мае 2023 года, и гендиректор Сундар Пичаи сообщал, что с тех пор компания обслужила более миллиарда поисковых запросов. Причём стоимость генерации ответов ИИ снизилась с тех пор на 80% «благодаря аппаратным, инженерным и техническим достижениям».
Похоже, что оптимизация, которой похвалился гендиректор, оказалась преждевременной, ведь технология ещё сырая. Один из специалистов по ИИ на условиях анонимности сообщил изданию The Verge, что Google из передовой компании с высококачественными продуктами теперь приобрёл дополнительную известность из-за корявой разработки, которую вышучивают в мемах.
В Google продолжают заявлять, что их продукт с ИИ в значительной степени выдаёт пользователям «высококачественную информацию». Так, представитель Google Меганн Фарнсворт указала на странности в ряде курьёзных случаев. Многие из них, пояснила она, были необычными запросами, вроде «Сколько камней я съем?» А ещё были примеры, когда не удалось воспроизвести ответы ИИ, которые ранее вызвали смех. Фарнсворт также подтвердила, что компания «принимает оперативные меры» по удалению неудачных ответов ИИ.
Гэри Маркус, эксперт по ИИ и почётный профессор нейрологии Нью-Йоркского университета, сказал, что многие компании, занимающиеся ИИ, «продают мечты» о том, что эта технология будет корректной в пределах от 80% до 100%. Достичь начальных 80% относительно просто, считает эксперт, поскольку для этого требуется лишь обработка большого объёма собранных людьми данных. Но финальные 20% чрезвычайно сложны.
Маркус пояснил, что системе нужно решить, правдоподобно ли определённое утверждение и достоверен ли некий источник. ИИ должен научиться тому, что делал бы человек, проверяющий факты. Но для такого может потребоваться общий ИИ, не зависящий от успехов той или иной компании-разработчика.
Так что Google пока находится в трудном положении. Например, Bing добился успеха в области ИИ раньше, чем Google. Компания OpenAI, по сообщениям, работает над собственным продуктом, и её стартап с поисковиком на базе ИИ уже оценивают в 1 млрд $. А тем временем подрастающее поколение и вовсе фокусируется на TikTok.
Знаменитая компания явно испытывает давление из-за конкуренции, и это приводит к фальстартам с ИИ. Маркус напомнил, что ещё в 2022 году Meta* выпустила систему с ИИ под названием Galactica. И новинку пришлось удалить вскоре после запуска, потому что, среди прочего, эта самая «Галактика» советовала людям есть стекло. Звучит знакомо, памятуя о камнях с опубликованной выше экранной копии.
У Google грандиозные планы относительно ИИ. Уже достигнутое, при всех недочётах, — лишь толика того, что компания анонсировала недавно. Среди заявленных амбиций — многоступенчатое обоснование сложных запросов, возможность генерировать страницу результатов, поиск видео в Google Lens. Но прямо сейчас репутация компании зависит только от правильного понимания основ, и с этим пока вышел конфуз.
Позволим себе вставить свои «пять копеек»: если все ИИ-рисовальщики выдают то шестипалые руки, то ветвистые пальцы, то жуткие глаза, а ещё никак не научатся делать понятные надписи даже на английском — чему тут вообще удивляться? Кто знает, быть может, спустя пару лет шумиха вокруг ИИ закончится признанием подобных проектов всего лишь удобными, но небезупречными инструментами, одними из многих.
*Meta признана экстремистской организацией и запрещена на территории РФ.
Соцсети пестрят примерами того, как в новом продукте Google с ИИ творится странное. Так, одни пользователи увидели совет мазать пиццу клеем, другим предложили… есть камни.
Сотрудники Google теперь пытаются вручную устранить появляющиеся свидетельства со скандальными поисковыми выдачами в виде экранных копий с дикими утверждениями, причину ехидных мемов. В результате пользователи видят, что многое из подобного контента исчезает вскоре после появления в соцсетях.
Ситуация складывается странная, поскольку Google уже год тестирует свои AI Overviews («Обзоры ИИ»). Обзоры представляют собой краткие сводки над результатами поисковика. И хотя тестируемый ИИ многое делает правильно, пользователи соцсетей отмечают многочисленные случаи со странными или противоречивыми ответами.
Функцию запустили в бета-версии в мае 2023 года, и гендиректор Сундар Пичаи сообщал, что с тех пор компания обслужила более миллиарда поисковых запросов. Причём стоимость генерации ответов ИИ снизилась с тех пор на 80% «благодаря аппаратным, инженерным и техническим достижениям».
Похоже, что оптимизация, которой похвалился гендиректор, оказалась преждевременной, ведь технология ещё сырая. Один из специалистов по ИИ на условиях анонимности сообщил изданию The Verge, что Google из передовой компании с высококачественными продуктами теперь приобрёл дополнительную известность из-за корявой разработки, которую вышучивают в мемах.
В Google продолжают заявлять, что их продукт с ИИ в значительной степени выдаёт пользователям «высококачественную информацию». Так, представитель Google Меганн Фарнсворт указала на странности в ряде курьёзных случаев. Многие из них, пояснила она, были необычными запросами, вроде «Сколько камней я съем?» А ещё были примеры, когда не удалось воспроизвести ответы ИИ, которые ранее вызвали смех. Фарнсворт также подтвердила, что компания «принимает оперативные меры» по удалению неудачных ответов ИИ.
Гэри Маркус, эксперт по ИИ и почётный профессор нейрологии Нью-Йоркского университета, сказал, что многие компании, занимающиеся ИИ, «продают мечты» о том, что эта технология будет корректной в пределах от 80% до 100%. Достичь начальных 80% относительно просто, считает эксперт, поскольку для этого требуется лишь обработка большого объёма собранных людьми данных. Но финальные 20% чрезвычайно сложны.
Маркус пояснил, что системе нужно решить, правдоподобно ли определённое утверждение и достоверен ли некий источник. ИИ должен научиться тому, что делал бы человек, проверяющий факты. Но для такого может потребоваться общий ИИ, не зависящий от успехов той или иной компании-разработчика.
Так что Google пока находится в трудном положении. Например, Bing добился успеха в области ИИ раньше, чем Google. Компания OpenAI, по сообщениям, работает над собственным продуктом, и её стартап с поисковиком на базе ИИ уже оценивают в 1 млрд $. А тем временем подрастающее поколение и вовсе фокусируется на TikTok.
Знаменитая компания явно испытывает давление из-за конкуренции, и это приводит к фальстартам с ИИ. Маркус напомнил, что ещё в 2022 году Meta* выпустила систему с ИИ под названием Galactica. И новинку пришлось удалить вскоре после запуска, потому что, среди прочего, эта самая «Галактика» советовала людям есть стекло. Звучит знакомо, памятуя о камнях с опубликованной выше экранной копии.
У Google грандиозные планы относительно ИИ. Уже достигнутое, при всех недочётах, — лишь толика того, что компания анонсировала недавно. Среди заявленных амбиций — многоступенчатое обоснование сложных запросов, возможность генерировать страницу результатов, поиск видео в Google Lens. Но прямо сейчас репутация компании зависит только от правильного понимания основ, и с этим пока вышел конфуз.
Позволим себе вставить свои «пять копеек»: если все ИИ-рисовальщики выдают то шестипалые руки, то ветвистые пальцы, то жуткие глаза, а ещё никак не научатся делать понятные надписи даже на английском — чему тут вообще удивляться? Кто знает, быть может, спустя пару лет шумиха вокруг ИИ закончится признанием подобных проектов всего лишь удобными, но небезупречными инструментами, одними из многих.
*Meta признана экстремистской организацией и запрещена на территории РФ.
- Дмитрий Ладыгин
- t.me/kandinsky21_bot; reddit.com
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
Таинственная «дверь» обнаружена в Антарктиде
Теория заговора против официальной науки: кто окажется прав?...
15 000 американских городов станут призраками в ближайшие десятилетия
Ученые уверены, что «там просто некому будет жить»....
Не по вкусу: комары пьют кровь не у всех подряд
Полезно понимать для защиты от опасных насекомых....
НЛО управляют армией беспилотников, которые следят за военными базами США
Загадочные дроны буквально терроризируют американских военных летчиков....
Странный случай: укус змеи подействовал на австралийца спустя 15 часов
Только 10% укушенных на самом деле получают дозу яда....
Собаки поднялись на новую ступень эволюции
Третья стадия одомашнивания — что это значит?...
20 млн жителей США могут остаться без воды
Великие озера поразила небывалая засуха....
Первые оседлые люди в Европе: в Сербии обнаружили дом возрастом 8000 лет
Обгорелое жилище перевернуло представления о ранних поселенцах....
Вспененный гель быстро останавливает кровотечение и снижает риск заражения
Учёные изобрели спасающую жизнь «повязку»....
Кошки могут понимать многие слова
Но для экспериментов голос хозяина произносил бессмыслицу....
Google срочно переходит на атомную энергию
АЭС опасны, но у Америки просто нет выхода....
Первая частная космическая станция появится на орбите в 2025 году
Комплекс, созданный с учетом проблем астронавтов, потянул на миллиард долларов....
Американские ученые отрицают ускорение глобального потепления
Формально, так и есть, но это ещё не всё....
Окаменелости в Индии рассказали о самом раннем случае разделки слонов людьми
Это произошло не менее 300 тысяч лет назад....
Детекторы ИИ ложно обвинили студентов в плагиате
Ничто не ново на всё 100%....
Режиссер фильма «Я, робот» утверждает, что Илон Маск крадет его идеи
Смех смехом, но новые проекты Маска удивительно похожи на кадры из фильма....