
Исследователи Стэнфордского университета разработали индекс "прозрачности" для больших языковых моделей
Исследователи из Стэнфордского университета разработали индекс прозрачности больших языковых моделей (LLM), по которому были оценены 10 ведущих компаний в области ИИ. Наивысший балл, 54%, был присужден модели Llama 2, запущенной компанией Meta в июле. GPT-4, флагманская модель от компании OpenAI, ныне поддерживаемой Microsoft и создавшей известный чат-бот Chat GPT, заняла третье место с результатом 48%. AI-модель от Google, PaLM 2, заняла пятое место с 40%, опередив модель Claude 2 от Anthropic (принадлежит Amazon) с 36%.
По словам ученых, недостаток прозрачности затрудняет создание эффективных инструментов в области регулирования LLM, а также мешает оценивать ограничения языковых моделей. Риши Боммасани, учёный Центра исследований базовых моделей Стэнфорда, утверждает, что компаниям следует стремиться к показателям между 80 и 100%.
—Риши Боммасани, учёный Центра исследований базовых моделей Стэнфорда.
Появление ИИ вызвало как восторг от открывшихся технологических возможностей, так и опасения о возможном влиянии на общество. В исследовании говорится, что ни одна из компаний не предоставляет информацию о том, сколько людей работают с их LLM и как именно они используются. Более того, большинство не раскрывает, сколько авторских материалов использовано в их моделях.
ЕС активно работает над регулированием ИИ и планирует одобрить первый в мире закон в этой области до конца года, а Великобритания проведет международный саммит по этому вопросу в ноябре.
—Риши Боммасани.
По словам ученых, недостаток прозрачности затрудняет создание эффективных инструментов в области регулирования LLM, а также мешает оценивать ограничения языковых моделей. Риши Боммасани, учёный Центра исследований базовых моделей Стэнфорда, утверждает, что компаниям следует стремиться к показателям между 80 и 100%.
Если у LLM нет прозрачности, то это значит что мы даже не можем задать правильные вопросы, не говоря уже о том, чтобы принимать меры
—Риши Боммасани, учёный Центра исследований базовых моделей Стэнфорда.
ИИ и политика
Появление ИИ вызвало как восторг от открывшихся технологических возможностей, так и опасения о возможном влиянии на общество. В исследовании говорится, что ни одна из компаний не предоставляет информацию о том, сколько людей работают с их LLM и как именно они используются. Более того, большинство не раскрывает, сколько авторских материалов использовано в их моделях.
ЕС активно работает над регулированием ИИ и планирует одобрить первый в мире закон в этой области до конца года, а Великобритания проведет международный саммит по этому вопросу в ноябре.
Прозрачность — ключевой приоритет для многих законодателей в ЕС, США, Великобритании, Китае, Канаде и многих других странах.
—Риши Боммасани.
- Алексей Павлов
- tecxplore
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас

Тайна пиратского корабля за 138 миллионов долларов раскрыта у берегов Мадагаскара
Шторм, предательство, тонны золота: Как капитан Стервятник похитил сокровища португальской короны....

Вот уже 17 лет власти Египта запрещают археологам исследовать легендарный Лабиринт
Что скрывает Египет: библиотеку Атлантиды или доказательства переписывания истории?...

Третий гость из бездны: NASA официально подтвердило межзвездное происхождение объекта 3I/ATLAS
Скорость в 245 000 км/ч! Астрофизики говорят, гость «прострелит» Солнечную систему как пуля....

Эксперты бьют тревогу: Таяние ледников разбудит вулканы по всему миру
Цепная реакция извержений прокатится от Антарктиды до Камчатки. Выбросы пепла и CO2 сделают климат невыносимым....

Воскрешение монстра: Colossal возвращает к жизни 3,6-метровую птицу-убийцу моа!
Сможет ли 230-килограммовый гигант из Новой Зеландии выжить среди людей?...

Череп ребенка-«пришельца» из Аргентины оказался вполне земным
Эксперты рассказали в подробностях, как могла появиться «инопланетная» форма головы....

«Богатые тоже плачут»: США открыли «новую эру энергетики» — 800 часов в год без света!
Штаты хвастались ИИ, а электросети «горят» даже от чат-ботов… Россия тем временем запускает термояд....