Художникам бесплатно предоставили инструмент Nightshade, чтобы «отравлять» ИИ
Nightshade — новое бесплатное программное обеспечение (ПО), которое позволяет художникам «отравлять» модели искусственного интеллекта (ИИ), не давая им корректно включать в свою базу образов создаваемые изображения. Через несколько месяцев после анонсирования Nightshade теперь можно скачать и использовать в любых работах, где пожелают сами авторы.
Инструмент разработали в Чикагском университете под руководством профессора Бена Чжао в рамках проекта Glaze. Название Nightshade можно перевести и как «Паслён», и как «Ночная тень». По сути, ПО настраивает ИИ против ИИ. Инструмент базируется на популярной платформе машинного обучения с открытым исходным кодом PyTorch. С её помощью он определяет, что именно на том или ином изображении, затем встраивает тег, который незаметно глазу изменяет графику на уровне пикселей. В результате другие программы ИИ увидят что-то совершенно отличное от того, что видится на исходной картинке человеку.
Это уже второй такой инструмент от тех же разработчиков: почти год назад они представили Glaze, отдельное ПО. Glaze позволяет сбить с толку обучающие алгоритмы ИИ, «внушая» им, что стиль изображения отличается от реального. Например, что видимые человеку цвета и мазки кисти иные, чем в действительности.
Но Glaze задумывали как инструмент защиты, и его в этих целях рекомендуют применять в сочетании с Nightshade, чтобы модели ИИ не смогли сымитировать стиль художника. А вот у Nightshade наступательная, а не оборонительная, концепция.
Модель ИИ, которую попытались тренировать на картинках, изменённых с помощью Nightshade, скорее всего, ошибочно присвоит соответствующим объектам тот или иной класс для всех будущих пользователей этой модели. Причём эта заложенная инструментом «диверсия» сработает даже для тех изображений «отравленной» модели ИИ, которые не подверглись модификациям с помощью Nightshade.
Например, поле после внесённых новым инструментом изменений человеческие глаза будут воспринимать корову на лужайке всё той же, практически без изменений. Однако несанкционированный ИИ, как бы одурманенной внесённой обманкой, увидит большую кожаную сумку, лежащую в траве, пояснили создатели Nightshade.
Таким образом, модель ИИ, обученная по изображениям «отравленной» инструментом коровы, начнёт генерировать сумки вместо коров, даже если пользователь попросит модель сгенерировать корову.
Спрос на новый инструмент уже столь высок, что некоторые пользователи стали отмечать трудности с загрузкой ПО, в ряде случаев — до восьми часов. И это при том, что дистрибутив «весит» всего лишь 255 Мб и 2,6 Гб для Mac и ПК соответственно.
Коллектив Glaze / Nightshade вместе с тем отрицает, что преследует разрушительные цели. Они утверждают, что их целью была не поломка обучающихся моделей ИИ, а побудить разработчиков искусственного интеллекта тренировать его на лицензированных изображениях.
Другими словами, создатели стремятся сделать так, чтобы разработчики моделей ИИ платили художникам за обучение на их данных, над которыми не поработал коварный «Паслён», он же «Ночная тень». Кстати, съедобным чёрным паслёном действительно можно отравиться, если наброситься на слегка недозрелые ягоды, которые могут содержать атропин и соланин, второй особенно ядовит.
Инструмент разработали в Чикагском университете под руководством профессора Бена Чжао в рамках проекта Glaze. Название Nightshade можно перевести и как «Паслён», и как «Ночная тень». По сути, ПО настраивает ИИ против ИИ. Инструмент базируется на популярной платформе машинного обучения с открытым исходным кодом PyTorch. С её помощью он определяет, что именно на том или ином изображении, затем встраивает тег, который незаметно глазу изменяет графику на уровне пикселей. В результате другие программы ИИ увидят что-то совершенно отличное от того, что видится на исходной картинке человеку.
Это уже второй такой инструмент от тех же разработчиков: почти год назад они представили Glaze, отдельное ПО. Glaze позволяет сбить с толку обучающие алгоритмы ИИ, «внушая» им, что стиль изображения отличается от реального. Например, что видимые человеку цвета и мазки кисти иные, чем в действительности.
Но Glaze задумывали как инструмент защиты, и его в этих целях рекомендуют применять в сочетании с Nightshade, чтобы модели ИИ не смогли сымитировать стиль художника. А вот у Nightshade наступательная, а не оборонительная, концепция.
Модель ИИ, которую попытались тренировать на картинках, изменённых с помощью Nightshade, скорее всего, ошибочно присвоит соответствующим объектам тот или иной класс для всех будущих пользователей этой модели. Причём эта заложенная инструментом «диверсия» сработает даже для тех изображений «отравленной» модели ИИ, которые не подверглись модификациям с помощью Nightshade.
Например, поле после внесённых новым инструментом изменений человеческие глаза будут воспринимать корову на лужайке всё той же, практически без изменений. Однако несанкционированный ИИ, как бы одурманенной внесённой обманкой, увидит большую кожаную сумку, лежащую в траве, пояснили создатели Nightshade.
Таким образом, модель ИИ, обученная по изображениям «отравленной» инструментом коровы, начнёт генерировать сумки вместо коров, даже если пользователь попросит модель сгенерировать корову.
Спрос на новый инструмент уже столь высок, что некоторые пользователи стали отмечать трудности с загрузкой ПО, в ряде случаев — до восьми часов. И это при том, что дистрибутив «весит» всего лишь 255 Мб и 2,6 Гб для Mac и ПК соответственно.
Коллектив Glaze / Nightshade вместе с тем отрицает, что преследует разрушительные цели. Они утверждают, что их целью была не поломка обучающихся моделей ИИ, а побудить разработчиков искусственного интеллекта тренировать его на лицензированных изображениях.
Другими словами, создатели стремятся сделать так, чтобы разработчики моделей ИИ платили художникам за обучение на их данных, над которыми не поработал коварный «Паслён», он же «Ночная тень». Кстати, съедобным чёрным паслёном действительно можно отравиться, если наброситься на слегка недозрелые ягоды, которые могут содержать атропин и соланин, второй особенно ядовит.
- Дмитрий Ладыгин
- https://t.me/kandinsky21_bot
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
Таинственная «дверь» обнаружена в Антарктиде
Теория заговора против официальной науки: кто окажется прав?...
15 000 американских городов станут призраками в ближайшие десятилетия
Ученые уверены, что «там просто некому будет жить»....
Не по вкусу: комары пьют кровь не у всех подряд
Полезно понимать для защиты от опасных насекомых....
НЛО управляют армией беспилотников, которые следят за военными базами США
Загадочные дроны буквально терроризируют американских военных летчиков....
Странный случай: укус змеи подействовал на австралийца спустя 15 часов
Только 10% укушенных на самом деле получают дозу яда....
Собаки поднялись на новую ступень эволюции
Третья стадия одомашнивания — что это значит?...
20 млн жителей США могут остаться без воды
Великие озера поразила небывалая засуха....
Первые оседлые люди в Европе: в Сербии обнаружили дом возрастом 8000 лет
Обгорелое жилище перевернуло представления о ранних поселенцах....
Вспененный гель быстро останавливает кровотечение и снижает риск заражения
Учёные изобрели спасающую жизнь «повязку»....
Кошки могут понимать многие слова
Но для экспериментов голос хозяина произносил бессмыслицу....
Google срочно переходит на атомную энергию
АЭС опасны, но у Америки просто нет выхода....
Первая частная космическая станция появится на орбите в 2025 году
Комплекс, созданный с учетом проблем астронавтов, потянул на миллиард долларов....
Американские ученые отрицают ускорение глобального потепления
Формально, так и есть, но это ещё не всё....
Окаменелости в Индии рассказали о самом раннем случае разделки слонов людьми
Это произошло не менее 300 тысяч лет назад....
Детекторы ИИ ложно обвинили студентов в плагиате
Ничто не ново на всё 100%....
Режиссер фильма «Я, робот» утверждает, что Илон Маск крадет его идеи
Смех смехом, но новые проекты Маска удивительно похожи на кадры из фильма....