Зачем ученые скармливают ИИ «отравленные» изображения

Что происходит с вашими фото, которые вы загружаете в интернет? Может быть, они попадают в руки недобросовестных разработчиков, которые используют их для обучения искусственного интеллекта (ИИ). Таким образом, они могут нарушать вашу авторскую собственность и конфиденциальность.


Но есть способ защитить свои фото от такого злоупотребления. Исследователи из Чикагского университета предложили метод «отравления» изображения, который позволяет внедрить в них скрытые помехи, которые не заметны для человеческого глаза, но сбивают с толку ИИ.

Суть метода заключается в том, что на изображение накладывается специальный шум, который изменяет его пиксели на небольшую величину. Это не влияет на качество изображения для человека, но делает его бесполезным для ИИ. Если такое изображение использовать для обучения ИИ, то он будет давать неправильные результаты.

Например, если вы хотите защитить свое фото собаки от кражи, вы можете «отравить» его так, что ИИ будет думать, что это кот. Тогда, если кто-то попытается использовать ваше фото для создания ИИ, который умеет распознавать животных, он получит ошибочный результат.

Исследователи продемонстрировали эффективность своего метода на разных задачах ИИ, таких как классификация изображений, генерация изображений и распознавание лиц. Они показали, что «отравленные» изображения могут существенно снизить точность ИИ и даже вызвать его поломку.

Метод «отравления» изображения — эффективный инструмент для защиты авторских прав и личной информации от незаконного использования в искусственном интеллекте. Однако его необходимо использовать с осторожностью и ответственностью. Несанкционированное использование отравленных изображений может иметь негативные последствия, такие как манипуляция информацией или вредоносное воздействие на системы искусственного интеллекта.

Подобные нормы должны устанавливать, когда и в каких случаях допустимо использование метода "отравления" изображения, а также определять ответственность за его злоупотребление. Необходимо также проговаривать вопросы о прозрачности и понятности для пользователя, чтобы он мог знать, что его изображения могут быть модифицированы, и как эти модификации могут повлиять на последующую обработку данных. Поэтому важно разработать соответствующие этические и юридические нормы для регулирования применения этого метода.