Имран Ахмед, генеральный директор Центра против цифровой ненависти, заявил, что независимо от того, делятся ли люди изображениями из давно известных конфликтов в Израиле/Палестине или новейшими цифровыми подделками, — или в некоторых случаях сочетанием обоих вариантов, — эффект их воздействия на чувствительные струны социума один и тот же.
Людям говорят: ищите вот эту фотографию с ребенком. Дезинформация создана, чтобы заставить вас разделять ее
— Имран Ахмед.
Хотя это и не первый случай манипулирования с помощью искусственного интеллекта, использование цифровых фейков наблюдалось и в предыдущих конфликтах, таких как российская операция на Украине. Однако текущая ситуация, когда распространяются сфабрикованные изображения умерших или раненых детей, является не только отвратительной демонстрацией беспощадных возможностей технологии, но и тревожным признаком более зловещих событий, которые ждут нас впереди.
Дела пойдут еще хуже — намного хуже — прежде чем что-то изменится. Фотографии, видео и звук: с помощью генеративного искусственного интеллекта это будет эскалация, которую вы еще не видели
— Жан-Клод Гольденштейн, генеральный директор фирмы по проверке подлинности CREOpoint, которая создала базу данных вирусных подделок.
Не следует заблуждаться: в ужасных конфликтах погибает огромное количество детей. Создание фейковых изображений не только искажает наше восприятие реальности, но и имеет множество последствий. Одним из важных последствий является то, что когда люди сталкиваются с визуальными свидетельствами, изображающими зверства войны, они могут быть склонны отвергнуть их как искусственное творение, созданное с помощью передовых технологий.
Что делает ситуацию еще сложнее, инструменты, предназначенные для обнаружения подлинных или подделанных искусственным интеллектом фотографий, иногда могут ошибаться — это известная проблема, которую злоумышленники также могут использовать для разжигания еще большего раздора в конфликте, в котором и так нет недостатка.
Дэвид Домерн, эксперт по цифровой безопасности, ранее руководивший работами посвященными национальной безопасности и рискам цифровой дезинформации с искусственным интеллектом в Пентагоне, заявил Associated Press, что должны быть предприняты усилия как со стороны правительств, так и общественных и частных секторов не только по улучшению технологий, но и по применению более строгих норм и стандартов.
Каждый раз, когда мы выпускаем инструмент для обнаружения этого, наши противники могут использовать искусственный интеллект, чтобы замести след. Обнаружение и удаление этой гадости больше не являются решением. Нам нужно иметь гораздо более масштабное решение
— Дэвид Домерн.
