Огромное количество вирусных фотографий, связанных с конфликтом Израиль-ХАМАС, оказалось фальшивками, созданными искусственным интеллектом

В интервью, опубликованном Associated Press, исследователи из нескольких фирм и организаций, занимающихся проверкой правдивости онлайн-утверждений, рассказали, что наблюдается зловещий прилив фальшивых фотографий, созданных искусственным интеллектом, на которых изображены зверски убитые дети, и они используются для обвинений обеих сторон в этом кровавом конфликте между Израилем и группой ХАМАС.


Имран Ахмед, генеральный директор Центра против цифровой ненависти, заявил, что независимо от того, делятся ли люди изображениями из давно известных конфликтов в Израиле/Палестине или новейшими цифровыми подделками, — или в некоторых случаях сочетанием обоих вариантов, — эффект их воздействия на чувствительные струны социума один и тот же.


— Имран Ахмед.

Хотя это и не первый случай манипулирования с помощью искусственного интеллекта, использование цифровых фейков наблюдалось и в предыдущих конфликтах, таких как российская операция на Украине. Однако текущая ситуация, когда распространяются сфабрикованные изображения умерших или раненых детей, является не только отвратительной демонстрацией беспощадных возможностей технологии, но и тревожным признаком более зловещих событий, которые ждут нас впереди.


— Жан-Клод Гольденштейн, генеральный директор фирмы по проверке подлинности CREOpoint, которая создала базу данных вирусных подделок.

Не следует заблуждаться: в ужасных конфликтах погибает огромное количество детей. Создание фейковых изображений не только искажает наше восприятие реальности, но и имеет множество последствий. Одним из важных последствий является то, что когда люди сталкиваются с визуальными свидетельствами, изображающими зверства войны, они могут быть склонны отвергнуть их как искусственное творение, созданное с помощью передовых технологий.

Что делает ситуацию еще сложнее, инструменты, предназначенные для обнаружения подлинных или подделанных искусственным интеллектом фотографий, иногда могут ошибаться — это известная проблема, которую злоумышленники также могут использовать для разжигания еще большего раздора в конфликте, в котором и так нет недостатка.

Дэвид Домерн, эксперт по цифровой безопасности, ранее руководивший работами посвященными национальной безопасности и рискам цифровой дезинформации с искусственным интеллектом в Пентагоне, заявил Associated Press, что должны быть предприняты усилия как со стороны правительств, так и общественных и частных секторов не только по улучшению технологий, но и по применению более строгих норм и стандартов.


— Дэвид Домерн.