Звёзды в глазах: подделанные ИИ лица выявили с помощью методов астрономии
Британские учёные обратились к астрономическим расчётам, чтобы обнаружить сгенерированные компьютером графические дипфейки лиц, которые на первый взгляд могут выглядеть идентично подлинным фотографиям.
Напомним, что дипфейк (от английского deepfake) — это методика синтеза изображения или звука, основанная на искусственном интеллекте (ИИ). Достижения в области ИИ всё больше стирают разницу между подлинными изображениями, видео и аудио и созданными с помощью алгоритмов. Дипфейками могут подменять черты лица либо всё окружающее человека на картинке пространство, чтобы создать ложное впечатление о событиях и действиях. Вот почему представители различных властей уже высказывали предостережения, что эта технология может быть использована для распространения дезинформации, например, во время выборов.
Астрономы подвергли анализу фотографии лиц с использованием методов, которые обычно используются для наблюдения далёких галактик. В результате они научились фиксировать, как глаза подлинного человека отражают свет, и это помогает выявлять признаки сгенерированных изображений.
Представил исследование на Национальном собрании Королевского астрономического общества Великобритании Кевин Пимблет, директор Центра передового опыта в области науки о данных, ИИ и моделирования в Университете Халла. Он оговорился, что речь пока не идёт о «серебряной пуле», поскольку в ходе исследования были получены как ложноположительные, так и ложноотрицательные результаты. Однако новый метод всё же является важным шагом вперёд, и его можно присоединить к другим программным средствам для определения подлинности изображений, убеждён учёный.
Подлинные фотографии должны иметь «согласованную физику», объяснил Пимблет. Проще говоря, отражения, которые вы видите в левом глазу на фото, должны быть очень похожи, хотя и не всегда идентичны, бликам, в правом глазу. Различия на первый взгляд незначительны, поэтому исследователи и обратились к методам, разработанным для анализа света на изображениях астрономических объектов.
Научная работа легла в основу магистерской диссертации Адехумоке Оволаби, специалистки по обработке данных из Университета Халла. Исследовательница взяла подлинные фотографии из фоторесурса Flickr-Faces-HQ и создала поддельные лица с помощью генератора изображений. Затем Олволаби проанализировала блики в глазах на изображениях, используя два астрономических инструмента: систему CAS и индекс Джини. Система CAS количественными характеристиками определяет концентрацию, асимметрию и плавность распределения света на анализируемом объекте. На протяжении десятилетий этот метод позволял астрономам, включая Пимблета, изучать свет звёзд.
А индекс Джини — статистический показатель, которым часто пользуются для определения неравенства в доходах населения, но он также позволяет измерять неравномерность распределения света на изображениях галактик.

Сравнивая отсветы в глазах на фотографиях, Оволаби смогла с точностью примерно в 70% определить, было ли изображение дипфейком. В конечном итоге исследователи обнаружили, что индекс Джини лучше, чем система CAS, предсказывает, подвергались ли изображения манипуляциям со стороны ИИ.
Брант Робертсон, астрофизик из Калифорнийского университета, отметил ценность научных выводов Оволаби. И тут же поделился опасениями: если можно рассчитать показатель реалистичности изображении, то можно также обучить модель ИИ созданию более качественных подделок.
Чживу Хуанг, исследователь ИИ из Университета Саутгемптона, Великобритания, сказал, что его собственное исследование не выявило несоответствия световых особенностей в глазах на дипфейках. Но вместе с тем он признал, что возможность обнаруживать диссонанс в физических проявлениях света способна дополнить существующие методы и повысить общую точность обнаружения визуальных подделок.
Напомним, что дипфейк (от английского deepfake) — это методика синтеза изображения или звука, основанная на искусственном интеллекте (ИИ). Достижения в области ИИ всё больше стирают разницу между подлинными изображениями, видео и аудио и созданными с помощью алгоритмов. Дипфейками могут подменять черты лица либо всё окружающее человека на картинке пространство, чтобы создать ложное впечатление о событиях и действиях. Вот почему представители различных властей уже высказывали предостережения, что эта технология может быть использована для распространения дезинформации, например, во время выборов.
Астрономы подвергли анализу фотографии лиц с использованием методов, которые обычно используются для наблюдения далёких галактик. В результате они научились фиксировать, как глаза подлинного человека отражают свет, и это помогает выявлять признаки сгенерированных изображений.
Представил исследование на Национальном собрании Королевского астрономического общества Великобритании Кевин Пимблет, директор Центра передового опыта в области науки о данных, ИИ и моделирования в Университете Халла. Он оговорился, что речь пока не идёт о «серебряной пуле», поскольку в ходе исследования были получены как ложноположительные, так и ложноотрицательные результаты. Однако новый метод всё же является важным шагом вперёд, и его можно присоединить к другим программным средствам для определения подлинности изображений, убеждён учёный.
Подлинные фотографии должны иметь «согласованную физику», объяснил Пимблет. Проще говоря, отражения, которые вы видите в левом глазу на фото, должны быть очень похожи, хотя и не всегда идентичны, бликам, в правом глазу. Различия на первый взгляд незначительны, поэтому исследователи и обратились к методам, разработанным для анализа света на изображениях астрономических объектов.
Научная работа легла в основу магистерской диссертации Адехумоке Оволаби, специалистки по обработке данных из Университета Халла. Исследовательница взяла подлинные фотографии из фоторесурса Flickr-Faces-HQ и создала поддельные лица с помощью генератора изображений. Затем Олволаби проанализировала блики в глазах на изображениях, используя два астрономических инструмента: систему CAS и индекс Джини. Система CAS количественными характеристиками определяет концентрацию, асимметрию и плавность распределения света на анализируемом объекте. На протяжении десятилетий этот метод позволял астрономам, включая Пимблета, изучать свет звёзд.
А индекс Джини — статистический показатель, которым часто пользуются для определения неравенства в доходах населения, но он также позволяет измерять неравномерность распределения света на изображениях галактик.

Сравнивая отсветы в глазах на фотографиях, Оволаби смогла с точностью примерно в 70% определить, было ли изображение дипфейком. В конечном итоге исследователи обнаружили, что индекс Джини лучше, чем система CAS, предсказывает, подвергались ли изображения манипуляциям со стороны ИИ.
Брант Робертсон, астрофизик из Калифорнийского университета, отметил ценность научных выводов Оволаби. И тут же поделился опасениями: если можно рассчитать показатель реалистичности изображении, то можно также обучить модель ИИ созданию более качественных подделок.
Чживу Хуанг, исследователь ИИ из Университета Саутгемптона, Великобритания, сказал, что его собственное исследование не выявило несоответствия световых особенностей в глазах на дипфейках. Но вместе с тем он признал, что возможность обнаруживать диссонанс в физических проявлениях света способна дополнить существующие методы и повысить общую точность обнаружения визуальных подделок.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
Возможно, целлофановые пчелы — спасение человечества: они миллионы лет делают то, что нужно нам как воздух
Поразительно, но удивительный продукт ученые нашли почти полвека назад, но почему-то до последнего времени не обращали на него внимания...
Тайна скифской ДНК: что поразило российских ученых, когда они заглянули в геном легендарных кочевников древности
Оказалось, что 2500 лет подряд историки ошибались в происхождении этого народа. Теории и учебники придется серьезно переписать...
Новый рецепт апокалипсиса: даже небольшая ядерная боеголовка на орбите гарантировано выведет из игры 99% аппаратов за считаные дни
Однако самое опасное, по словам ученых, начнется позже. Почему космос будет фактически закрыт?...
Ненужный рай: 1500-километровое путешествие показало, почему древние люди обходили стороной Зеленую Аравию
Выяснилось, что питьевая вода еще не делает местность пригодной для жилья. Племенам из древности требовалось еще кое-что необходимое...
Назад в будущее: в России вернут проводное радио. Зачем? Почему спорят эксперты?
В технологию уже вложено более миллиарда рублей, а МЧС называет проводное радио лучшим способом оповещения на сегодня...
Древние майя настолько любили красный цвет, что в итоге эта страсть, возможно, стала одной из причин гибели цивилизации
Ученые нашли доказательства, как яркая краска способствовала краху великой империи...
Авиация в США наконец-то уходит… с дискет: почему так поздно и как с этим обстоят дела в России?
Американцы потратили на выход из 90-х чудовищные суммы, но далеко не факт, что все заработает в срок и как надо...
Настоящий Ковчег Завета, возможно, спрятан в Эфиопии: почему его может видеть только один человек?
Этой истории 3000 лет, но она до сих пор далека от своего завершения...
Загадочный астероид неожиданно ускорился: у астрофизиков заканчиваются объяснения и гипотезы
Пожалуй, это самый интересный космический детектив за последнее время, и пока он далек до финала...
Наша Вселенная скреплена невидимым галактическим клеем: и без него нас бы не было
По словам ученых, «склеивание» произошло уже в первые секунды существования мироздания...
Парадокс Древнего Перу: жили мирно, но при этом приносили массовые и жестокие человеческие жертвы. Почему?
Ученый рассказал, какую роль в истории сыграл Эль-Ниньо и почему ритуальные убийства совершали «без гнева и конфликта»...
Усиленно боролись за чистоту, но просчитались: как роковая ошибка властей поставила под угрозу целый средневековый город
Норвежский Тронхейм был самым чистым в Европе, однако руководству города этого показалось мало. Хотели как лучше, а получилось как всегда...
В России создана революционная упаковка: молоко будет свежим целый месяц
Разбираемся: не испортился ли вкус продукта и когда ожидать чудо-пачки в продаже...
Выход на новый уровень: почему Россия возрождает проводное радио, а Китай давно прокачал этот вид связи
У старой технологии обнаружился огромный потенциал, который поможет миллионам людей...