![Новый инструмент обнаруживает видео, созданные искусственным интеллектом, с точностью 93,7% Новый инструмент обнаруживает видео, созданные искусственным интеллектом, с точностью 93,7%](/uploads/posts/2024-06/novyj-proekt-2024-06-30t212519_510.webp)
Новый инструмент обнаруживает видео, созданные искусственным интеллектом, с точностью 93,7%
В этом году сотрудник многонациональной корпорации перевел мошенникам 25 млн долларов. Инструкции по переводу денег, как он думал, ему прислал финансовый директор компании. На самом деле преступники использовали программу искусственного интеллекта для создания реалистичных видеороликов с участием финдиректора и нескольких коллег бедолаги.
Видеоролики, созданные искусственным интеллектом, стали настолько реалистичными, что люди (и существующие системы обнаружения) испытывают трудности с различением настоящего и поддельного видео. Чтобы решить эту проблему, исследователи из Колумбийского инженерного факультета под руководством профессора компьютерных наук Чжунфэн Янга разработали новый инструмент для обнаружения видеороликов, созданных искусственным интеллектом.
Инструмент назвали DIVID (DIffusion-generated VIdeo Detector). Он расширяет проект команды, выпустившей ранее инструмент Raidar. Программа обнаруживает тексты, созданные искусственным интеллектом, анализируя их содержимое, без необходимости доступа к внутренним механизмам больших языковых моделей.
В первом столбце на фото: видеокадры с YouTube и фейковые видеоролики, созданные OpenAI из Sora. Во втором — кадры, восстановленные методом диффузии, а в конце отражены различия между первым и вторым столбцами.
DIRE (Ошибка реконструкции DIffusion) — это метод, который измеряет разницу между входным и соответствующим выходным изображением, восстановленным с помощью предварительно обученной диффузионной модели.
Как демонстрирует иллюстрация, реальные видеокадры имеют больше отличий от восстановленных кадров, чем от видео, созданного диффузией Это и является ключевым моментом для DIVID в обнаружении фальшивого видео.
DIVID обнаруживает новое поколение видеороликов, созданных генеративным искусственным интеллектом. Он улучшает существующие методы, которые эффективно выявляют видео, созданные старыми моделями ИИ, такими как генеративные антагонистические сети (GAN).
GAN — это система искусственного интеллекта с двумя нейронными сетями: одна создает фальшивые данные, а другая оценивает их, чтобы отличать поддельное от реального. Путем непрерывной обратной связи обе сети улучшаются, что приводит к высококачественному синтетическому видео, практически неотличимому от подлинного.
Текущие инструменты обнаружения искусственного интеллекта ищут характерные признаки — необычное расположение пикселей, ненатуральные движения или несоответствия между кадрами, которые обычно не возникают в реальных видео. Однако новое поколение инструментов с использованием диффузионной модели бросило вызов в области обнаружения фейков.
Raidar использует языковую модель для переформулирования или изменения текста, а затем измеряет количество правок, внесенных системой в исходный текст. Большое количество правок означает, что текст, скорее всего, написан человеком, в то время как меньшее число модификаций указывает на то, что текст, скорее всего, создан машиной.
— Янг.
Научная статья, включающая в себя открытый код и наборы данных, была представлена на конференции по компьютерному зрению и распознаванию образов (CVPR) в Сиэтле 18 июня 2024 года.
В настоящее время исследователи работают над улучшением платформы DIVID, чтобы она могла обрабатывать различные виды синтетических видео из инструментов создания видео с открытым исходным кодом. Они также используют DIVID для сбора видео для набора данных DIVID.
Видеоролики, созданные искусственным интеллектом, стали настолько реалистичными, что люди (и существующие системы обнаружения) испытывают трудности с различением настоящего и поддельного видео. Чтобы решить эту проблему, исследователи из Колумбийского инженерного факультета под руководством профессора компьютерных наук Чжунфэн Янга разработали новый инструмент для обнаружения видеороликов, созданных искусственным интеллектом.
Инструмент назвали DIVID (DIffusion-generated VIdeo Detector). Он расширяет проект команды, выпустившей ранее инструмент Raidar. Программа обнаруживает тексты, созданные искусственным интеллектом, анализируя их содержимое, без необходимости доступа к внутренним механизмам больших языковых моделей.
В первом столбце на фото: видеокадры с YouTube и фейковые видеоролики, созданные OpenAI из Sora. Во втором — кадры, восстановленные методом диффузии, а в конце отражены различия между первым и вторым столбцами.
DIRE (Ошибка реконструкции DIffusion) — это метод, который измеряет разницу между входным и соответствующим выходным изображением, восстановленным с помощью предварительно обученной диффузионной модели.
Как демонстрирует иллюстрация, реальные видеокадры имеют больше отличий от восстановленных кадров, чем от видео, созданного диффузией Это и является ключевым моментом для DIVID в обнаружении фальшивого видео.
DIVID обнаруживает новое поколение видеороликов, созданных генеративным искусственным интеллектом. Он улучшает существующие методы, которые эффективно выявляют видео, созданные старыми моделями ИИ, такими как генеративные антагонистические сети (GAN).
GAN — это система искусственного интеллекта с двумя нейронными сетями: одна создает фальшивые данные, а другая оценивает их, чтобы отличать поддельное от реального. Путем непрерывной обратной связи обе сети улучшаются, что приводит к высококачественному синтетическому видео, практически неотличимому от подлинного.
Текущие инструменты обнаружения искусственного интеллекта ищут характерные признаки — необычное расположение пикселей, ненатуральные движения или несоответствия между кадрами, которые обычно не возникают в реальных видео. Однако новое поколение инструментов с использованием диффузионной модели бросило вызов в области обнаружения фейков.
Преобразование текстов, сгенерированных AI Raidar, в видео
Raidar использует языковую модель для переформулирования или изменения текста, а затем измеряет количество правок, внесенных системой в исходный текст. Большое количество правок означает, что текст, скорее всего, написан человеком, в то время как меньшее число модификаций указывает на то, что текст, скорее всего, создан машиной.
Основное открытие заключается в том, что данные, полученные от ИИ, другие языковые модели оценивают как качественые, поэтому ИИ вносит меньше правок. Учитывая, что генерируемое видео становится все более реалистичным, мы решили взять идею из Raidar и создать инструмент, который точно определит видео, созданное ИИ
— Янг.
Научная статья, включающая в себя открытый код и наборы данных, была представлена на конференции по компьютерному зрению и распознаванию образов (CVPR) в Сиэтле 18 июня 2024 года.
В настоящее время исследователи работают над улучшением платформы DIVID, чтобы она могла обрабатывать различные виды синтетических видео из инструментов создания видео с открытым исходным кодом. Они также используют DIVID для сбора видео для набора данных DIVID.
- Алексей Павлов
- Software Systems Laboratory/Columbia Engineering
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
![Западная Европа и США готовятся к худшему Западная Европа и США готовятся к худшему](/uploads/mini/shortstory/c1e/63452ff84713a553fcb2c4b14eb54.jpg)
Западная Европа и США готовятся к худшему
Новая угроза ожидается из Латинской Америки....
![NASA обнаружило таинственное энергетическое поле вокруг Земли NASA обнаружило таинственное энергетическое поле вокруг Земли](/uploads/mini/shortstory/63f/993f5cca125710bd5e7998c3c423d.jpg)
NASA обнаружило таинственное энергетическое поле вокруг Земли
Оно уникально, и, похоже, благодаря нему на планете… появилась жизнь....
![Спасение человечества находится на дне Северного Ледовитого океана Спасение человечества находится на дне Северного Ледовитого океана](/uploads/mini/shortstory/b16/5cda8ba33085ef44bb4cc9b986200.jpg)
Спасение человечества находится на дне Северного Ледовитого океана
Финские ученые уверены в этом на 100%....
![Starliner Boeing снова в новостях: теперь там что-то жутко стучит и лязгает Starliner Boeing снова в новостях: теперь там что-то жутко стучит и лязгает](/uploads/mini/shortstory/124/739e8816037bad0a313bd7f3476af.jpg)
Starliner Boeing снова в новостях: теперь там что-то жутко стучит и лязгает
NASA придумывает объяснения, а бывший командир МКС говорит, что это не к добру....
![«Титаник» разваливается прямо на глазах «Титаник» разваливается прямо на глазах](/uploads/mini/shortstory/8a2/1d2eb1dfde31d5f5369b4d0d48d62.jpg)
«Титаник» разваливается прямо на глазах
Кто же ускоряет гибель легендарного корабля: люди или природа?...
![Прорыв или кошмар? Искусственный интеллект стал изменять собственный код Прорыв или кошмар? Искусственный интеллект стал изменять собственный код](/uploads/mini/shortstory/1be/9b06786bac11541ae0e4d76991468.jpg)
Прорыв или кошмар? Искусственный интеллект стал изменять собственный код
Ученые говорят: ничего страшного. Но так ли это на самом деле?...
![Форресты Гампы отменяются Форресты Гампы отменяются](/uploads/mini/shortstory/1f0/4b4ba26a87069298154cbaaf7521f.jpg)
Форресты Гампы отменяются
Американские ученые «взломали» код аутизма....
![Сосуд из найденного в Шотландии клада викингов оказался иранским Сосуд из найденного в Шотландии клада викингов оказался иранским](/uploads/mini/shortstory/b9b/6c5a16607870dcee7ded870025f56.jpg)
Сосуд из найденного в Шотландии клада викингов оказался иранским
Никто не ожидал, что сокровище прибыло из столь отдаленных мест....
![Безглазая смерть чует тьму: как именно грибок превращает мух в зомби-некрофилов Безглазая смерть чует тьму: как именно грибок превращает мух в зомби-некрофилов](/uploads/mini/shortstory/e7b/f7bb936b1fafeefb602fbc6b7740b.jpg)
Безглазая смерть чует тьму: как именно грибок превращает мух в зомби-некрофилов
Главное случается ночью....
![Новый метод поможет раскрыть секс-преступления во много раз быстрее Новый метод поможет раскрыть секс-преступления во много раз быстрее](/uploads/mini/shortstory/0f3/39f1637a6f4b732bda029be4a1ff5.jpg)
Новый метод поможет раскрыть секс-преступления во много раз быстрее
Открытие ускорит проверку улик....
![Азиаты оккупируют Британию: сначала мигранты, теперь желтоногие шершни Азиаты оккупируют Британию: сначала мигранты, теперь желтоногие шершни](/uploads/mini/shortstory/fa6/3b50ed6fd66775e77a87003ce5250.jpg)
Азиаты оккупируют Британию: сначала мигранты, теперь желтоногие шершни
Экологи бьют тревогу и массово рассылают методички населению....
![Космический корабль BepiColombo невероятно близко подлетел к Меркурию Космический корабль BepiColombo невероятно близко подлетел к Меркурию](/uploads/mini/shortstory/83d/c7e5e8717f2100b5313e052890584.jpg)
Космический корабль BepiColombo невероятно близко подлетел к Меркурию
Свежие снимки рябой планеты удалось сделать благодаря возникшим в полёте неполадкам....
![Компания 1X анонсировала повседневного помощника — гуманоидного робота NEO Beta Компания 1X анонсировала повседневного помощника — гуманоидного робота NEO Beta](/uploads/mini/shortstory/1b0/526e645ecf476da55256bb5a433aa.jpg)
Компания 1X анонсировала повседневного помощника — гуманоидного робота NEO Beta
Похожий на человека механический слуга умеет ходить, бегать и подниматься по лестнице....
![Роботы и 3D-печать сделали бетон прочнее благодаря особой структуре Роботы и 3D-печать сделали бетон прочнее благодаря особой структуре](/uploads/mini/shortstory/11b/f9e2330b21c4d24c2519784700a4f.jpg)
Роботы и 3D-печать сделали бетон прочнее благодаря особой структуре
Имитируя природу, бетон можно уложить так, чтобы повысить прочность на 63%....
![Учёные не нашли связи между мобильными телефонами и раком мозга Учёные не нашли связи между мобильными телефонами и раком мозга](/uploads/mini/shortstory/152/0835ee76c49c6c0c1dcc9ac68693a.jpg)
Учёные не нашли связи между мобильными телефонами и раком мозга
В общем, болтай часами — не хочу....