Китай устанавливает стандарт регулирования дипфейков

Новые правила, вступающие в силу 10 января, потребуют от людей получения согласия человека, прежде чем использовать технологию для редактирования голоса или изображения.


В течение года, отмеченного, казалось бы, еженедельным прогрессом в возможностях ИИ, правительственные органы и законодатели по всему миру изо всех сил пытались не отставать. Однако со следующего месяца китайские регулирующие органы введут новые правила, ограничивающие один из самых нервных вариантов использования ИИ: дипфейки.

10 января, как сообщает The South China Morning Post, администрация киберпространства Китая введет новые правила, призванные защитить людей от цифрового олицетворения их голоса или изображения без их согласия. Регулирующие органы называют платформы и сервисы, использующие технологию редактирования голоса или изображения человека, «поставщиками глубокого синтеза».

Технологии глубокого синтеза могут включать использование алгоритмов глубокого обучения и дополненной реальности для создания текста, аудио, изображений или видео. За прошедшие годы мы уже видели множество случаев, когда эти технологии использовались для выдачи себя за высокопоставленных лиц, от знаменитостей и технических руководителей до политических деятелей .

Согласно новым правилам, компании и персоны, использующие эту технологию, должны сначала связаться и получить согласие от конкретных лиц, прежде чем редактировать свой голос или изображение. Правила, официально названные «Административные положения о глубоком синтезе для информационных служб Интернета», появились в ответ на обеспокоенность правительства тем, что достижения в области технологий искусственного интеллекта могут быть использованы злоумышленниками для мошенничества или клеветы на людей, выдающих себя за их личность.

Регулирующий орган заявляет, что вместо того, чтобы вводить массовый запрет, он фактически будет способствовать легальному использованию технологии и «обеспечивать мощную правовую защиту для обеспечения и облегчения» ее развития.

Но, как и во многих предлагаемых Китаем технологических политиках, политические соображения неотделимы друг от друга. Согласно South China Morning Post, новости, публикуемые с использованием этой технологии, должны поступать из утвержденного правительством списка новостных агентств. Точно так же правила требуют, чтобы все так называемые провайдеры глубокого синтеза придерживались местных законов и поддерживали «правильную политическую направленность и правильную ориентацию общественного мнения». Правильность здесь, конечно, определяется в одностороннем порядке государством.

Хотя некоторые штаты США, такие как Нью-Джерси и Иллинойс, приняли местное законодательство о конфиденциальности, направленное на борьбу с дипфейками, отсутствие каких-либо значимых федеральных законов о конфиденциальности ограничивает возможности регулирующих органов по решению этой проблемы на национальном уровне. В частном секторе крупные американские платформы, такие как Facebook и Twitter, создали новые системы, предназначенные для обнаружения и пометки дипфейков, хотя они постоянно пытаются оставаться на шаг впереди злоумышленников, постоянно ищущих способы обойти эти фильтры.

Если новые правила Китая окажутся успешными, он может заложить основу политики, которую другие страны смогут использовать и адаптировать. Это будет не первый раз, когда Китай лидирует в жесткой технологической реформе. В прошлом году Китай ввел радикальные новые законы о конфиденциальности данных, которые радикально ограничили способы, с помощью которых частные компании могут собирать личную информацию человека. Эти правила были созданы на основе Общего регламента по защите данных в Европе и увеличили объем до 11. Как и новые правила глубокого синтеза или дипфейка, прошлогодние правила конфиденциальности прямо требовали от компаний получения согласия перед сбором персональных данных. Для конфиденциальных данных, таких как отпечатки пальцев человека или финансовые данные, поставщики должны снова получить согласие.

Все это звучит здорово, но в китайских законах о конфиденциальности есть одна явная лазейка. Хотя закон защищает людей от частных компаний, использующих их данные, он почти ничего не делает для предотвращения такого же вреда, причиняемого государством. Точно так же в случае с дипфейками неясно, как недавно предложенные правила, например, запрещают государственному агентству манипулировать определенным текстом или звуком.