В Евросоюзе договорились о плане по сдерживанию ИИ

Депутаты Европарламента одобрили ключевой текст, который будет лежать в основе будущего закона, регулирующего искусственный интеллект. Под регулирование в основном попали крупные нейросети, способствующие инновациям в своей области, такие как ChatGPT.


Переговоры о финальной версии закона начнутся позже между Европейским парламентом и 27 странами-членами ЕС. Если Брюссель достигнет своей амбициозной цели и заключит соглашение до конца года, это станет первым в мире законом, регулирующим ИИ.

Причины срочности принятия закона и первые достигнутые соглашения

Хотя первые планы ЕС по этому поводу датируются еще 2021 годом, проект создания соответствующего регламента приобрел большую срочность после того, как в прошлом году на сцену вышел ChatGPT, продемонстрировавший головокружительные достижения и вызвавший волну опасений по поводу возможных рисков. Также выросло требование регулировать ИИ по обе стороны Атлантики, поскольку западные правительства выражают стремление принять незамедлительное решение в вопросе, который некоторые называют битвой за существование человечества.

В тот момент, когда сторонники ИИ приветствуют технологию за то, как она преобразует общество, включая профессиональную деятельность, здравоохранение и творческие занятия, другие беспокоятся о потенциальных социальных проблемах, которые могут возникнуть при отсутствии должного регулирования.


Однако здесь следует уточнить, что даже если ЕС достигнет оглашенных законодательных целей, закон не вступит в силу еще как минимум до 2026 года, что вынудит ЕС добиваться добровольного промежуточного пакта с технологическими компаниями.

Степени риска

Закон будет регулировать ИИ в зависимости от уровня риска: чем выше риск для прав или здоровья отдельных лиц и социальных групп, тем больше обязательств у систем. Предложенный ЕС список высокого риска включает ИИ интегрированный в критическую инфраструктуру, систему образования, управление персоналом, институты общественного порядка и миграционного управления.

Парламент также выдвинул дополнительные требования к этому списку: перед тем как система будет отнесена к высокому риску, она должна иметь потенциал нанести вред здоровью, безопасности, правам или окружающей среде возле населенных пунктов.

Также есть особые требования для генеративных систем ИИ, подобных ChatGPT и DALL-E, которые способны создавать текст, изображения, код, аудио и другие медиа. Требование обязывает сервисы информировать пользователей о том, что контент создан машиной, а не человеком. Депутаты также предложили запретить системы ИИ, использующие биометрический надзор, распознавание эмоций и так называемую технологию «предсказательной полиции».

Депутат Европарламента, возглавляющий законопроект в парламенте, Брандо Бенифей, в заявлении для журналистов рассказал, что уже ведутся переговоры о том, стоит ли ускорить внедрение закона или ввести правила раньше для генеративного типа систем ИИ. В своем заявлении он также подчеркнул необходимость соблюсти баланс между защитой прав человека и потребителей с поддержкой инноваций и конкурентоспособности европейской индустрии ИИ.

Низкий риск

Системы ИИ с низким уровнем риска не будут подвергаться строгому регулированию, но должны соответствовать общим принципам и ценностям ЕС. К этой категории, к примеру, относятся системы ИИ для развлечений или игр. В соответствии с обсуждаемым законом, они должны быть прозрачными для потребителя и не вводить его в заблуждение относительно своих действий.

Минимальный риск

Системы ИИ с минимальным уровнем риска не будут регулироваться законом. К этой категории относятся системы ИИ для фильтрации спама или перевода текста. Они должны быть безопасными и эффективными для пользователей.

Новые правила предусматривают создание европейского совета по ИИ - независимого органа из экспертов по искусственному интеллекту из разных секторов и областей - который будет консультировать комиссию по вопросам регулирования ИИ.

Кроме того, закон устанавливает правила по защите авторских прав при использовании генеративных систем ИИ. Поставщики и пользователи таких систем будут обязаны раскрывать любые авторские материалы, использованные для разработки их систем, и получать разрешение от правообладателей на использование любого контента.

Цифровая стратегия

Закон об ИИ является частью цифровой стратегии ЕС, номинально направленной на становление Европы лидером в области цифровых технологий. Ожидается, что он будет принят до конца 2023 года после переговоров между Европарламентом, Советом ЕС и Комиссией.

Закон будет действовать на всей территории ЕС и станет обязательным для всех поставщиков и пользователей ИИ, действующих в ЕС или предлагающих свои услуги в ЕС. Закон также предусматривает санкции за нарушение его положений, которые могут достигать до 6% годового оборота компании или 30 миллионов евро, в зависимости от того, что больше.

Решение является историческим шагом в регулировании технологии, которая, очевидно, содержит огромный потенциал, но также может нести серьезные риски для общих интересов человечества. Участники парламента рассчитывают, что принятый закон будет способен обеспечить повышение уровня доверия к ИИ и способствовать его этическому и человекоориентированному развитию в Европе.