В четверг комитет Европарламента проголосовал за закон, усиливающий контроль за системами искусственного интеллекта (ИИ). Закон может быть окончательно утверждён к 2024 году, и тогда в сферу регулирования попадёт любой продукт или услуга, в которых используется ИИ. Ключевая цель ЕС – защита от любых угроз, созданных искусственным интеллектом, для здоровья и безопасности, а также защита основных прав человека.
Почему это важно для медиа? Распространение генеративных медиа, а также внедрение систем искусственного интеллекта в поисковые системы могут существенно повлиять на способ поиска журналистами информации и создания контента. Мы уже писали о рисках, связанных с непрозрачностью работы алгоритмов ИИ, а также о том, как эта сфера может регулироваться в будущем.
Ключевые факты
- Закон классифицирует системы искусственного интеллекта по четырём уровням риска: от минимального до неприемлемого. Так, использование искусственного интеллекта будет категорически запрещено для «социальной оценки» людей на основе их поведения – то есть для создания полицейских инструментов прогнозирования, где и кем могут совершаться преступления. Запретят и системы ИИ, которые могут использовать манипуляции в отношении уязвимых групп – например, интерактивные игрушки для детей, поощряющие опасное поведение. Также нельзя будет дистанционно распознавать лица с помощью ИИ, исключения сделают лишь для правоохранительных органов.
- При этом большинство видеоигр и спам-фильтров на основе ИИ попали в категорию с низким риском.
- В проекте закона упоминаются и чат-боты: есть требование сообщать пользователям, когда они взаимодействуют с машиной, а не человеком, и маркировать любые материалы, которые используются для обучения систем ИИ и при этом защищены авторским правом. Это позволит создателям контента узнать, использовались ли их тексты, научные статьи, песни и другие произведения для обучения алгоритмов ChatGPT или подобных систем, и потребовать возместить ущерб.
- За нарушение закона планируется ввести штраф до 30 миллионов евро (порядка 33 миллионов долларов на сегодня) или 6% от годового глобального дохода компании.
Основные цитаты
Брандо Бенифеи, итальянский депутат, консультирующий Европарламент по вопросам ИИ: «Цель в том, чтобы избежать контролируемого общества, основанного на ИИ. Эти технологии могут быть использованы во вред, и мы считаем риски слишком высокими».
Бэкгруанд
Теперь Европарламент должен проголосовать за законопроект на пленарном заседании в середине июня, после чего он будет обсуждаться на трёхсторонних переговорах с участием 27 государств-членов Евросоюза, Европарламента и Еврокомиссии. На этом этапе проект может быть изменён или дополнен. Окончательное его утверждение ожидается к началу 2024 года. После этого компаниям будет предоставлен адаптационный период в размере около двух лет.