В Евросоюзе ввели обязательную маркировку ИИ-контента

С сегодняшнего дня в блоке начали применяться требования о «прозрачности» использования искусственного интеллекта, предусмотренные статьёй 50 европейского Закона об искусственном интеллекте (AI Act). Правила распространяются на поставщиков ИИ-систем, а также на компании, государственные органы, предпринимателей и других профессиональных пользователей таких систем.

Требования могут применяться и к организациям за пределами ЕС, если результаты работы их ИИ-систем используются на территории Евросоюза. Поставщики чат-ботов, ИИ-агентов, виртуальных помощников и других систем, непосредственно взаимодействующих с людьми, должны сообщать пользователю, что он общается с искусственным интеллектом.

Уведомление должно предоставляться с начала первого взаимодействия. Оно не требуется, когда для «разумно информированного, наблюдательного и осмотрительного человека очевидно», что он взаимодействует с ИИ. Системы, работающие только в фоновом режиме, обменивающиеся данными исключительно с другими машинами или не вступающие в непосредственный контакт с людьми, под это требование не подпадают.

Поставщики генеративных ИИ-систем, создающих синтетические тексты, изображения, видео и аудио, должны обеспечивать машинно-считываемую маркировку результатов, позволяющую определить, что они были созданы или изменены искусственным интеллектом.

Обязанность не применяется, если система выполняет вспомогательную функцию при стандартном редактировании или не вносит существенных изменений во введённые пользователем данные либо их смысл.

Отдельная обязанность возложена на профессиональных пользователей ИИ-систем, публикующих дипфейки. Они должны сообщать людям, что изображение, аудио или видео было создано либо изменено искусственным интеллектом, если материал напоминает существующих людей, объекты, места, организации или события и может быть ошибочно воспринят как подлинный.

Одной скрытой технической метки для этого недостаточно. Информация должна быть видимой, слышимой или иным образом воспринимаемой человеком без использования специальных технических средств и предоставляться не позднее первого ознакомления с материалом.

Маркировать также необходимо созданные или изменённые ИИ тексты, которые публикуются для информирования общества по вопросам «общественного интереса». Еврокомиссия относит к ним, в частности, материалы о политике и демократических процессах, государственных услугах, правосудии, правоохранительной деятельности, основных правах, общественной безопасности и здравоохранении, окружающей среде, безопасности потребителей, экономике, финансах, науке и культуре.

Требование не действует, если текст прошёл содержательную проверку человеком или редакционный контроль и физическое либо юридическое лицо несёт редакционную ответственность за публикацию. Проверка орфографии, грамматики и другие исключительно формальные действия содержательной проверкой не считаются.

Если дипфейк стал частью очевидно художественного, творческого, сатирического, вымышленного или аналогичного произведения, сообщить о созданном или изменённом ИИ контенте можно способом, который не препятствует показу или восприятию произведения. Это исключение касается способа обозначения дипфейка, а не освобождает от раскрытия информации полностью.

Обязанности, установленные для профессиональных пользователей ИИ-систем, не распространяются на физических лиц, использующих ИИ исключительно в личных и непрофессиональных целях. Если человек регулярно получает от такой деятельности экономическую выгоду либо действует в рамках бизнеса, профессии, трудовой или внештатной деятельности, он рассматривается как профессиональный пользователь системы.

Для генеративных ИИ-систем, выведенных на рынок до 2 августа 2026 года, предусмотрен переходный период до 2 декабря 2026 года, но только в части внедрения машинно-считываемой маркировки. Остальные требования статьи 50 начали применяться уже сегодня. Контент, созданный до этой даты, не требуется обозначать задним числом.

Основной надзор будут осуществлять национальные органы рыночного надзора. Европейское управление по искусственному интеллекту получит полномочия в отношении ограниченной группы систем, в том числе когда одна организация предоставляет и универсальную ИИ-модель, и построенную на ней систему, либо когда система интегрирована в крупнейшую онлайн-платформу или поисковую систему, подпадающую под действие европейского Закона о цифровых услугах.

Для учреждений Евросоюза надзор осуществляет Европейский инспектор по защите данных.

За нарушение требований штраф может достигать 15 миллионов евро или 3% совокупного мирового оборота предприятия за предыдущий финансовый год.