ЕС готовит запрет на ИИ-инструменты для «раздевания» реальных людей

В Европейском союзе планируют запретить использование систем искусственного интеллекта, способных создавать сексуализированные дипфейки с участием реальных людей без их согласия. Соответствующее предложение, с которым ознакомилось издание Politico, послы стран ЕС должны рассмотреть в эту пятницу.

Согласно законопроекту, в Европе станет незаконным вывод на рынок ИИ-инструментов, которые могут генерировать фейковые видео, изображения или аудиозаписи сексуального характера с участием реальных людей. Предложение начали обсуждать после скандала вокруг ИИ-бота Grok.

Запрет поддержали депутаты Европарламента. В ведомстве этот вопрос обсуждался в эту среду, сообщает Politico.

«Речь идёт не только о Grok. Речь идёт о том, сколько власти мы готовы передать ИИ, чтобы он мог унижать людей», — прокомментировал евродепутат от Германии Сергей Лагодинский.

Исключение могут сделать для компаний, которые смогут доказать наличие эффективных механизмов безопасности, предотвращающих создание подобных материалов и злоупотребление функционалом. Окончательный текст документа пока не утвержден: профильные комитеты Европарламента должны проголосовать по нему 18 марта.

После этого представители Европарламента и Совета ЕС проведут переговоры, чтобы согласовать финальную версию закона. Если документ будет принят, новые правила могут вступить в силу уже этим летом.

В центре обсуждений о введении ограничений на отдельные возможности ИИ оказался бот Grok, разработанный компанией xAI Илона Маска. В конце 2025 года его оснастили функцией генерирования изображений. Пользователи соцсети Х могли ответить на любой пост, тегнув Грока и попросив его нарисовать картинку по любому запросу. В том числе искусственный интеллект умел изменять уже существующие фотографии, опубликованные в соцсети.

Функция быстро вышла из-под контроля. Х захватил тренд на «раздевание» снимков: пользователи отвечали на посты с фотографиями привлекательных девушек (и не только) командой «Грок, переодень её в бикини». И бот действительно генерировал такое изображение. По оценке The New York Times, всего за 9 дней в январе этого года чат-бот мог создать до 1,8 миллиона изображений сексуализированного содержания.

Тренд вызвал волну возмущения в соцсетях. В ответ на резкую критику соцсеть ограничила возможность генерации изображений только для платных подписчиков. Как отмечает The Guardian, премиум-пользователей можно легко идентифицировать в случае нарушения правил платформы, поскольку у компании есть их личные данные и платёжная информация.

В середине января платформе пришлось пойти на новые уступки: возможность создавать изображения реально существующих людей в откровенных образах полностью заблокировали.

«Мы внедрили технологические меры, чтобы предотвратить возможность редактирования в аккаунте Grok изображений реальных людей в откровенной одежде, такой как бикини, нижнем белье и другой откровенной одежде», — заявили в компании.

В разных частях света правительства и государственные регуляторы уже начали рассматривать возможность принятия мер против чат-бота. Их объясняют необходимостью защищать приватность персональных данных пользователей, а также борьбой с распространением порнографического контента, в особенности изображающего детей. Как подсчитал Port, подобные инициативы были озвучены как минимум в 13 странах.

26 января расследование в отношении Grok запустила Европейская комиссия. Чиновники выясняют, распространяет ли бот незаконный контент в ЕС. Ведомство потребовало от компании X запретить использовать чат-бот для генерации изображений, на которых женщины и несовершеннолетние изображаются обнажёнными или в сексуализированном виде. 3 февраля в офисах компании в Париже провели обыски.