ЕС проигрозил социальной сети X новыми ограничениями из-за сгенерированных ИИ девочек в бикини

Европейская комиссия потребовала от компании X (бывший Twitter) запретить использовать чат-бот Grok для генерации изображений, на которых женщины и несовершеннолетние изображаются обнажёнными или в сексуализированном виде.

Комиссар ЕС по технологиям Хенна Вирккунен заявила, что функция Grok, позволяющая создавать и распространять такие изображения, «ужасна». Она отметила, что соцсеть Илона Маска «должна быстро исправить» свой ИИ в пределах Евросоюза.

«X теперь должна исправить свой ИИ-инструмент в ЕС, и сделать это быстро. Если этого не произойдёт, мы не будем колебаться применить DSA в полной мере для защиты граждан ЕС», — написала Вирккунен в X.

Угроза прозвучала на фоне внезапного роста популярности функции Grok по генерации картинок. ИИ, в частности, может создавать или править изображения без цензуры. Несмотря на то, что сама функция существует уже давно, европейские чиновники обратили внимание на неё после того, как пользователи социальной сети начали использовать её для троллинга известных личностей, в том числе политиков. Одетыми в бикини оказались Дональд Трамп, Джо Байден и даже Владимир Путин.

При этом сам тренд начался с OnlyFans-моделей, которые использовали функцию «одевания в бикини» для привлечения подписчиков в X.

Своё возмущение также высказал премьер-министр Великобритании Кир Стармер. Он осудил контент как «позорный» и «отвратительный». Он заявил, что если X не сможет контролировать Grok, то власти будут делать это сами и «быстро». Он отметил, что платформа может «потерять право на саморегулирование».

Министр медиа Германии Вольфрам Ваймер также призвал Еврокомиссию принять юридические меры, заявив, что проблема рискует превратиться в «индустриализацию сексуальных домогательств».

Власти Индонезии не стали угрожать Маску и просто заблокировали чат-бот на территории страны. В Министерстве связи и цифровых технологий страны назвали создание сексуальных дипфейков «нарушением прав человека, достоинства и безопасности граждан в цифровом пространстве».

О планах ограничить работу Grok также заявили власти Франции, Индии и Малайзии.

Вскоре после скандала функция генерации и редактирования изображений в Grok была ограничена для большинства пользователей — доступ к ней сохранился только для платных подписчиков X.

8 января Европейская комиссия продлила действие приказа о сохранении данных, направленного компании X ещё в прошлом году. Согласно продлённому распоряжению, X обязана сохранять и обеспечивать доступность всех внутренних документов и данных, связанных с Grok, до конца 2026 года. Еврочиновники объясняют это «обеспокоенностью» по поводу генерируемого контента.