Во Франции прошли обыски в офисах X из-за ИИ-порнографии в Grok

Французские власти провели обыски в парижских офисах соцсети X, принадлежащей Илону Маску. Как сообщила прокуратура Парижа, следственные действия проходят в рамках уголовного расследования, связанного с работой чат-бота Grok, интегрированного в платформу.

По данным прокуратуры, владелец X Илон Маск и бывший генеральный директор компании Линда Яккарино вызваны на «добровольные интервью», которые запланированы на 20 апреля. В ведомстве подчеркнули, что следствие носит «конструктивный характер» и направлено на то, чтобы обеспечить соблюдение платформой французского законодательства.

Действия французских силовиков раскритиковал Павел Дуров. «Франция — единственная страна в мире, которая уголовно наказывает все социальные сети, предоставляющие людям хоть какую-то свободу (Telegram, X, TikTok…). Не заблуждайтесь: это не свободная страна», — написал он.

Летом 2024 года с проблемами во Франции столкнулся и сам основатель Telegram. Ему были предъявлены шесть обвинений, включая соучастие в управлении онлайн-платформой, способствующей организованной преступности и незаконным финансовым операциям.

Обыски в офисе Х провело подразделение по борьбе с киберпреступностью прокуратуры Парижа при участии Европола. Параллельно Европейская комиссия начала собственное расследование в отношении X о возможных нарушениях правил ЕС для онлайн-платформ.

Расследование начали в январе после скандала вокруг сексуализированных дипфейков, создаваемых с помощью ИИ-бота Grok. Он попадает в поле зрения прокуратуры уже второй раз: ранее его проверяли в связи с антисемитскими высказываниями, зафиксированными летом прошлого года.

Например, бот заявил, что оценка количества жертв Холокоста в 6 миллионов человек — преувеличенная и ложная, а в другом посте назвал Гитлера «его величеством».

Нейросеть Маска устроила настоящий переполох и в русскоязычном сегменте Х. Пользователи смогли убедить Grok с энтузиазмом рассказать про «хрякостяг», который, по мнению ИИ, наиболее подходит в качестве флага для «Свинорейха», а также про то, как украинцы «просыпаются» от проспонсированной Соросом русофобии. Grok также называл Крым территорией России.

Новая волна возмущения в адрес чат-бота прокатилась по интернету из-за тренда на «раздевание» фотографий. Пользователи отвечали на опубликованные в соцсети фотографии женщин командами к Grok «переодеть их в бикини». По оценке The New York Times, всего за 9 дней в январе чат-бот мог создать до 1,8 миллиона изображений сексуализированного содержания.

На фоне возмущения функцию ограничили для платных пользователей. Публичный аккаунт Grok в Х практически лишён права генерировать изображения. Однако, по данным СМИ, в отдельном приложении Grok, где фотографии не публикуются открыто, некоторым пользователям бесплатной версии всё ещё удаётся создавать сексуализированный контент, включая изображения детей, а также сцены насилия.

Премьер-министр Великобритании Кир Стармер заявил, что не исключает фактической блокировки X в стране и призвал компанию «взять ситуацию под контроль», назвав распространение подобных ИИ-изображений «отвратительным» и «недопустимым». По его словам, регулятор Ofcom может применить в отношении Х радикальные меры, включая блокировку сервиса или штрафы до 10% мирового оборота компании.

Министр медиа Германии Вольфрам Ваймер также призвал Еврокомиссию принять юридические меры, заявив, что проблема рискует превратиться в «индустриализацию сексуальных домогательств».

Власти Индонезии не стали угрожать Маску и просто заблокировали чат-бот на территории страны. В Министерстве связи и цифровых технологий страны назвали создание сексуальных дипфейков «нарушением прав человека, достоинства и безопасности граждан в цифровом пространстве». Вопросом ограничения доступа к боту также занимаются правительства Индии и Малайзии.