Испания стала 13 страной, принявшей меры в отношении Grok

В последние месяцы в разных странах по всему миру звучат угрозы в отношении встроенного в соцсеть Илона Маска Х ИИ-чатбота Grok. Его работу могут ограничить или вовсе запретить. Где-то Grok обходится предупреждениями, где-то в отношении платформы начинают официальные расследования, а во Франции и вовсе провели обыск в офисе компании.

Мы составили список стран, предпринявших меры в отношении Grok. Разбираемся, почему ИИ-компаньон из твиттера стал международной политической проблемой.

Что не так с Grok? Почему его хотят заблокировать?

В конце 2025 года бот Grok оснастили функцией генерирования изображений. Пользователи соцсети Х могли ответить на любой пост, тегнув Грока и попросив его нарисовать картинку по любому запросу. В том числе, искусственный интеллект умел изменять уже существующие фотографии, опубликованные в соцсети.

Функция быстро вышла из-под контроля. Х захватил тренд на «раздевание» фотографий: пользователи отвечали на посты с фотографиями привлекательных девушек (и не только) командой «Грок, переодень её в бикини». И бот действительно генерировал такое изображение. По оценке The New York Times, всего за 9 дней в январе этого года чат-бот мог создать до 1,8 миллиона изображений сексуализированного содержания.

Тренд вызвал волну возмущения в соцсетях. В ответ на резкую критику соцсеть ограничила возможность генерации изображений только для платных подписчиков. Как отмечает The Guardian, премиум-пользователей можно легко идентифицировать в случае нарушения правил платформы, поскольку у компании есть их личные данные и платёжная информация.

Публичный аккаунт Grok в Х был фактически лишён права генерировать изображения. Однако, по данным СМИ, в отдельном приложении Grok, где фотографии не публикуются открыто, некоторым пользователям бесплатной версии всё ещё удавалось создавать сексуализированный контент, включая изображения детей, а также сцены насилия.

Сам Илон Маск защищал функцию генерации картинок в Grok, обвиняя правительства европейских стран в ущемлении свободы слова. «Им нужен любой предлог для цензуры», — отвечал на критику в своём аккаунте бизнесмен.

Тем не менее, в середине января платформе пришлось пойти на новые уступки: возможность создавать изображения реально существующих людей в откровенных образах полностью заблокировали.

«Мы внедрили технологические меры, чтобы предотвратить возможность редактирования в аккаунте Grok изображений реальных людей в откровенной одежде, такой как бикини, нижнем белье и другой откровенной одежде», — заявили в компании.

Тем не менее, в разных частях света правительства и государственные регуляторы уже начали рассматривать возможность принятия мер против чат-бота. Их объясняют необходимостью защищать приватность персональных данных пользователей, а также борьбой с распространением порнографического контента, в особенности изображающего детей.

Где обсуждают запрет Х?

Еврокомиссия

26 января Европейская комиссия начала расследование по поводу того, распространяет ли Grok в ЕС незаконный контент. Она потребовала от компании X запретить использовать чат-бот для генерации изображений, на которых женщины и несовершеннолетние изображаются обнажёнными или в сексуализированном виде.

Комиссар ЕС по технологиям Хенна Вирккунен заявила, что функция Grok, позволяющая создавать и распространять такие изображения, «ужасна». Она отметила, что соцсеть Илона Маска «должна быстро исправить» свой ИИ в пределах Евросоюза.

«X теперь должна исправить свой ИИ-инструмент в ЕС, и сделать это быстро. Если этого не произойдёт, мы без колебаний применим DSA в полной мере для защиты граждан ЕС», — написала Вирккунен в X.

Ирландия

Ирландская комиссия по защите данных (Data Protection Commission) начала масштабное расследование в отношении социальной сети X, стало известно 17 февраля. Регулятор проверит, соблюдала ли X свои обязательства в рамках Общего регламента ЕС по защите данных (GDPR) при обработке персональных данных европейских пользователей.

Поводом стали обращения о создании фотографий интимного характера без согласия изображённых лиц. Заместитель комиссара Грэм Дойл сообщил, что ведомство уже несколько недель взаимодействует с компанией после появления публикаций в СМИ о распространении подобных изображений.

Испания

17 февраля правительство Испании поручило прокуратуре провести расследование в отношении социальных сетей X, Meta и TikTok по подозрению в распространении материалов с изображением сексуального насилия над детьми, созданных с помощью искусственного интеллекта.

Это решение — первое из пакета мер по регулированию социальных сетей, представленного премьером Педро Санчесом на саммите в Дубае в начале этого месяца — основано на техническом отчёте трёх министерств.

Пресс-секретарь правительства Эльма Саиз заявила журналистам, что власти «не могут позволить алгоритмам усиливать или укрывать» такие преступления. Она добавила, что под угрозой находятся безопасность и неприкосновенность частной жизни детей.

Великобритания

12 января британский регулятор СМИ Ofcom начал расследование в отношении X, чтобы определить, нарушила ли компания свою обязанность защищать жителей Великобритании от незаконного контента в соответствии с положениями Закона о безопасности в Интернете.

Министр технологий Лиз Кендалл заявила, что правительство также планирует принять закон, который будет «решать проблему у её истоков», запрещая компаниям предоставлять пользователям инструменты, предназначенные для создания дипфейков.

Заблокировать чат-бота угрожал и лично премьер-министр Великобритании Кир Стармер. По его словам, Ofcom может применить в отношении Х радикальные меры, включая блокировку сервиса или штрафы до 10% мирового оборота компании.

Франция

3 февраля подразделение по борьбе с киберпреступностью прокуратуры Парижа провело обыск в офисе X в Париже и предписало Маску явиться в апреле для дачи показаний. Расследование ведётся по подозрению в предвзятости алгоритмов, соучастии в хранении и распространении детской порнографии, а также нарушении прав личности на изображение с помощью дипфейков сексуального характера.

Grok попадает в поле зрения французской прокуратуры уже второй раз: ранее его проверяли в связи с антисемитскими высказываниями, зафиксированными летом прошлого года. Например, бот заявил, что оценка количества жертв Холокоста в 6 миллионов человек — преувеличенная и ложная, а в другом посте назвал Гитлера «его величеством».

Италия

Итальянское ведомство по защите данных выпустило официальное предупреждение для пользователей и компаний, поставляющих услуги ИИ. Чиновники заявили, что использование инструментов искусственного интеллекта для создания обнажённых дипфейк-изображений реальных людей без их согласия может привести к серьёзным нарушениям конфиденциальности, а в некоторых случаях может расцениваться как уголовное преступление.

Итальянский регулятор заявил, что сотрудничает с Комиссией по защите данных Ирландии и оставляет за собой право принять дальнейшие меры.

Индия

2 января министерство информационных технологий Индии направило X официальное уведомление о предполагаемом создании или распространении непристойных изображений сексуального характера с помощью Grok. Ведомство потребовало удалить контент и предоставить отчёт о принятых мерах в течение 72 часов. Платформа подчинилась требованиям регулятора и начала удалять порнографические картинки по запросу.

Германия

В январе этого года представитель министерства юстиции Германии заявила, что правительство планирует модернизировать закон о цифровом насилии, чтобы предусмотреть в нём риски создания ИИ-порнографии с участием реальных людей. Такое намерение также было закреплено в коалиционном соглашении между правящими партиями, отметила чиновница.

«Мы работаем над уточнением нормативных актов, особенно в отношении порнографических, но также и в отношении других форм дипфейков. Это соответствует договоренностям, зафиксированным в коалиционном соглашении. Кроме того, мы хотим поддержать жертв такого рода цифрового насилия с помощью закона. Мы хотим облегчить им возможность принимать непосредственные меры против нарушений их прав в Интернете», — заявила в ходе пресс-конференции Анна-Лена Бекфельд, пресс-секретарь министерства юстиции.

Япония

Следствие в отношении Х завели и в Японии. Кабинет министров потребовал от X немедленно внести изменения в свой алгоритм, но от компании не поступило никакого ответа, сообщила министр экономической безопасности Кими Онода. Она заявила, что теперь правительство «в ускоренном порядке рассмотрит все возможные варианты, в том числе юридические последствия».

«Если ситуация не улучшится, мы рассмотрим все возможные меры, включая юридические. Если подобные проблемы возникнут на других платформах, мы также будем действовать», — прокомментировала чиновница.

Индонезия

10 января Индонезия заблокировала Grok из-за риска появления порнографического контента, созданного искусственным интеллектом. Она стала первой страной, запретившей доступ к боту.

«Правительство рассматривает практику использования дипфейков сексуального характера без согласия как серьёзное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве», — заявила министр связи и цифровых технологий Мейтия Хафид.

Филиппины

15 января аналогичные меры приняли власти Филиппин. Однако уже 21 января правительство заявило, что планирует снять ограничения, поскольку представители платформы пообещали ограничить ИИ-функционал, «вызывавший беспокойство за безопасность детей», говорилось в заявлении ведомства, отвечающего за расследование киберпреступлений.

«Приложение Grok AI связалось с нами и заявило, что платформа больше не будет допускать манипуляции с контентом. Даже после снятия запрета CICC будет по-прежнему внимательно следить за приложением, чтобы убедиться в его соответствии правилам и нормам нашей страны», — заявили чиновники.

Канада

15 января канадское ведомство по защите конфиденциальности заявило, что расширяет существующее расследование в отношении X после появления сообщений о том, что чат-бот Grok AI создавал порнографические дипфейки без согласия на использование изображений.

В феврале 2025 года комиссар по вопросам конфиденциальности Филипп Дюфресн запустил первоначальное расследование в отношении X. Он заявил, что ведомство «проверит, выполняет ли X свои обязательства» в соответствии с канадским Законом о конфиденциальности.

«Первоначальное расследование будет сосредоточено на соответствии платформы федеральному закону о конфиденциальности в отношении сбора, использования и раскрытия личной информации канадцев для обучения моделей искусственного интеллекта», — говорилось в пресс-релизе.

Бразилия

21 января правительство Бразилии и федеральные прокуроры выпустили совместное заявление, в котором дали компании xAI 30 дней на то, чтобы прекратить распространение контента сексуального характера через Grok.

Бразильское агентство по защите прав потребителей Senacon, орган по защите данных ANPD и Федеральная прокуратура пригрозили, что могут принять дополнительные административные или судебные меры, если X не выполнит требования.

Австралия

7 января австралийский регулятор онлайн-безопасности eSafety заявил, что расследует созданные Grok сексуализированные дипфейки, оценивая материалы в рамках своей программы по борьбе со злоупотреблениями с использованием изображений. Ведомство сообщило, что изображения взрослых расследуются отдельно от предполагаемой детской порнографии. По первому делу следствие ещё продолжается, а по второму регулятор не обнаружил публикаций, которые можно квалифицировать как нарушение закона.

«Что касается сообщений о незаконном контенте, то эти материалы не соответствовали критериям классификации материалов 1-го класса, связанных с сексуальной эксплуатацией детей. В результате eSafety не выпустила уведомлений об удалении и не приняла меры по обеспечению соблюдения законодательства в отношении этих жалоб», — говорилось в заявлении.