OpenAI выявила сетку аккаунтов ChatGPT, с помощью которых генерировали пророссийскую пропаганду для западной аудитории

OpenAI сообщила о блокировке группы аккаунтов в ChatGPT, связанных с Россией. По данным компании, их использовали в рамках «скрытой информационной кампании», направленной на распространение материалов в поддержку кремлёвских нарративов.

Расследование началось с анализа публикаций, созданных с помощью искусственного интеллекта, однако затем OpenAI обнаружила более масштабную схему. Операторы использовали ChatGPT для подготовки преимущественно англоязычных заметок и комментариев, которые публиковались в Substack, Telegram, X, Facebook и LinkedIn.

Запросы при этом формулировались на русском языке, а чату давали дополнительную инструкцию устранять из текстов лингвистические признаки, способные выдать происхождение авторов. Для доступа к сервису использовали VPN, поскольку OpenAI заблокировала свои услуги для аккаунтов из России.

Сгенерированные тексты часто продвигали организацию International Burke Institute (IBI), которая позиционируется как «экспертное сообщество», базирующееся в Израиле. Например, фейковые комментарии часто ссылались на опубликованные на её сайте материалы.

Проверка 36 публикаций IBI показала, что 34 из них были скопированы из других источников: часть материалов имела ложные атрибуции, а некоторые, по оценке OpenAI, были машинным переводом с одного из славянских языков. Продвигаемый организацией индекс «суверенитета» представлял Россию в положительном свете и критиковал западные страны и институты.

В рамках операции также создавались публикации в соцсетях на немецком языке с критикой Украины, ЕС и правительства Германии и призывами к более тесным отношениям с Россией. Один из участников с помощью ChatGPT подготовил логотипы примерно для десятка Telegram-каналов, ориентированных на аудиторию Германии, США, Франции, Польши и Турции. При этом OpenAI подчеркнула, что непосредственное влияние кампании пока было ограниченным: большинство публикаций набирали мало просмотров. Однако некоторые Telegram-каналы из сетки набирали от 10 до 20 тысяч подписчиков.