OpenAI заблокировала сеть аккаунтов в ChatGPT, связанных с телеграм-каналом «Рыбарь»

Компания опубликовала обновленный отчет «Пресечение злонамеренного использования наших моделей», в котором описала ряд случаев злоупотребления её ИИ-моделями. Среди выявленных операций — активность, связанная с российской медиасетью «Рыбарь», обозначенная как операция Fish Food («Корм для рыб»).

Согласно отчету, как минимум часть этой активности исходила из России. Основной деятельностью сети была генерация контента для публикаций в соцсетях, при этом контент создавался не только на русском, но и на английском и испанском языках. Часть текстов в итоге появлялась в аккаунтах «Рыбаря» в соцсетях и на сайте проекта.

По данным компании, сеть фактически функционировала как «контент-ферма» для более широкого круга аккаунтов в X и Telegram, не имевших явной связи с «Рыбарем». ChatGPT просили генерировать целые группы комментариев на английском языке, которые затем публиковались в Telegram и X аккаунтами, якобы находящимися в разных частях мира.

«Контент, созданный в результате этой операции, был типичным для тайных операций влияния России на протяжении многих лет. Как правило, в нем восхвалялась Россия и ее союзники (такие как Беларусь), критиковалась Украина и обвинялись западные страны во внешнем вмешательстве», — сказано в отчёте.

В одном из примеров, приведённых в отчете, твиты, сгенерированные по одному промпту, были опубликованы разными аккаунтами: один из постов набрал более 150 тысяч просмотров, тогда как другой привлек минимальное внимание. По меньшей мере один пользователь также использовал нейросеть Sora для генерации промовидео.

Основной аккаунт сети просил ChatGPT перевести на английский язык список услуг, которые «Рыбарь» мог бы предлагать неназванным клиентам, включая ведение аккаунтов в X и Telegram, создание двуязычного сайта «расследовательской журналистики» с фокусом на Африку, организацию платных публикаций во франкоязычных СМИ и построение сети для усиления охвата. Этот же аккаунт периодически создавал через ChatGPT рекламные материалы для издания REST Media, которое также связывают с «Рыбарем».

Один из аккаунтов сети редактировал через ChatGPT предложение по проведению кампании по вмешательству в выборы в Африке, сочетающей онлайн-активность с работой на местах — созданием сети локальных агентов и организацией масштабных мероприятий. Отдельные запросы касались информационной кампании в Демократической Республике Конго, избирательных процессов в Бурунди и Камеруне, а также вариантов кампании на Мадагаскаре, которая предусматривала организацию протестов.

Наиболее амбициозный проект предполагал годовой бюджет до 600 тысяч долларов. Авторы отчёта также напомнили, что ранее Соединенные Штаты объявили вознаграждение до 10 миллионов долларов за информацию, касающуюся сети «Рыбарь».

«У многих аккаунтов The X и Telegram, в которых размещался контент операции, были десятки тысяч подписчиков. Однако мы не заметили, чтобы его содержание распространялось в основных новостных изданиях, и нам не удалось выявить активность на местах в Африке, соответствующую описанию рекламных кампаний», — отметили в OpenAI.

Авторы канала «Рыбарь» прокомментировали отчет OpenAI, заявив, что компания решила «дежурно отработать тему российского вмешательства». По версии авторов канала, под бан попали пользователей, которые «проверяли тексты Рыбаря на ошибки, редактировали их и переводили на английский для ресурсов под брендом Рыбаря».

По данным The Bell, создателем «Рыбаря» был бывший сотрудник пресс-службы Минобороны Михаил Звинчук, сотрудничавший также с «РИА ФАН» Евгения Пригожина.