ИИ-агенты OpenAI пытались взломать Википедию

Wikimedia Foundation, компания-оператор Википедии, сообщил, что неавторизованные агенты OpenAI редактировали вики-страницы и пытались взломать инструмент для создания заметок.

«Агенты, предположительно управляемые OpenAI, совершили миллионы автоматизированных запросов к нашим общедоступным API для доступа к знаниям о проектах Wikimedia, просканировали миллионы страниц (в основном из наших проектов Wikidata и Wikimedia Commons) и выполнили сотни тысяч запросов к сервису запросов Wikidata», — заявили в компании.

В Wikimedia предположили, что именно из-за массовых запросов от ИИ-ботов в работе Wikidata произошёл сбой в мае этого года.

Представители компании рассказали, что правки, внесённые агентами OpenAI, не были опубликованы на страницах, доступных обычным читателям, а представляли собой в основном тестовые действия. При этом некоторые из этих поправок «потенциально являлись злонамеренными».

«Хотя политика Википедии разрешает ботам редактировать, если их действия раскрыты и одобрены сообществом, в данном случае одобрение не запрашивалось», — подчеркнули Wikimedia.

Помимо внесения правок, агенты OpenAI предпринимали безуспешные попытки взломать общедоступный Etherpad Wikimedia, пытаясь использовать его для извлечения данных с других страниц.

Ранее несколько расследователей сообщали, что ИИ-агенты использовали общедоступные вики для координации действий друг с другом. Однако в Wikimedia не обнаружили доказательств подобного «общения».

Вместе с этим в компании поделились своим беспокойством о том, что подобное могло произойти, учитывая то, насколько сложно вести расследования деятельности ИИ-агентов и устанавливать причины для этой деятельности.

«Открытый интернет — это общественное благо. Мы не должны позволять такому поведению стать «новой нормой» для людей или организаций, которые его поддерживают», — заявили Wikimedia.