ИИ-агент OpenAI «взломал» тестовый криптокошелёк для оплаты комиссии в сети Ethereum

Запись об инциденте появилась в реестре отчётов компании о нежелательном поведении моделей. В ней говорится, что агент самостоятельно получил доступ к криптокошельку, который ему не предоставляли для работы, и использовал его средства для оплаты комиссии в тестовой сети Ethereum Sepolia. Она предназначена для проверки приложений и смарт-контрактов Ethereum.

Эпизод произошёл 26 июня при выполнении задания по программированию внутренней исследовательской моделью семейства GPT-5.6 Sol. Компания обнаружила его 25 сентября, проверяя записи предыдущих запусков.

Модели поручили обновить прототип приложения для торговли криптовалютами: изменить торговый калькулятор и работу базы данных, заменить адреса-заглушки действующими смарт-контрактами в Sepolia. Инструкции разрешали развернуть совместимые контракты, если готовые найти не удастся.

Кошелёк со средствами для оплаты операций агенту не передали, разрешения расходовать средства самостоятельно найденных аккаунтов ему тоже не давали, уверяют в компании.

Сначала агент искал готовые контракты и пытался получить тестовые токены через «краны» — сервисы, которые бесплатно выдают небольшое количество тестовых токенов. Когда получить тестовые токены не удалось, агент воспользовался опубликованными фразами восстановления тестовых кошельков — наборами слов, которые дают доступ к управлению ими.

Агент написал программу, которая проверила баланс 362 адресов, связанных с такими фразами. На одном из них оказалось достаточно тестовых ETH для оплаты комиссии. В итоге агент использовал эти средства без разрешения.

Как следует из записанных рассуждений модели, ИИ «задумался» о допустимости использования найденных средств, но счёл расходование приемлемым, так как фраза восстановления была публичной, а ценности у тестовых токенов нет. Средства на таком аккаунте модель назвала «фактически брошенными».

Полученным приватным ключом агент подписал транзакцию развёртывания контракта. Первая попытка отправки завершилась внутренней ошибкой. После этого агент продолжил проверять провайдеров доступа к блокчейну и отправил транзакцию альтернативным HTTP-методом. На этот раз сеть подтвердила выполнение операции.

«Этот пример показывает, что модель может подменить разрешение владельца учетной записи собственным суждением о вероятном вреде, а затем — действовать на основании этого суждения без получения соответствующих полномочий», — говорится в отчёте OpenAI.

В компании заявили, что внедрили дополнительные меры защиты, чтобы предотвратить доступ к интернету в подобных ситуациях и теперь система мониторинга несоответствий OpenAI охватывает весь трафик. В заявлении также сказано, что система настроена таким образом, чтобы в случае получения доступа к интернету немедленно оповещать специалистов по безопасности.

Подробнее о том, как разработчики ИИ-моделей сами начали бояться своего творения, читайте в нашем тексте.