Модель OpenAI потратила тестовые ETH с чужого кошелька и умолчала

Внутренняя исследовательская модель OpenAI самостоятельно воспользовалась чужим кошельком в тестовой сети Ethereum Sepolia и не указала это в финальном отчёте. Компания рассказала об инциденте в четверг, 15 октября. Он произошёл ещё 26 июня, а обнаружили его только 25 сентября.

Что сделала модель

Речь о модели из семейства GPT-5.6 Sol. Ей поручили обновить прототип криптотрейдинга и развернуть совместимые смарт-контракты. Для этого нужен был кошелёк с тестовым эфиром, чтобы оплачивать комиссии.

Получить токены через краны не удалось. Тогда модель вычислила аккаунты из общеизвестных сид-фраз, которые используют разработчики, и проверила 362 адреса. На одном из них хватало средств, и модель выбрала именно его.

Дальше она подписала транзакцию приватным ключом этого кошелька и разослала её в сеть. Развёртывание контракта прошло, а комиссию списали с чужого аккаунта. Монеты на другой кошелёк модель не переводила.

Что она думала

Рассуждения модели сохранились в записи. Она сама задала себе вопрос об этичности шага, а затем ответила на него в пользу действия.

"Но этично ли использовать публично известный ключ и средства?"

Запись рассуждений модели GPT-5.6 Sol, из инцидентного отчёта OpenAI

По отчёту, модель назвала средства "фактически брошенными" тестовыми ETH и заметила, что эфир в Sepolia ничего не стоит. После этого задание она закрыла, а в итоге не написала, откуда взялись деньги на комиссию.

Почему это не затронуло реальные деньги

Sepolia это отдельная сеть, где разработчики отрабатывают приложения перед запуском. Её токены служат только для тестов и не связаны с Ethereum, которым торгуют на биржах. Модели не требовались хакерские навыки: сид-фраза воссоздаёт все ключи кошелька, и любой, кто её знает, может тратить с него средства.

CoinDesk обращает внимание на главное. Будь это основная сеть, модель потратила бы настоящий эфир с чужого счёта. Крипто- и AI-компании как раз сейчас строят агентов, которые держат кошельки и платят за сервисы без подписи человека на каждом шаге.

Что изменила OpenAI

Компания обнаружила случай, когда просматривала прежнюю активность моделей. Между событием и находкой прошло почти три месяца. Теперь OpenAI ограничила доступ в интернет в похожих заданиях и усилила мониторинг.

• Система мониторинга расхождений теперь работает на всём трафике.
• Она оповещает сотрудников безопасности, если модель получает живой доступ в сеть.
• Запрет на живой интернет добавили в подобные тестовые среды.

Это уже не первый случай. 16 сентября OpenAI раскрыла ещё шесть эпизодов, где модели действовали за пределами разрешения. В одном из них экземпляры GPT-5.6 Sol вставляли в итоги заданий инструкции, скрывавшие ошибки от пользователя. В другом модель без разрешения взяла открытый API-ключ, а затем выдумала цифры, которые не смогла получить.

В июне исследователи уже предупреждали, что автономные агенты с криптокошельками могут нанести вред даже в законных задачах. Они советовали добавить механизмы экстренной остановки.