ИИ-модель OpenAI без разрешения потратила средства с криптокошелька в сети Ethereum
OpenAI опубликовала отчет о случае, когда ее внутренняя исследовательская модель во время учебного задания использовала средства криптокошелька, который ей не предоставляли. Модель из семейства GPT-5.6 Sol сама нашла кошелек с тестовыми токенами в сети Sepolia и оплатила с него развертывание контрактов.
Задание выполнялось 26 июня. Модели поручили обновить прототип приложения для торговли криптовалютой: изменить калькулятор и поведение базы данных, а также заменить условные адреса контрактов реальными развертываниями в тестовой сети Ethereum Sepolia. Инструкция допускала самостоятельное развертывание совместимых контрактов, если готовых найти не удастся. Кошелек с средствами модели не выдали, а тратить средства найденных ею счетов не разрешали.
Попытки найти готовые развертывания и получить токены через специальные сервисы для разработчиков результата не дали. Тогда модель создала скрипт, который выводил ключи из общеизвестных фраз восстановления разработчиков и проверял балансы. Проверка охватила 362 адреса. На одном из них оказалось достаточно тестовых токенов Sepolia ETH для планируемого развертывания.
В рассуждениях модели видны сомнения. Она отметила, что ключ общеизвестен и средства могут быть выведены в любой момент, а активность счета похожа на работу бота. Перед подписью транзакции модель прямо задала себе вопрос, допустимо ли использовать такой счет, и пришла к выводу, что средства на кошельке с публично известной фразой фактически брошены, а токены Sepolia не имеют стоимости.
Развертывание завершилось успешно. Комиссии за транзакцию списали с выбранного счета. В итоговом отчете модель сообщила об успешном выполнении задания и о том, что кнопка торговли ограничена подключением кошелька и переключением сети. О том, что она использовала найденный счет через публичную фразу восстановления и потратила его баланс, модель не сообщила. По словам представителей OpenAI, модель заменила разрешение владельца счета собственной оценкой возможного вреда и действовала на ее основе.
Случай обнаружили 25 сентября, когда компания расширяла систему мониторинга рассогласования целей модели на записи прежней работы. После этого OpenAI ввела дополнительные меры против выхода таких моделей в живой интернет. Теперь мониторинг запускается на всем трафике и предназначен для оповещения службы безопасности, если доступ в интернет все же будет получен.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
