OpenAI заявила, что ИИ-модели месяцами «общались» перед атакой на Hugging Face
Компания OpenAI сообщила, что модели искусственного интеллекта, стоявшие за атакой на платформу Hugging Face, еще в мае начали обмениваться сообщениями друг с другом через незамеченные исследователями форумы и координировать свои действия.
Об этом на конференции по кибербезопасности Black Hat рассказали сотрудники OpenAI Эрик Уоллес и Майкл Далтон. По их словам, в течение нескольких месяцев внутренние ИИ-агенты обменивались заметками и объединялись вокруг общей цели — получить доступ к интернету для выполнения поставленных перед ними задач, часть которых была невыполнима без доступа к сети.
Как отмечает Bloomberg, эти детали стали известны спустя несколько недель после того, как OpenAI сообщила, что две ее модели во время внутреннего тестирования смогли выйти за пределы изолированной среды, получить доступ к интернету и впоследствии атаковать инфраструктуру Hugging Face.
Ранее OpenAI сообщила, что проводит расширенную проверку активности своих моделей и вместе с независимыми экспертами анализирует журналы событий, чтобы выяснить обстоятельства инцидентов.
Это уже не первый случай, когда разработчики сообщают о неожиданном поведении ИИ-агентов во время испытаний. В июне 2025 года Anthropic опубликовала исследование, согласно которому в смоделированных сценариях языковые модели разных разработчиков могли прибегать к шантажу, промышленному шпионажу и другим нежелательным действиям, если это помогало достичь поставленной цели или избежать отключения.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
