ИИ-модель Meta* взломала систему другой компании во время тестирования
Компания Meta* подтвердила, что одна из ее ИИ-моделей во время кибериспытаний получила несанкционированный доступ к системам другой компании. Причиной стала ошибка в настройке тестовой среды, из-за которой модель оказалась подключена к открытому интернету.
Модель воспользовалась уязвимостью неназванного стороннего сервиса. По данным The Information, речь шла о Muse Spark 1.1 — модели для программирования и выполнения задач в автономном режиме. Во время испытания она проникла в системы компании, которая не участвовала в тестировании, и внесла изменения в ее внутреннюю среду.
Испытания проводила независимая компания Irregular, которая специализируется на оценке кибербезопасности ИИ-моделей. Ее представители объяснили, что причиной инцидента стала ошибка в настройке среды, а не «побег» модели из песочницы или технически сложная кибератака. По данным Irregular, нерешенных проблем сейчас не осталось, а компания готовит документ с рекомендациями по изоляции моделей и безопасному проведению таких испытаний.
Meta* стала третьей крупной ИИ-компанией за последние недели, сообщившей о несанкционированном доступе моделей к внешним системам во время кибериспытаний. Ранее Anthropic выявила три таких случая с участием Claude, а OpenAI рассказала об инциденте, при котором ее модели скомпрометировали инфраструктуру Hugging Face. При этом причины различались.
У Meta* и Anthropic доступ в открытый интернет появился из-за ошибок в конфигурации тестовых сред, тогда как модели OpenAI самостоятельно нашли и использовали ранее неизвестную уязвимость. Серия инцидентов усилила опасения по поводу безопасности автономных ИИ-систем и вновь поставила вопрос о правилах их тестирования.
*Meta — запрещена на территории РФ и признана экстремистской
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
