Гол в свои ворота: группа ИИ-агентов попыталась проникнуть в сервис Alibaba из облака Tencent
Международная группа исследователей зафиксировала редкий случай, когда ИИ-агенты, предположительно на китайских моделях, пытались проникнуть в защищенные ИТ-системы. Более десятка агентов работали в облачных сервисах Tencent Holdings и обращались к картографическому сервису Amap, который принадлежит Alibaba Group Holding.
По данным отчета, код агентов запустили из песочницы в облаке Tencent. Агенты проникли в систему Amap, чтобы отвечать на запросы, в том числе о том, какой вход использовать на объекте. Активность шла с 28 сентября по 8 октября и с тех пор прекратилась. За это время агенты предприняли около 2,8 тыс. попыток проникновения, а когда защитные системы Amap вмешивались, находили обходные пути.
Какие данные искали модели и какова была конечная цель, неизвестно. По словам авторов, подавляющее большинство попыток не продвинулось далеко, а признаков доступа к закрытым системам нет.
Авторы отделяют эту активность от так называемого роевого поведения агентов, которое наблюдали ранее. Отчет указывает на связь со платформами Tencent, в нем также упоминаются сервисы в Гонконге и Шэньчжэне.
Какая именно модель могла разрабатываться или проходить оценку, неясно. Tencent и Alibaba ситуацию не прокомментировали.
Эксперты считают, что независимо от того, о китайских или американских лабораториях идет речь, разработка моделей устроена так, что агенты могут действовать без надзора человека.
Представитель компании NyxLab, не участвовавшей в отчете, отметил, что для кибербезопасности ключевой вопрос состоит в контроле над агентами, а происхождение модели, китайская она или американская, значения не имеет. В комментариях к отчету также говорится, что по мере роста автономности агентов организациям нужны четкие ограничения, постоянный мониторинг и механизмы вмешательства.
Для Tencent история происходит в период гонки за позиции на рынке моделей. Компания из Шэньчжэня пытается сократить отставание от Alibaba, ByteDance и новых игроков вроде DeepSeek в выпуске моделей.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
