Киберпреступники начали передавать ИИ все больше задач при взломе систем
Кибератаки с участием ИИ перестают ограничиваться отдельными вспомогательными задачами. В июле группа связанных между собой ИИ-агентов несколько дней самостоятельно выполняла операции по исследованию государственной инфраструктуры Тайваня: искала слабые места, добывала учетные данные и корректировала дальнейшие действия. Об этом сообщила израильская компания Dream, обнаружившая следы кампании.
Исследователи восстановили ход операции благодаря архиву размером свыше 160 МБ, случайно оказавшемуся в открытом доступе. Атакующие начали с одного государственного ресурса и в результате обнаружили еще 21 связанную систему. Система получила данные для входа в 85 учетных записей и собрала информацию более чем о 2,5 тыс. сотрудников. Затем ИИ-агенты переключились на инфраструктуру ведомства, отвечающего за ядерную безопасность, а также как минимум семи энергетических компаний. Данных об успешном проникновении в эти ресурсы Dream не приводит.
В основу атакующей инфраструктуры легли открытые платформы для работы ИИ-агентов Hermes и OpenClaw. Одновременно в операции могли участвовать до восьми агентов, каждый из которых выполнял свою часть работы. При этом определить конкретную языковую модель исследователям не удалось. Защитные механизмы модели, предположительно, обошли с помощью маскировки вредоносных действий под легитимную проверку защищенности систем.
Определение «полностью автономная атака» специалисты считают спорным. По оценке Александра Гостева из «Лаборатории Касперского», опубликованные данные подтверждают высокий уровень автоматизации, но не доказывают отсутствие человека на всех этапах. Вероятно, оператор заранее выбрал цель, подготовил инфраструктуру и сформулировал задачу. Денис Кувшинов из Positive Technologies обращает внимание на другой критерий: важно установить, принимал ли человек решения после запуска системы — например, какую уязвимость использовать или на какой сервер перейти.
При этом инцидент не свидетельствует о появлении у ИИ принципиально новых методов взлома. В ходе операции применялись вполне известные проблемы информационной безопасности: незащищенные API, оставленные в рабочей среде отладочные интерфейсы, слабые пароли и ошибки конфигурации механизмов аутентификации. Неизвестных ранее уязвимостей, которые удалось бы успешно использовать, в опубликованных материалах также не обнаружено. Поэтому эксперты рассматривают этот случай прежде всего как демонстрацию способности ИИ ускорять поиск и эксплуатацию уже существующих слабых мест.
Похожая тенденция проявляется и в деятельности северокорейских хакеров. Исследователи Genians обнаружили у группировки Kimsuky собственную ИИ-инфраструктуру с локальными моделями Ollama, GPT4All и Msty, инструментами RAG и средствами создания ИИ-агентов. В арсенале также оказался кодинговый помощник Cursor. Такой подход позволяет обрабатывать информацию локально, не отправляя ее в сторонние ИИ-сервисы, и использовать модели для анализа данных, разработки вредоносного кода и подготовки фишинговых кампаний.
Эксперты считают, что распространение открытых моделей и удешевление ИИ-инструментов повышают вероятность подобных операций против государственных систем и критической информационной инфраструктуры. Для России риск особенно актуален в перспективе ближайших лет. Однако пока подтвержденных случаев, когда ИИ без вмешательства человека самостоятельно выполнял весь цикл атаки от постановки цели до конечного воздействия на инфраструктуру, остается немного.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
