ИИ-агентам понадобились антивирус и техосмотр: стартап AIR проверяет их навыки
ИИ-агент уже может не только отвечать на вопросы, но и получать доступ к базам данных, интернету и корпоративным системам. Для этого ему нужны дополнительные навыки, плагины и внешние инструменты. Проблема в том, что теперь бизнесу приходится разбираться, что именно он только что установил своему цифровому сотруднику.
Вокруг ИИ-агентов закономерно начинает формироваться собственная цепочка поставок программного обеспечения. Чтобы агент мог выполнять дополнительные задачи, ему подключают skills («скилы», иили в дословном переводе «навыки»)— наборы инструкций для выполнения определенной работы, а также плагины, MCP-серверы (от Model Context Protocol, стандарт для связей ИИ-приложений с внешними источниками данных) и другие дополнения, которые дают ему доступ к данным и внешним сервисам.
Пока эта экосистема развивается гораздо быстрее, чем системы контроля за ней, считают в израильском стартапе AIR. Компания предлагает бизнесу отслеживать, какие агенты работают внутри организации и какие внешние инструменты они используют, а также проверять эти компоненты до подключения и повторно — после обновлений.
По сути, речь идет о новой версии давно знакомой проблемы с программным обеспечением. В AIR сравнивают ее с тем, как когда-то пришлось научиться подписывать и проверять драйверы и программы, получающие доступ к операционной системе. В начале 2000-х драйвер можно было установить без обязательной цифровой подписи, тогда как сегодня система позволяет проверить, кто его выпустил. По мнению основателей AIR, ИИ-индустрия пока этот урок еще не до конца усвоила.
Разница в том, что дополнительный «навык» ИИ-агента может не просто добавить новую кнопку в интерфейс. Он способен получать доступ к корпоративным данным, выполнять действия во внешних системах или передавать агенту информацию из интернета. Если такой компонент окажется скомпрометирован, атаковать сам ИИ напрямую может даже не понадобиться — достаточно подсунуть ему вредоносный инструмент или данные.
По данным AIR, ее система уже отсеивает около 27% найденных внешних компонентов как не соответствующих критериям безопасности. Компания объясняет, что проверять их нужно постоянно: ранее одобренный навык может стать опасным после обновления, изменения зависимого программного пакета или взлома аккаунта разработчика.
Стартап называет свой подход своего рода «файрволом для контекста» ИИ-агентов. AIR должна находить работающих в компании агентов, выявлять несанкционированные ИИ-инструменты и проверять навыки, плагины и MCP-серверы, с которыми они взаимодействуют. На официальном сайте компания прямо сравнивает растущую экосистему дополнений для агентов с приложениями для операционной системы: чем больше возможностей получает агент, тем больше появляется потенциальных точек входа для проблем.
AIR не ограничивается разовой проверкой. Компания предлагает повторно анализировать дополнения после изменений. Это важная деталь, поскольку в традиционном программном обеспечении проверка файла один раз еще не означает, что он останется безопасным после следующего обновления. Выходит, сфера ИИ-агентов довольно быстро пришли к той же неприятной истине.
На разработку этой системы AIR привлекла $50 млн в двух посевных раундах, о которых объявила одновременно с выходом из скрытого режима. Первый раунд на $10 млн возглавила Sequoia, второй на $40 млн — Greenoaks. Среди клиентов стартапа уже более 20 компаний, причем примерно четверть из них — крупные предприятия. Наибольший спрос AIR видит в финансовом и фармацевтическом секторах, где требования к безопасности особенно высоки.
Конкуренция в этом сегменте уже формируется: похожими задачами занимаются Noma Security, Zenity, Astrix Security и Operant AI. А сами крупные поставщики ИИ-инфраструктуры постепенно добавляют инструменты проверки навыков и компонентов.
Что это значит для бизнеса
Для компаний работа AIR — еще одно напоминание, что внедрение ИИ-агента не заканчивается выбором модели. Чем больше систем, данных и внешних инструментов получает агент, тем больше становится похожим на обычного сотрудника с доступом ко всему подряд — только этот сотрудник может за секунду установить себе неизвестный плагин.
Пока такие проблемы в первую очередь актуальны для крупных компаний. Но по мере того как навыки, MCP-серверы и другие дополнения станут обычной частью ИИ-инструментов, вопрос «какие расширения надо установить агентам» постепенно превратится в вопрос «что разрешается им устанавливать».
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
