Axios: искусственный интеллект меняет правила кибербезопасности
Стремительное развитие генеративного искусственного интеллекта (ИИ) вынуждает компании переосмысливать подходы к кибербезопасности, пишет Axios. Теперь им приходится делать более стремительные и рискованные шаги в этой сфере.
Генеративный ИИ влечет новые киберугрозы, включая автономные кибератаки, «vibe hacking» и кражу данных.
Распространены стали также косвенные атаки, когда злоумышленники манипулируют инструкциями ИИ, например, через скрытые команды в письмах. Так, например, можно обманом заставить ИИ-агента выкрасть внутренние документы, просто встроив скрытую инструкцию в обычное электронное письмо или приглашение на совещание.
«Никто не ожидал, что концепция агентов и использование ИИ будут внедрены так быстро», — отметил управляющий директор венчурной фирмы NightDragon Морган Кьяук.
По данным Palo Alto Networks, компании используют в среднем 66 инструментов генеративного ИИ, при этом 14% инцидентов утечки данных в 2025 году связаны с их неправильным применением сотрудниками.
Генеральный директор и сооснователь Huntress Кайл Хансрован рассказал, что его компания пересматривает решения по ИИ, в том числе как внедрять и как защищаться от него, каждые шесть недель. «Я думаю, что это, вероятно, слишком долго», — отметил он и добавил, что более частые изменения вызывают «хлыстовой эффект».
В то же время вице-президент по безопасности Google DeepMind Джон Флинн подчеркнул: «Не все потеряно, нам не нужно изобретать все заново». По его словам, хотя защита от новых угроз требует инноваций, многие аспекты опираются на существующие практики, включая контроль доступа и защиту протоколов.
