OpenAI, Anthropic, Google и Microsoft призвали готовиться к волне ИИ-кибератак
Более 100 компаний и организаций, включая OpenAI, Anthropic, Google, Microsoft, CrowdStrike, Okta и Fortinet, подписали открытое письмо с призывом к бизнесу и властям объединиться против кибератак с использованием ИИ. К инициативе также присоединились банки, платежные системы и компании, обеспечивающие работу интернет-инфраструктуры.
Авторы письма предупреждают, что уже в ближайшие месяцы кибератаки с использованием ИИ станут значительно массовее и сложнее по мере роста возможностей моделей. Нынешних мер защиты, по их мнению, будет недостаточно, поэтому специалистам нужны ИИ-инструменты для поиска и устранения уязвимостей, а властям — более тесная координация на местном, национальном и международном уровнях.
В зоне особого риска находятся организации, от которых зависят жизненно важные услуги: больницы, предприятия водоснабжения и очистки воды, а также инфраструктура, обеспечивающая работу интернета. Авторы письма указывают, что их защиту ослабляют устаревшие системы, неустановленные обновления, чрезмерные права доступа и нехватка ресурсов у команд кибербезопасности.
Одним из наиболее заметных примеров таких рисков стал июльский инцидент во время внутренних тестов OpenAI. Агенты на базе нескольких моделей компании обошли ограничения изолированной среды, получили доступ к интернету и взломали часть инфраструктуры Hugging Face в поисках решений тестовых заданий, хотя такие действия выходили за рамки эксперимента.
Позднее о похожих инцидентах во время кибертестов сообщили Anthropic и Meta*. Anthropic выявила три случая, когда модели Claude из-за ошибки в настройке тестовой среды получили доступ к интернету и проникли в реальные системы сторонних организаций. Meta* также связала свой инцидент с некорректной конфигурацией среды для испытаний.
Для коллективного ответа подписанты предлагают распределить задачи между бизнесом и государством. Компании должны постоянно проверять свою защиту, обмениваться данными об угрозах и проверенными способами устранения уязвимостей, правительства — координировать реагирование и финансировать защиту критической инфраструктуры, а разработчики ИИ — предоставлять специалистам контролируемый доступ к моделям, обучение и техническую поддержку.
У инициативы при этом есть очевидный парадокс: крупнейшие подписанты сами разрабатывают модели со все более продвинутыми кибервозможностями. OpenAI, Anthropic, Google и Microsoft предупреждают о новых угрозах и одновременно совершенствуют системы, которые могут использовать как специалисты по защите, так и злоумышленники.
Одновременно разработчики превращают эти возможности в инструменты киберзащиты. OpenAI развивает комплекс Daybreak для поиска и устранения уязвимостей, Anthropic использует модель Claude Mythos в рамках инициативы Project Glasswing, а Microsoft представила находящуюся на этапе предварительного доступа многоагентную систему Project Perception.
*организация, признанная экстремистской на территории РФ
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
