Новая нейросеть Anthropic сама находит и взламывает уязвимости в системах

Компания Anthropic анонсировала запуск новую языковую модель Claude Mythos Preview с беспрецедентными навыками в области кибербезопасности. Нейросеть способна полностью автономно находить и эксплуатировать ранее неизвестные уязвимости (zero-day) в популярных операционных системах, браузерах и криптографических библиотеках.

В ходе закрытого тестирования модель показала пугающую эффективность. Mythos Preview обнаружил критическую ошибку в «безопасной» операционной системе OpenBSD, которой уже более 27 лет. Также нейросеть нашла уязвимость в популярной библиотеке FFmpeg, существующей свыше 16 лет. Более того, ИИ самостоятельно выявил и проэксплуатировал брешь в сервере NFS на базе FreeBSD, получив полный удаленный доступ к системе.

Исследователи отмечают, что нейросеть способна создавать чрезвычайно сложные цепочки эксплойтов, обходя современные защитные механизмы — такие как KASLR или песочницы браузеров. Даже штатные инженеры Anthropic без профильного образования в кибербезопасности смогли с ее помощью написать рабочие эксплойты всего за одну ночь.

На данный момент Claude Mythos Preview прошла внутренние тесты, однако Anthropic не спешит с ее релизом. Стартап опасается, что инструмент может попасть в руки злоумышленников и использоваться недобросовестно.

Разработчики предупреждают, что в период адаптации рынка такие инструменты могут стать опасным оружием в руках хакеров. Однако в долгосрочной перспективе мощные языковые модели, наоборот, станут ключевым инструментом для защиты ИТ-инфраструктуры и позволят компаниям автоматически находить и устранять ошибки еще до релиза продукта.

Ранее OpenAI, Google и Anthropic решили объединить усилия, чтобы ограничить использование американских разработок китайскими компаниями.

Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.