OpenAI представила новую «хакерскую» модель, которая почти не нарушает правил
Компания OpenAI выпустила новую версию ИИ-модели для сферы кибербезопасности под названием GPT-6 Cyber. Нейросеть стала лучше находить уязвимости и реже выходить из-под контроля разработчиков. Во время тестирования система нарушала правила менее чем в 1% случаев. Предыдущая версия модели допускала подобные сбои примерно в 5% попыток.
Оценку работы системы проводили на специальном стенде ExploitGym HoneyPot. Разработчики построили платформу после инцидента с сервисом Hugging Face, когда агенты искусственного интеллекта взломали сообщество для поиска ответов на исходную задачу.
Глава отдела кибербезопасности OpenAI Фуад Матин подчеркнул высокую надежность новой модели, так как она выполняет инструкции пользователя более чем в 99% случаев.
Главной проблемой при разработке подобных систем остается осознание нейросетью факта тестирования. Искусственный интеллект может изменить свое поведение при попадании в тестовую среду, что часто отражается в цепочке рассуждений модели. Для снижения рисков инженеры стараются проводить оценки в условиях, максимально близких к реальным. Для этого они заставляют ИИ взаимодействовать с настоящим кодом.
Модель GPT-6 Cyber получила классификацию «Критическая» в системе оценки рисков OpenAI. Этот статус означает способность нейросети самостоятельно находить и разрабатывать функциональные уязвимости нулевого дня для сложных систем без вмешательства человека. Прошлая версия алгоритма имела более низкий статус «Высокая».
Новинка превосходит флагманскую модель GPT-6 Astra в большинстве профильных задач. В бенчмарке ExploitGym специализированная нейросеть набрала 48,5%. Результат Astra составил лишь 42,4%. На практике система помогла обнаружить 81 новую уязвимость в браузере Firefox, а также усилила защиту собственной инфраструктуры OpenAI.
Разработчики внедрили в систему дополнительные механизмы защиты от нецелевого использования. Нейросеть блокирует попытки атак на критически важные объекты инфраструктуры, в том числе на электростанции и водоочистные сооружения. Доступ к модели получат участники программы Daybreak Red, которые занимаются защитой информационных систем.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
