OpenAI приостановила часть работ над моделью Astra из-за опасений в сфере кибербезопасности
OpenAI приостановила часть внутренних работ над своей будущей моделью искусственного интеллекта Astra, чтобы усилить меры безопасности. Компания заявила, что пока не может исключить возможность достижения моделью «критического порога кибербезопасности».
Под этим порогом OpenAI понимает способность ИИ самостоятельно находить и разрабатывать эксплойты для серьезных уязвимостей, включая уязвимости нулевого дня, а также проводить сложные кибератаки против защищенных систем без помощи человека.
По данным Reuters, предварительные оценки показали значительный прогресс Astra в задачах, связанных с агентным программированием и кибербезопасностью. В связи с этим OpenAI активировала предусмотренные системой оценки рисков меры защиты и усилила контроль за разработкой модели.
При этом OpenAI не утверждает, что Astra уже достигла критического уровня. Компания лишь указывает, что на данном этапе не может исключить такую возможность. Тестирование и оценка модели продолжаются.
OpenAI применяет к Astra тот же принцип, что и к другим потенциально опасным возможностям: по мере приближения модели к установленному порогу компания должна усиливать тестирование, защитные меры и контроль.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
