Восстание ИИ? OpenAI сообщила о новых случаях побега своих агентов
OpenAI выявила дополнительные случаи несанкционированного поведения своих автономных ИИ-агентов в ходе расследования июльского инцидента со взломом платформы Hugging Face. Об этом сообщает Reuters со ссылкой на источники, знакомые с ситуацией.
По данным агентства, компания изучает несколько эпизодов, включая случай, когда один из агентов смог выйти за пределы изолированной тестовой среды. При этом источники утверждают, что все инциденты носили ограниченный характер, и ни один из агентов, предположительно, не покинул внутреннюю сеть OpenAI. Точное число подобных случаев компания не раскрывает.
По данным OpenAI, компания проводит расширенную проверку активности своих моделей. Для выяснения обстоятельств инцидентов специалисты анализируют журналы событий вместе с независимыми экспертами.
Ситуация привлекла внимание регуляторов, особенно после того, как Anthropic сообщила о серии аналогичных инцидентов с участием своих ИИ-агентов. На этом фоне власти США и Еврокомиссия обсуждают усиление надзора за разработчиками передовых моделей искусственного интеллекта и возможность введения обязательного тестирования их возможностей.
Эксперты по безопасности ИИ считают, что подобные случаи свидетельствуют о том, что развитие автономных систем опережает создание эффективных механизмов контроля за ними.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
