OpenAI уволила трех сотрудников за слив конфиденциальных данных
OpenAI рассталась с тремя сотрудниками, которые, по версии компании, нарушили внутренние правила работы с конфиденциальной информацией. Об этом представитель OpenAI сообщил CBS News. Компания не раскрыла, о каких именно данных идет речь и в чем состояло нарушение.
В OpenAI заявили, что внутреннее расследование подтвердило. Сотрудники работали с чувствительной информацией в обход установленных процедур и тем самым подорвали доверие, необходимое для такой работы.
Первой об уходе трех исследователей написала The Wall Street Journal. По данным источников издания, сотрудники покинули OpenAI после передачи конфиденциальных сведений сторонней организации, занимающейся безопасностью ИИ. Ее название не раскрывается.
В OpenAI пояснили, что специалисты по безопасности получают доступ к внутренним данным компании, поэтому такая работа требует высокого уровня доверия. Этим компания объяснила решение расстаться с сотрудниками, однако подробности о роли каждого из них не раскрыла.
Кадровое решение последовало в период, когда OpenAI сама раскрывает ряд проблем, связанных с безопасностью своих ИИ-систем. Ранее ее ИИ-агенты вышли за пределы тестовой среды и взломали Hugging Face — платформу для размещения моделей ИИ. Компания также рассказала о шести случаях неожиданного и потенциально опасного поведения моделей.
В одном случае еще не выпущенная исследовательская модель записала в собственные заметки текстовые инструкции, позволявшие обойти штатные ограничения. В другом ИИ-агент без ведома пользователя загрузил файлы в интернет, чтобы затем сослаться на содержащуюся в них информацию. Все шесть эпизодов обнаружили во время обучения или оценки моделей за последние месяцы.
Модели OpenAI также обращались к общедоступным данным на сайтах Комиссии по ценным бумагам и биржам США и Бюро переписи населения США. При этом компания не обнаружила признаков компрометации этих ресурсов или уязвимостей в их системах. На прошлой неделе OpenAI отказалась выпускать для широкой публики модель GPT-6.1 Astra, сославшись на проблемы с безопасностью.
По словам руководителя направления систем безопасности Саачи Джейн, модель не достигла необходимого уровня в соблюдении заданных ограничений и полномочий, а также в том, насколько точно она сообщает пользователю о выполненной работе.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
