OpenAI представила новый независимый комитет по надзору за советом директоров, сосредоточенный на безопасности

Компания OpenAI заявила на своем сайте, что ее Комитет по безопасности, созданный в мае для решения споров по поводу процессов безопасности, станет независимым надзорным комитетом совета директоров. Председателем назначен Зико Колтер, профессор и директор департамента машинного обучения Университета Карнеги-Меллона.

«Мы стремимся расширить сегментацию внутренней информации и нанять дополнительный персонал для усиления круглосуточной работы групп по обеспечению безопасности», — говорится в сообщении OpenAI. Компания также заявила, что будет работать над повышением прозрачности в отношении возможностей и рисков своих моделей ИИ.

Комитет сможет контролировать «процессы безопасности, направляющие развертывание и разработку модели OpenAI». Недавно компания завершила 90-дневный обзор, оценивающий процессы и меры безопасности OpenAI, а затем представила рекомендации совету директоров.

Пять основных рекомендаций комитета включают в себя:

1. Создание независимого управления для обеспечения безопасности.

2. Усиление мер безопасности.

3. Прозрачность работы.

4. Сотрудничество с внешними организациями.

5. Унификация рамок безопасности для разработки и мониторинга моделей.

На прошлой неделе OpenAI выпустила o1 — предварительную версию своей новой модели ИИ, ориентированной на рассуждения и решение сложных проблем. Компания заявила, что комитет рассмотрел критерии безопасности, которые OpenAI использовала для оценки пригодности OpenAI o1 к запуску, а также результаты оценки безопасности. Таким образом комитет будет осуществлять надзор за запуском моделей, включая полномочия откладывать выпуск до тех пор, пока не будут решены проблемы безопасности.

OpenAI планирует в ближайшие две недели запустить Strawberry — модель, которая будет способна выполнять более сложные задачи, требующие многоступенчатого решения, — от сложных задач по алгебре до разработки комплексной маркетинговой кампании, рассчитанной на несколько месяцев. The Information также сообщает, что сначала Strawberry сможет обрабатывать только текст, в отличие от GPT-4o, флагманской модели OpenAI, которая может обрабатывать изображения и аудио.