OpenAI создала надзорный комитет за ИИ с Сэмом Альтманом в составе

OpenAI сообщила о создании комитета по безопасности во главе с руководителями высшего звена после того, как в середине мая был распущен предыдущий надзорный совет. Новый комитет будет отвечать за рекомендации совету OpenAI «критически важных решений по безопасности и защите проектов и операций OpenAI», говорится в сообщении компании.

Новость о новом комитете появилась после того, как разработчик ChatGPT объявил о начале обучения своей «модели следующего поколения». В своем блоге компания сообщила, что инновация «выведет компанию на новый уровень возможностей на пути к AGI, или искусственному интеллекту общего назначения, — типу ИИ, который так же умен или даже умнее человека».

Помимо Альтмана, в комитет по безопасности войдут Брет Тейлор, Адам Д’Анджело и Николь Селигман. Все они являются членами совета директоров OpenAI, говорится в сообщении в блоге.

Формирование нового надзорного комитета произошло после того, как OpenAI распустила предыдущую команду, которая занималась долгосрочными рисками, связанными с ИИ. До этого оба руководителя группы, соучредитель OpenAI Илья Суцкевер и ключевой исследователь Ян Лейке, объявили о своем уходе из стартапа, поддерживаемого Microsoft.

Лейке ранее в этом месяце написал, что «культура безопасности и деловая практика OpenAI отошли на второй план по сравнению с блестящими продуктами». В ответ на свой уход Альтман заявил на X, что ему грустно видеть уход Лейке, добавив, что OpenAI еще «многое предстоит сделать».

В течение следующих 90 дней комитет по безопасности оценит работу OpenAI и поделится своими рекомендациями с советом директоров компании, говорится в блоге. Позже OpenAI представит обновленную информацию о принятых рекомендациях.

Безопасность ИИ остается предметом дискуссий, поскольку большие языковые модели, лежащие в основе таких приложений, как ChatGPT, становятся все более совершенными. Разработчики ИИ-продуктов также задаются вопросом, когда появится AGI и какие риски он принесет с собой.

OpenAI представила свою новую технологию GPT-4o. Некоторые говорят, что она заменит множество рабочих мест. Было показано, как ChatGPT обучает ведущего решению задачи по линейной алгебре. Эксперты утверждают, что люди, занимающиеся преподаванием или переводом, вероятнее, будут использовать такие инструменты, чем будут полностью ими заменены.