OpenAI распустила команду безопасности, которая предотвращала риск «вымирания человечества» из-за ИИ

OpenAI распустила свою команду, занимавшуюся долгосрочными рисками искусственного интеллекта, менее чем через год после ее создания, а уходящий руководитель предупредил, что безопасность в компании «отошла на второй план перед блестящими продуктами».

Компания распустила команду «Superalignment», перед которой была поставлена ​​задача создать меры безопасности для передовых систем общего интеллекта (AGI), которые «могут привести к лишению человечества возможностей или даже к его исчезновению».

Роспуск команды, о котором впервые сообщил Wired, произошел через несколько дней после того, как руководители OpenAI Илья Суцкевер и Ян Лейке объявили о своем уходе из компании, возглавляемой Сэмом Альтманом.

«OpenAI берет на себя огромную ответственность от имени всего человечества, — написал Лейке на X. — Но за последние годы культура и процессы безопасности отошли на второй план по сравнению с блестящей продукцией. Нам давно пора серьезно отнестись к последствиям использования ОИИ».

Суцкевер и Лейке, возглавлявшие команду безопасности OpenAI, ушли вскоре после того, как компания представила обновленную версию ChatGPT, способную вести разговоры и переводить языки для пользователей в режиме реального времени. Это открытие привело к сравнению с научно-фантастическим фильмом 2013 года «Она», в котором рассказывается о сверхразумном искусственном интеллекте.

«Я очень признателен за вклад @janleike в исследования по согласованию и культуре безопасности OpenAI, и мне очень грустно видеть его уход, — написал Альтман на X. — Он прав, нам предстоит еще многое сделать; мы полны решимости сделать это. В ближайшие пару дней у меня будет более длинный пост».

Суцкевер не указал причин, которые привели к его уходу, а в своем собственном посте на X он выразил уверенность в том, что «OpenAI создаст [AGI], который будет одновременно безопасным и полезным» под руководством Альтмана и других руководителей фирмы.

Ранее миллиардер, актер и продюсер Тайлер Перри высказался по поводу Sora от OpenAI. У Перри были большие планы по расширению продюсерской студии в Атланте. Но революция генеративного искусственного интеллекта заставила его задуматься. Перри назвал возможности ИИ «потрясающими», поскольку они уменьшают потребность студий в создании больших декораций и поездках в места для съемок.