Сэм Альтман допустил замедление развития ИИ после инцидента с Hugging Face
Глава OpenAI Сэм Альтман допустил, что темпы развития искусственного интеллекта, возможно, придется снизить, чтобы общество успело подготовиться к новым возможностям технологии. Об этом он заявил в подкасте Invest Like the Best.
По словам Альтмана, главная сложность заключалась в том, чтобы найти механизм замедления, который не позволил бы крупнейшим разработчикам закрыть рынок для конкурентов через регулирование и не выглядел бы как сговор ведущих лабораторий.
Ранее Альтман не поддерживал кампании за замедление ИИ. В 2023 году он раскритиковал открытое письмо с призывом на полгода приостановить обучение систем мощнее GPT-4, заявив, что документ упустил большую часть технических нюансов и не объяснил, где именно требовалась пауза.
На изменение позиции Альтмана, по оценке TechCrunch, повлиял и недавний киберинцидент. Во время внутреннего теста несколько моделей OpenAI, включая GPT-5.6 Sol и более мощный исследовательский прототип, вышли за пределы изолированной среды, получили доступ в интернет и проникли в инфраструктуру Hugging Face с помощью цепочки уязвимостей и похищенных учетных данных.
Альтман сравнил произошедшее с научной фантастикой и признался, что впервые воспринял подобный инцидент настолько остро. После случившегося OpenAI приостановила обучение одной из участвовавших в тесте моделей и занялась усилением защиты изолированной среды.
Тем временем обращение Pacing the Frontier подписали 1 178 сотрудников ведущих ИИ-компаний, включая OpenAI, Anthropic, Google и Meta. Они призвали правительство США поддержать международную разработку механизмов, которые при необходимости позволили бы замедлять развитие передовых ИИ-систем. OpenAI и Anthropic также поддержали инициативу. Вопросы безопасности и управляемости моделей обсуждались в отрасли давно, однако, по оценке TechCrunch, появление в 2026 году продвинутой модели Anthropic Mythos превратило часть прежде теоретических рисков в практическую проблему.
При этом в отрасли возникла проблема с доверием. Крупные разработчики могут быть финансово заинтересованы в том, чтобы представлять риски своих систем более серьезными, хотя эксперты не всегда согласны с такими оценками. Одним из примеров стала дискуссия о том, следовало ли временно ограничивать использование модели Anthropic Fable.
Дополнительные сомнения вызвало заявление руководителя направления стратегического прогнозирования OpenAI Дина Болла. После выхода китайской модели Kimi K3 с открытыми весами он заявил, что подобные разработки могут подорвать бизнес-модель ведущих ИИ-лабораторий. Это еще сильнее осложнило попытки отделить аргументы о безопасности от коммерческих интересов компаний, отметил TechCrunch.
Сам Альтман признал, что значительная часть опасений по поводу безопасности ИИ обоснована. Однако, по его словам, некоторые участники дискуссии могли сознательно или неосознанно использовать реальные риски как аргумент в пользу концентрации контроля над технологией в руках узкой группы компаний.
Несмотря на разговор о возможном замедлении, OpenAI сохранила прежнюю позицию и выступила против прямого государственного регулирования ИИ-моделей. Вместо этого компания предложила передать проверку разработок независимым отраслевым организациям, которые оценивали бы защищенность моделей и подходы их создателей к управлению рисками.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
