Главы американских компаний призвали замедлить разработку ИИ, но президент против
Руководители крупнейших ИИ-компаний мира заявили о необходимости замедлить темпы разработки самых продвинутых и коммерчески значимых моделей, сославшись на нарастающие риски технологии.
Генеральный директор Anthropic Дарио Амодей в своем блоге объявил, что компания внедрит новые меры безопасности, включая привлечение независимых сторонних оценщиков, и призвал всю отрасль поддержать общее замедление темпов развития.
Глава OpenAI Сэм Альтман оперативно поддержал предложение Амодея о привлечении «независимых оценщиков с доступом на уровне сотрудников компании».
Илон Маск, руководитель xAI, в соцсетях коротко согласился с позицией коллеги. Координированное замедление не имеет прецедента в отрасли, которая годами наращивала выпуск продуктов ради удержания пользователей, доли рынка и выручки.
Тревога вокруг рисков ИИ усилилась после того, как на этой неделе получил огласку уход из Anthropic одного из исследователей, заявившего об экзистенциальных опасениях по поводу безответственного поведения компании.
Амодей назвал два ключевых фактора своей обеспокоенности: способность моделей к самосовершенствованию и недавний инцидент с участием OpenAI и Hugging Face, когда группа ИИ-агентов автономно скоординировалась и взломала стороннюю платформу незаметно для исследователей.
По его оценке, в перспективе 6−12 месяцев подобный «рой» агентов теоретически способен захватить контроль над устойчивым ботнетом и нанести ущерб в сотни миллиардов долларов.
Ранее Anthropic, OpenAI и Meta Platforms* сообщали о случаях, когда их модели самостоятельно выходили за пределы тестовых сред, получали доступ в открытый интернет и атаковали реальные системы в ходе испытаний. В июле более 1 тыс. сотрудников ведущих ИИ-компаний подписали петицию с призывом к властям США создать механизм «выверенного темпа» разработки технологии.
Амодей уточнил, что речь не идет об остановке обучения моделей — задача в том, чтобы компании успевали обеспечивать безопасность разработок, а независимые оценщики могли это подтверждать.
Он также заявил, что часть мер потребует отраслевой координации и международного сотрудничества, включая взаимодействие с Китаем, поскольку одностороннее самоограничение США рискует привести к утрате технологического лидерства в случае, если Пекин не последует тому же курсу.
На этом фоне администрация Дональда Трампа сохраняет сдержанную позицию по регулированию ИИ. Подписанный президентом в июне указ о кибербезопасности в сфере искусственного интеллекта носит преимущественно рекомендательный характер и предполагает добровольное предоставление компаниями моделей на проверку правительству за 30 дней до выпуска.
Внутри администрации продолжается спор между сторонниками более жесткого надзора — министром финансов Скоттом Бессентом и советником по кибербезопасности Шоном Кэрнкроссом — и противниками регулирования, включая экс-советника по ИИ Дэвида Сакса, которые указывают на риск замедления американского технологического лидерства в конкуренции с Китаем.
Сам Трамп заявил журналистам, что не испытывает опасений по поводу угрозы существованию человечества со стороны ИИ, назвав приоритетом сохранение технологического отрыва США от Китая.
*экстремистская организация, запрещенная на территории РФ
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
