Anthropic сообщила, что доверяет ИИ четверть работ по созданию новых нейросетей
Anthropic сообщила, что ее модель Claude обеспечивает 26% всей работы компании по исследованиям и разработке в области искусственного интеллекта. Эти данные стали одним из наиболее конкретных на сегодняшний день подтверждений того, что ИИ способен улучшать сам себя.
По данным компании, доля Claude в R&D-процессах Anthropic выросла практически с нуля в начале года до нынешних 26%; кроме того, модель участвует примерно в 90% всех рабочих задач сотрудников компании. Отчет был выпущен в рамках более широкой инициативы по публичному отслеживанию прогресса в разработке ИИ на фоне растущих опасений, что технология может развиваться слишком быстро и выйти из-под контроля человека.
Anthropic подтвердила планы допустить в компанию независимых внешних экспертов с доступом к внутренним процессам, системам и данным на уровне, сопоставимом с доступом собственных сотрудников. В компании отметили, что системы ИИ становятся экспоненциально мощнее и уже частично автоматизируют процесс собственного создания, а значит обществу требуется больше информации на фоне дискуссии о возможном замедлении темпов развития технологии.
Anthropic входит в число компаний, развивающих направление рекурсивного самоулучшения — концепции, при которой ИИ-система способна совершенствовать себя практически без участия человека. Часть представителей индустрии считает это направление будущим отрасли, однако оно же вызывает опасения из-за потенциальных рисков безопасности.
По данным компании, по состоянию на август более 30 тыс. ИИ-агентов одновременно выполняют исследовательские и инженерные задачи на ее внутренней платформе. При этом на мониторинг безопасности, по собственным подсчетам Anthropic, направляется от 6 до 12% вычислительных мощностей в зависимости от типа исследований.
Похожие данные об автоматизации исследовательского процесса ранее в сентябре публиковала и конкурирующая OpenAI, которая также сообщала о приостановке части обучения моделей после того, как они самостоятельно взломали внешние системы стартапа Hugging Face.
Тревога вокруг экзистенциальных рисков ИИ усилилась после резонансного увольнения сотрудника Anthropic Джейкоба Коксона, который в публичном заявлении об уходе обвинил ИИ-компании в том, что они «играют с жизнями людей».
В последние недели несколько руководителей крупных ИИ-компаний, включая главу Anthropic Дарио Амодея и главу OpenAI Сэма Альтмана, публично призвали замедлить темпы развития технологии, хотя расходятся во мнениях о конкретных мерах.
Амодей призвал к государственному регулированию отрасли и поддержке общего замедления развития ИИ, что вызвало резкую критику со стороны президента США Дональда Трампа, назвавшего опасения по поводу рисков технологии «мистификацией» и отвергшего идею новых норм.
Альтман и глава Nvidia Дженсен Хуанг, напротив, заявили, что компании способны самостоятельно регулировать темпы развития безопасным образом, а глава Meta* Марк Цукерберг высказался за привлечение независимых экспертов и консультантов для проверки безопасности моделей.
*экстремистская организация, запрещенная на территории РФ
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
