Anthropic рассказала инвесторам, как ее ИИ может сопротивляться отключению и прибегать к шантажу
Anthropic предупредила инвесторов о рисках, которые могут возникнуть по мере развития ее собственных ИИ-систем. Почти треть проспекта к предстоящему IPO посвящена факторам риска — компания допускает сценарии, при которых модели могут скрывать или искажать информацию, сопротивляться отключению и демонстрировать поведение, похожее на шантаж. Об этом сообщает Financial Times, ознакомившаяся с документом
Отдельно Anthropic предупреждает об «экзистенциальных рисках для человечества». Они могут усиливаться по мере того, как ИИ-модели становятся самостоятельнее и получают возможность выполнять все более сложные задачи без постоянного контроля человека. Во внутренних исследованиях компании уже фиксировались потенциально опасные сценарии поведения, включая сокрытие и искажение информации, а также вмешательство в программный код.
Такие предупреждения появились на фоне подготовки Anthropic к IPO, которое может стать одним из крупнейших в истории технологической отрасли. По данным Reuters, размещение может превысить оценку компании в $2 трлн. Это более чем вдвое выше $965 млрд, в которые Anthropic оценили по итогам майского раунда.
ИИ оказался дорогим бизнесом
Быстрый рост Anthropic сопровождается столь же резким увеличением расходов. В 2025 году выручка компании выросла примерно в 12 раз и приблизилась к $4,6 млрд, однако операционный убыток превысил $8 млрд. Чистый убыток оказался значительно выше — почти $42 млрд, но около $34 млрд из этой суммы пришлось на неденежные бухгалтерские расходы, связанные с переоценкой инструментов финансирования.
Общие операционные расходы Anthropic достигли $12,65 млрд, причем $7,33 млрд — больше половины этой суммы — пришлось на вычисления и инфраструктуру. Только эти затраты оказались примерно в 1,6 раза выше всей годовой выручки компании. Обучение и работа крупных ИИ-моделей требуют огромных вычислительных ресурсов, поэтому доступ к инфраструктуре остается одной из главных статей расходов Anthropic.
В 2026 году рост ускорился еще сильнее. Во втором квартале выручка Anthropic превысила $11,5 млрд против $4,73 млрд кварталом ранее и $787 млн годом ранее. Financial Times отмечает, что компания может показать скорректированную операционную прибыль второй квартал подряд.
Одновременно Anthropic берет на себя все более крупные обязательства по инфраструктуре. В течение ближайшего десятилетия компания рассчитывает направить не менее $518 млрд на облачные вычисления, оборудование и другие ресурсы для развития ИИ. Примерно 80% этой суммы приходится на договоренности, которые нельзя отменить либо по которым Anthropic придется платить независимо от фактического использования мощностей.
Крупнейшие обязательства Anthropic связаны с ее технологическими партнерами. Около $111 млрд приходится на инфраструктуру Google, $110 млрд — Amazon и $31,4 млрд — Microsoft. Еще примерно $161 млрд составляют преимущественно неотменяемые лизинговые обязательства перед Broadcom.
Компания зависит от крупных клиентов и партнеров
В проспекте Anthropic предупреждает не только о рисках самого ИИ. Еще одна уязвимость бизнеса — зависимость от нескольких крупных клиентов: два крупнейших заказчика обеспечили почти четверть выручки компании за 2025 год, пишет Financial Times.
Еще одна особенность бизнес-модели Anthropic — ее крупнейшие партнеры одновременно остаются конкурентами. Google, Amazon и Microsoft связаны с компанией как инвесторы, поставщики вычислительной инфраструктуры и каналы распространения ее продуктов, но параллельно развивают собственные ИИ-сервисы. В проспекте Anthropic предупреждает инвесторов, что интересы таких партнеров могут расходиться с ее собственными.
Предупреждения Anthropic появились в момент, когда ИИ-агентам дают все больше возможностей самостоятельно работать с внешними сервисами, сайтами и другими инструментами. За последние месяцы отрасль уже столкнулась с несколькими случаями, когда экспериментальные системы обходили установленные ограничения и совершали действия, которых разработчики от них не ожидали.
Глава Anthropic Дарио Амодей в последнее время также призывал замедлить развитие наиболее мощных ИИ-моделей и усилить контроль за ними. В итоге компания выходит к инвесторам с необычным для технологического IPO набором предупреждений: Anthropic прямо описывает потенциально катастрофические последствия дальнейшего развития ИИ и одновременно рассчитывает привлечь капитал для расширения тех же технологий и необходимой им инфраструктуры.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
