Стартап бывшей CTO OpenAI выпустил первую ИИ-модель
Стартап Thinking Machines Lab, основанный бывшим техническим директором OpenAI Мирой Мурати, выпустил свою первую ИИ-модель собственной разработки — Inkling. В отличие от закрытых флагманских решений OpenAI, Anthropic и Google, она распространяется с открытыми весами. Разработчики и компании могут скачать модель, запустить ее на собственной инфраструктуре и адаптировать под свои задачи.
Inkling построена на архитектуре «смеси экспертов» и насчитывает 975 млрд параметров, из которых при обработке каждого токена активируются около 41 млрд. Такая схема требует меньше вычислительных ресурсов, чем одновременное использование всех параметров. Модель обучалась на 45 трлн токенов текста, изображений, аудио и видео, однако сейчас принимает только текст, изображения и аудиозаписи, а ответы формирует в текстовом виде.
Inkling стала первой собственной моделью Thinking Machines за полтора года работы, но не первым публичным продуктом стартапа. Ранее компания запустила платформу для дообучения моделей Tinker, а в мае показала экспериментальную интерактивную систему, способную поддерживать разговор и перебивать собеседника. Новый релиз проверяет главную идею Thinking Machines — адаптированные под конкретную организацию модели могут оказаться полезнее универсальных решений крупнейших ИИ-лабораторий.
Thinking Machines сама признает, что Inkling уступает сильнейшим открытым и закрытым моделям. Компания позиционирует ее не как готового лидера рейтингов, а как сбалансированную основу, которую клиенты смогут дообучать под свои задачи через платформу Tinker. Разработчики модифицированных версий при этом должны самостоятельно оценивать связанные с ними риски и обеспечивать безопасность конечных продуктов.
В качестве примера эффективности своего подхода Thinking Machines приводит совместный проект с Bridgewater Associates, одной из крупнейших инвестиционных компаний мира. Bridgewater не входит в число инвесторов стартапа, однако это не делает результаты эксперимента независимыми, поскольку его проводили специалисты обеих компаний.
Специалисты Thinking Machines и Bridgewater использовали платформу Tinker, чтобы дообучить модель Qwen от Alibaba на внутренних финансовых данных и экспертизе инвестиционной компании. В совместных тестах модифицированная версия набрала 84,7% в заданиях на финансовое рассуждение, обойдя участвовавшие в сравнении закрытые модели. Затраты на ее эксплуатацию при этом оказались примерно в 14 раз ниже, однако результаты оценивали сами участники проекта, а независимое тестирование не проводилось.
Похожие аргументы приводят и другие руководители технологических компаний. Глава Microsoft Сатья Наделла в опубликованной в воскресенье колонке заявил, что бизнес фактически платит за закрытые ИИ-модели дважды — сначала деньгами, а затем собственными знаниями, которыми приходится делиться через запросы, обратную связь и исправления, чтобы получать более точные ответы.
Схожего сценария ожидает глава Hugging Face Клеман Деланг. По его прогнозу, самые мощные модели будут использовать преимущественно для экспериментов и особенно ценных задач, тогда как основная производственная нагрузка постепенно перейдет к частным корпоративным и открытым решениям.
В развитии вычислительной инфраструктуры Thinking Machines опирается на заключенное в марте партнерство с Nvidia. Соглашение предусматривает развертывание не менее одного гигаватта систем нового поколения Vera Rubin, причем их установка должна начаться позднее. Саму Inkling компания полностью обучила на другом поколении оборудования Nvidia — комплексах GB300 NVL72.
Экономика проекта пока остается неясной. Thinking Machines не объясняет, как собирается покрывать расходы на масштабную вычислительную инфраструктуру, а переговоры о новом раунде, который мог оценить стартап примерно в $50 млрд, по данным СМИ, застопорились в январе. Зарабатывать компании предстоит прежде всего на платформе Tinker, услугах дообучения и партнерской инфраструктуре для размещения моделей, поскольку открытые веса Inkling можно скачать бесплатно. Сейчас в Thinking Machines работают около 200 человек, а численность команды восстановилась после серии уходов в начале года, когда два сооснователя вернулись в OpenAI.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
