Новости

Система управления инструментами для ИИ-агентов от американского стартапа снизила расход токенов на 37%

Стартап Arcade.dev, который помогает ИИ-агентам работать в корпоративном ПО и ограничивает их права, представил функцию Tool Recommendation. Она подбирает агенту нужные действия, чтобы не загружать в каждый диалог длинный перечень функций. Функция доступна клиентам облачной платформы Arcade Cloud с 15 октября без отдельной платы.

Unsplash

Проблема связана с ростом затрат. Чем больше систем подключено к агенту, тем длиннее его инструкции и дороже обработка. Каталог Arcade включает более 8 тыс. инструментов, и описание всего перечня заняло бы около 1,75 млн токенов до первого запроса пользователя. Новая система оставляет агенту несколько точек входа для поиска приложений и функций. Агент описывает задачу, Arcade ранжирует каталог с помощью небольших специализированных моделей и возвращает короткий список, а решение о выполнении остается за моделью агента.

Компания приводит три цифры, которые описывают разные вещи. Снижение расходов на токены с описанием инструментов достигает 91%, но не учитывает остальную часть сессии. Смоделированная экономия входящих токенов доходит до 37% для ассистента со 100 фиксированными инструментами. Для типового сценария из трех запросов Arcade оценивает ее в 20%, а если объемные результаты работы инструментов остаются в диалоге, то в 5−7%.

Единственный измеренный результат получен на 408 сессиях по 64 рабочим процессам с Codex и Claude Code: суммарные расходы на входящие и исходящие токены снизились на 7,6% при доверительном интервале от 2,5% до 12,6%. Для Claude Code сокращение составило 9,7%, для Codex 5,5%.

Рынок инструментов для оптимизации ИИ-агентов уже занят. Microsoft, Anthropic и OpenAI предлагают собственные способы подгружать инструменты по требованию. Arcade делает ставку на объединение подбора с контролем исполнения: система проверяет права пользователя и агента, хранит учетные данные вне контекста модели и ведет журнал действий через OpenTelemetry.

Экономика для клиента не сводится к токенам. Платформа Arcade бесплатна до 2 тыс. событий авторизации и 2 тыс. вызовов инструментов в месяц. Тариф Team стоит $25 в месяц плюс $0,1 за событие авторизации и $0,01 за вызов.

Корпоративные условия определяются индивидуально, а цена и сроки запуска функции для локальных установок не названы. Технический директор стартапа признал, что частые обращения к системе рекомендаций могут свести экономию к нулю. По расчетам самой компании, при списке короче 25−28 инструментов выгоднее оставить фиксированный набор.

Ориентиром для покупателей остаются измерения на собственных нагрузках. Arcade оценивает годовую экономию в $119 тыс. для 1 тыс. пользователей Claude Opus 5 при 20 диалогах в месяц, но это расчетный сценарий, а не результат конкретного клиента. 


Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.