Платформа Cohere представила доступную для небольшого бизнеса ИИ-модель

Канадская компания Cohere представила новую AI-модель Command A с 111 млрд параметров и контекстным окном в 256 тыс. токенов. Главная особенность нейросети — в низких затратах ресурсов, для запуска она требует всего два графических процессора, что делает ее доступной для предприятий с ограниченными вычислительными ресурсами.

Command A поддерживает 23 языка и демонстрирует высокую точность при работе с региональными диалектами, включая египетский, саудовский, сирийский и марокканский варианты арабского языка.

Новая модель способна генерировать 156 токенов в секунду. Это в 1,75 раза быстрее GPT-4o при доступе по API, но в несколько раз медленнее моделей, запущенных на оборудовании стартапов Groq и Cerebras (до 1 тыс. токенов/сек). Локальное развертывание Command A также обойдется бизнесу дешевле многих производительных моделей. Это существенно снижает финансовую нагрузку на компании при сохранении высокой производительности.

Модель предназначена прежде всего для выполнения корпоративных задач, включая генерацию по результатам поиска (RAG), использование сторонних инструментов и SQL-запросы.

Ранее мы рассказывали о росте интереса российского бизнеса к ИИ — по данным банка «Точка», интерес к этой технологии среди представителей малого и среднего бизнеса в России вырос с 2022 по 2024 годы на 625%.