В России появилась новая платформа для развертывания ИИ-моделей на серверах компаний

Компания Napoleon IT запустила новую платформу для локального развертывания больших языковых моделей — Napoleon OnPremAI. Как сообщили «Инк.» в российской организации, сервис можно запустить в корпоративной инфраструктуре всего за два часа. Ключевая особенность платформы — мультимодальная база знаний, поддерживающая тексты, аудио и изображения в единой системе.

Платформа разворачивается в корпоративном контуре или приватном облаке и подключается к внутренним системам, включая Confluence, Jira, CRM, ERP, базы данных и различные форматы документов (PDF, DOCX, TXT, JSON, XML). Все данные остаются внутри периметра заказчика, что повышает безопасность информации.

Napoleon OnPremAI поддерживает работу с разными моделями, такими как YandexGPT, Qwen, Gemini, Mistral, Vikhr, Сайга, Gemma, Whisper. Благодаря локальному развертыванию компании экономят на постоянной оплате обработки данных во внешних облаках. Также доступен гибридный формат, совмещающий локальные ресурсы и возможности облачных сервисов.

Решение уже внедрено в нескольких компаниях, включая международную сеть образовательных центров и производителя накопителей электроэнергии. Еще более десяти компаний находятся в процессе интеграции.

По словам руководителя продаж LLM-решений в Napoleon IT Тимофея Зверева, ИИ могут применять компании из разных отраслей: «от ретейла и производства до образования и HoReCa». Он считает, что это решение поможет оптимизировать процессы, экономить ресурсы и открывать новые возможности для бизнеса.