«Китайский Яндекс» выпускает семейство ИИ-моделей ERNIE 4.5 с открытым исходным кодом

Китайская компания Baidu анонсировала ERNIE 4.5 — новое семейство из 10 мультимодальных моделей с открытым исходным кодом. Ключевой инновацией стала архитектура «смеси экспертов» (MoE). Она позволяет модели использовать как общие параметры для работы со всеми типами данных, так и специализированных «экспертов» для каждой отдельной модальности.

Создание мощных и эффективных мультимодальных ИИ-моделей, способных одновременно обрабатывать текстовую и визуальную информацию, является сложной задачей. Часто обучение одной модальности (например, работе с изображениями) может ухудшить производительность в другой (например, в понимании текста), что ограничивает универсальность нейросетей.

Семейство ERNIE 4.5 включает в себя модели с различным количеством параметров, самая крупная из которых насчитывает 424 млрд. Флагманская модель ERNIE-4.5−300B-A47B-Base превосходит конкурирующую DeepSeek-V3 в 22 из 28 бенчмарков. Все модели обучены с использованием фреймворка глубокого обучения PaddlePaddle от Baidu, который позволил снизить стоимость тренировки.

Все модели и сопутствующие инструментарии, такие как ERNIEKit для дообучения и FastDeploy для развертывания, выпущены под лицензией Apache 2.0. Это разрешает их коммерческое использование. Предоставляя мощные и эффективные инструменты с открытым кодом, Baidu стимулирует развитие ИИ-сообщества и создает экосистему вокруг своего фреймворка PaddlePaddle.

Такая стратегия позволяет Baidu напрямую конкурировать с другими крупными игроками на рынке ИИ, такими как Google и OpenAI, которые также активно развивают свои экосистемы. Снижая барьер для входа, Baidu дает возможность другим компаниям и разработчикам создавать новые продукты на основе своих передовых технологий, что в конечном итоге повышает принятие и значимость фреймворка PaddlePaddle в глобальном масштабе.