Google запустила языковую модель нового поколения PaLM2

На конференции для разработчиков Google I/O компания представила свою новую большую языковую модель. Модель PaLM2 обучалась на корпусе из 100 разных языков, также ее обучили на 20 разных языках программирования.

Модель нового поколения PaLM2 от Google будет работать с обновленным чат-ботом Bard, конкурентом ChatGPT от OpenAI, пишет TechCrunch. Нейросеть умеет понимать, генерировать и переводить текст, в том числе стихи, идиомы и загадки.

Google утверждает, что PaLM2 идеально подходит для философских рассуждений, решения математических и логических задач, поскольку обучалась на научных статьях и веб-сайтах с математическими формулами. PaLM2 доступна внешним разработчикам через API.

Нейросеть владеет 100 языками, 20 из которых предназначены для программирования и написания кода. В их числе — JavaScript, Python, Prolog, Verilog и Fortran. PaLM 2 стала основой Codey — специализированной ИИ-модели Google для написания и отладки кода.

Прочитайте также

Российские производители смартфонов нашли способ устанавливать сервисы от Google

Однако компания не представила достаточно данных об обучении нейросети. Единственная техническая информация, которую раскрыла Google, — модель построена поверх инфраструктуры JAX и TPU v4. PaLM2 содержит 540 млрд параметров и способна обрабатывать 20 токенов в секунду.

PaLM — это семейство моделей искусственного интеллекта от Google. Например, Med-PaLM 2 ориентирована на медицинские знания, а Sec-PaLM — на решение вопросов безопасности.

Google открыла лист ожидания для тех, кто хочет протестировать PaLM2. Кроме того, компания анонсировала новые функции для работы в Google Workspace на базе модели искусственного интеллекта.