Intel представила ИИ-ускоритель с 480 ГБ оперативной памяти для запуска нейросетей
Intel показала графический процессор Intel GPU D-series с памятью до 480 ГБ. Презентация прошла на глобальном саммите Open Compute Project. По этому показателю новинка обходит самый популярный на данный момент серверный ИИ-ускоритель Blackwell Ultra B300 от Nvidia, у которого 288 ГБ памяти HBM3e. Новинка Intel рассчитана на инференс, то есть на запуск уже обученных ИИ-моделей.
Ранее проект проходил под кодовым названием Crescent Island. В отличие от игровых видеокарт, которые используют память GDDR7, Intel выбрала LPDDR5X. Эту технологию обычно устанавливают в ноутбуки и другие устройства с ограничением по энергопотреблению.
По данным Intel, на одной карте можно запускать большие языковые модели до 300 млрд параметров. Система из восьми таких ускорителей вмещает модели, превышающие 1 трлн параметров. Компания связывает эти возможности с длинными запросами, одновременной обработкой множества обращений, корпоративными ИИ-сервисами и робототехникой, где важна быстрая реакция. Объем в 480 ГБ востребован, когда системе нужно держать в доступе значительную часть весов модели и сопутствующих данных.
Вице-президент Intel по ИИ-продуктам и выходу на рынок в группе центров обработки данных Анил Нандури заявил, что инференс становится определяющей ИИ-нагрузкой, а предприятиям нужна инфраструктура с подходящей производительностью и стоимостью. По его словам, с D-series компания стремится сделать масштабный инференс практичным для внедрения и экономичным при росте нагрузки.
Объем памяти сам по себе не определяет скорость ответов. Это зависит также от пропускной способности, вычислительных ресурсов, программного обеспечения и характера задач. Intel заявляет для D-series производительность 1,3 петафлопса в формате FP8, который ускоряет ИИ-операции и снижает требования к памяти по сравнению с форматами повышенной точности.
Пропускная способность памяти составляет 1,5 ТБ/с. Для сравнения, HBM, которую используют ускорители Nvidia, обычно обеспечивает более высокую скорость обмена данными, но стоит дороже и дает меньшую емкость.
Intel делает ставку на совместимость с существующей инфраструктурой. Ускоритель имеет тепловой пакет 350 Вт, стандартный форм-фактор PCIe и воздушное охлаждение, а также поддерживает единое ПО для GPU-платформ компании. Это должно упростить установку в действующие дата-центры без специальных систем охлаждения и новых стоечных решений.
Кроме того, Intel планирует связать ускоритель с процессорами Xeon: они будут координировать задачи, управлять перемещением данных и использоваться для выполнения задач, для которых GPU не нужен. Такая схема рассчитана на ИИ-системы из нескольких этапов: поиска информации, рассуждения, оркестрации, вызова внешних инструментов и исполнения.
Корпоративный вице-президент Intel по системам и решениям для ЦОД Николя Дюбе отметил, что открытые модели расширяют для компаний варианты внедрения ИИ. Чтобы раскрыть их потенциал, по его словам, нужна инфраструктура, которая сопоставляет разные нагрузки с подходящими вычислительными ресурсами и экономикой. Розничную цену и сроки общей доступности D-series Intel пока не называла.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
