Китайские ученые нашли способ ускорить ИИ без наращивания числа чипов
Китайские исследователи из Пекинского университета разработали полностью оптическую систему обмена данными между стандартными электронными чипами. В эксперименте с шумоподавлением на изображениях она ускорила распределенную обработку почти в 150 раз по сравнению с коммерческим GPU, хотя совокупная теоретическая производительность задействованных процессоров была значительно ниже.
Распространение ИИ-моделей заставляет отрасль постоянно наращивать вычислительные мощности, обычно за счет новых графических процессоров и строительства более крупных дата-центров. Пекинские ученые предложили другой подход — передавать данные между чипами по оптическим каналам и настраивать систему под конкретный алгоритм. В проведенном эксперименте это позволило резко сократить время обработки при значительно меньшей совокупной производительности задействованных процессоров.
В основе системы лежат программируемые логические интегральные схемы FPGA. Их архитектуру можно настраивать под конкретную задачу, поэтому такие процессоры широко применяются в системах наведения, автономном транспорте и дата-центрах, где требуется параллельная обработка данных.
За обмен данными между чипами отвечают два новых компонента. Кремниевый фотонный трансивер со скоростью 400 Гбит/с преобразует электрические сигналы в оптические и обратно. Коммутационный чип формата 16 × 16 работает как оптический маршрутизатор и может устанавливать произвольные соединения между 16 входными и 16 выходными портами.
Во время испытания пять параллельно соединенных чипов FPGA выполнили задачу по шумоподавлению на изображениях. Система обработала 1 тыс. изображений объемом 32 768 бит каждое за 105,16 микросекунды. Тот же тест на коммерческом графическом процессоре с теоретической производительностью 16,96 терафлопс занял 15,6 миллисекунды. Таким образом, в этой конкретной задаче система FPGA с оптическими соединениями оказалась примерно в 148 раз быстрее.
При этом совокупная теоретическая производительность пяти чипов FPGA составила около 1,969 терафлопс против 16,96 терафлопс у задействованного GPU. Соотношение этих показателей составляет примерно 11,6%.
Часть выигрыша обеспечивает оптическая передача данных. Потери сигнала в коммутационном чипе не превышали 5 децибел, чего, по словам авторов, оказалось достаточно для высокоскоростной передачи без ошибок и внешней оптической компенсации.
Еще больший выигрыш дает сама архитектура вычислений. При последовательной обработке слоев нейросети на GPU промежуточные результаты приходится многократно записывать в память и считывать обратно. Каждый следующий слой ожидает завершения работы предыдущего, поэтому часть вычислительных блоков в отдельные моменты простаивает.
В предложенной системе с оптическими межчиповыми соединениями результат одного слоя сразу передается следующему по конвейерному принципу. Это сокращает число промежуточных обращений к памяти и позволяет непрерывно загружать все задействованные чипы.
Авторы работы считают, что при ограниченных вычислительных ресурсах производительность можно повышать за счет совместного проектирования алгоритмов, микроархитектуры процессоров и межчиповых соединений. Иными словами, конкретную задачу можно ускорить не только увеличением числа процессоров, но и более эффективной организацией обмена данными между ними.
По мнению исследователей, в перспективе предложенная архитектура может снизить энергопотребление дата-центров, сократить задержки и позволить экономнее использовать вычислительные мощности.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
