Стартап Infinity автоматизировал запуск нейросетей на чипах конкурентов Nvidia
Разработчик программного обеспечения для ИИ-инфраструктуры Infinity привлек $15 млн инвестиций при оценке в $100 млн. В посевном раунде участвовали фонды Touring Capital и Principal VC, руководители крупных производителей чипов, а также исследователи из OpenAI и Anthropic.
Компания разрабатывает программное обеспечение, которое помогает запускать уже обученные ИИ-модели на разных типах чипов. Infinity намерена создать программный слой, способный снизить зависимость разработчиков от платформы CUDA компании Nvidia. Технология автоматически готовит низкоуровневый код для графических процессоров, мобильных чипов и специализированных ускорителей, в том числе построенных на SRAM-памяти.
Доминирование Nvidia на рынке обеспечили не только мощные чипы, но и сформировавшаяся вокруг них программная экосистема CUDA. Популярные фреймворки PyTorch и TensorFlow поддерживают разные вычислительные платформы, однако наиболее развитые инструменты для них появились именно в экосистеме Nvidia. Поэтому разработчикам зачастую проще запускать свои приложения на ее графических процессорах, чем адаптировать их к альтернативным чипам.
При этом у многих стартапов не хватает денег, времени и специалистов, чтобы самостоятельно писать вычислительные ядра под каждую новую архитектуру. Infinity намерена автоматизировать эту работу и тем самым упростить запуск ИИ-моделей на чипах других производителей. Компанию основал Джереми Никсон, ранее работавший исследователем в подразделении Google Brain.
Для решения этой проблемы Infinity создала ИИ-агента Ignition. Система автоматически пишет, тестирует и оптимизирует низкоуровневый код, необходимый для запуска нейросетей на новых чипах. Агент анализирует особенности каждой архитектуры и подбирает программные решения, которые позволяют эффективнее использовать доступные вычислительные мощности.
Ignition сокращает адаптацию программного обеспечения к новым чипам с нескольких месяцев до нескольких часов. Инженеру остается поставить задачу, проконтролировать работу системы и оценить полученный результат.
Сейчас в Infinity работают 26 человек. Стартап не взимает с клиентов первоначальную плату за лицензию, а получает долю от достигнутого прироста производительности и сокращения расходов. Одним из первых партнеров компании стал производитель ИИ-чипов d-Matrix, для которого Infinity адаптировала программное обеспечение под ускоритель Corsair.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
