Исследование показало, что ИИ-агенты потребляют в 136 раз больше энергии по сравнению с обычными нейросетями
Исследователи Корейского института передовых технологий (KAIST) впервые количественно оценили энергопотребление и вычислительные издержки автономных ИИ-агентов, установив, что на один запрос они могут потреблять до 136,5 раза больше энергии, чем обычные генеративные модели.
ИИ-агенты — системы на основе больших языковых моделей (LLM), способные самостоятельно планировать действия, использовать внешние инструменты (веб-поиск, калькуляторы, среды выполнения кода) и решать комплексные задачи за счет координации нескольких этапов.
Несмотря на растущее применение таких систем в разработке ПО, исследованиях и автоматизации рабочих процессов, данные о реальных затратах электроэнергии на их работу до сих пор отсутствовали.
Команда KAIST рассматривала ИИ-агентов не просто как программные продукты, а как новый тип нагрузки на серверы и графические процессоры (GPU) дата-центров, и проанализировала вычислительную нагрузку и энергопотребление в ходе реальной работы таких систем. Выяснилось, что агенты выполняют значительно больше обращений к языковой модели, чем классические нейросети, использующие «цепочки рассуждений» (chain-of-thought).
Из-за многократных обращений к модели у ИИ-агентов существенно растет и время отклика — по данным исследования, задержка может увеличиваться до 153,7 раза, при этом до 54,5% времени выполнения GPU простаивают в ожидании работы внешних инструментов.
Таким образом, по мере усложнения задач возникает новая форма неэффективности: дорогостоящие процессоры используются не в полную мощность.
Отдельно команда оценила энергопотребление на уровне дата-центра. ИИ-агент на основе модели с 70 млрд параметров — сопоставимой по масштабу с текущими коммерческими сервисами — потреблял в среднем 348,41 ватт-часа на один запрос, что в 136,5 раза превышает энергозатраты обычной генеративной модели при простом ответе на вопрос.
При прогнозируемом объеме в 13,7 млрд запросов к ИИ-агентам в сутки — что сопоставимо с текущим трафиком поисковых запросов Google — совокупная потребность в энергии дата-центров может достичь около 198,9 гигаватт. Это существенно превышает мощности строящихся сегодня ИИ-дата-центров (несколько гигаватт) и приблизительно эквивалентно половине среднего энергопотребления США.
По словам авторов исследования, исследование впервые количественно показывает не только рост интеллектуальных возможностей ИИ, но и объем электроэнергии и издержек, необходимых для их реализации и поддержания.
Ученые отмечают, что по мере распространения ИИ-агентов ключевым фактором конкурентоспособности станет не только производительность моделей, но и совместная оптимизация ИИ-чипов, дата-центров и энергетической инфраструктуры — такой подход рассматривается как основной способ снижения стоимости ИИ-сервисов для конечных пользователей.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
