Исследование KAIST показало, что автономные ИИ-системы при массовом использовании потребуют сотни гигаватт мощности и могут превысить возможности существующей инфраструктуры дата-центров
ИИ-агенты нового поколения могут потреблять до 136,5 раз больше электроэнергии на один запрос, чем обычные генеративные модели. К такому выводу пришли учёные Корейского института науки и технологий (Korea Advanced Institute of Science and Technology, KAIST), проведя первый комплексный анализ энергозатрат автономных ИИ-систем, способных самостоятельно планировать действия и выполнять задачи.
В отличие от обычных чат-ботов, которые формируют один ответ на запрос пользователя, ИИ-агенты многократно обращаются к большим языковым моделям (LLM), выполняют поиск в интернете, запускают программный код, используют вычислительные инструменты и взаимодействуют с внешними программами. Это позволяет им решать более сложные задачи в программировании, исследованиях и автоматизации работы, но требует значительно больше вычислительных ресурсов.
Команда под руководством профессора Минсу Рю (Minsoo Rhu) из Школы электротехники KAIST рассматривала ИИ-агенты как отдельный тип нагрузки для дата-центров. Учёные измерили их требования к вычислениям в сценариях, близких к реальному использованию.
Эксперименты показали, что ИИ-агенты увеличивают время обработки запросов до 153,7 раз по сравнению с традиционным подходом chain-of-thought (цепочки рассуждений), при котором модель последовательно формирует промежуточные шаги решения. При этом графические процессоры, на которых выполняются такие задачи, оставались без активных вычислений до 54,5% времени работы, ожидая завершения операций внешних инструментов.
Несмотря на простой, энергозатраты продолжаются: оборудование дата-центра потребляет электричество даже в периоды ожидания. Для ИИ-агента на базе языковой модели с 70 млрд параметров среднее энергопотребление одного запроса составило 348,41 ватт·час. Это примерно в 136,5 раз больше, чем требуется обычному чат-боту для ответа на простой вопрос.
Учёные также смоделировали сценарий, при котором ИИ-агенты обрабатывают 13,7 млрд запросов в день — почти столько же, сколько ежедневно выполняет поисковая система Google. В таком случае инфраструктуре искусственного интеллекта потребовалось бы около 198,9 ГВт. Это почти половина средней мощности, потребляемой всеми объектами США, и значительно превышает возможности современных дата-центров для ИИ.
Компании OpenAI, Google, Microsoft и Anthropic уже активно развивают технологии ИИ-агентов как следующий этап после разговорных моделей, однако исследование показывает, что дальнейшее развитие зависит не только от повышения возможностей самих алгоритмов. Авторы работы отмечают, что для масштабирования ИИ потребуется одновременно улучшать эффективность полупроводников, повышать загрузку GPU, оптимизировать архитектуру дата-центров и расширять энергетическую инфраструктуру. По словам Минсу Рю, конкуренция в сфере ИИ постепенно смещается от создания более «умных» моделей к созданию более эффективных систем.
Работа была представлена на международном симпозиуме IEEE по архитектуре высокопроизводительных вычислений (International Symposium on High-Performance Computer Architecture, HPCA). Авторы также открыли наборы тестов для оценки ИИ-агентов, чтобы ускорить разработку способов снижения одного из самых быстрорастущих расходов в сфере искусственного интеллекта — затрат на электроэнергию.