Cognition уже использует новую платформу для рабочих нагрузок Devin, а энергоэффективность в тесте DeepSeek-R1 выросла в 10 раз
Облачный провайдер CoreWeave запустил в своей инфраструктуре систему Nvidia Vera Rubin NVL72, а компания Cognition стала первым клиентом, разместившим на ней производственные ИИ-нагрузки.
В задаче вывода SWE-2 платформа обеспечила до 4,8 раза большую общую пропускную способность токенов по сравнению с GB200 NVL72. В сценариях обучения с подкреплением показатель пропускной способности на один GPU оказался выше в 3,8 раза, что позволяет Devin одновременно обрабатывать больше сессий и ускорять многошаговый вывод.
Еще заметнее разница проявилась в энергоэффективности. В тесте DeepSeek-R1 система Vera Rubin NVL72 продемонстрировала в 10 раз большую пропускную способность токенов на мегаватт по сравнению с GB200 NVL72. Аппаратная конфигурация включает 36 процессоров Vera и 72 GPU Rubin, объединенных полностью жидкостной системой охлаждения. Модульная конструкция стоек сокращает заявленное время установки отдельных лотков примерно с двух часов до пяти минут.
CoreWeave также предлагает процессоры Vera отдельно от GPU. В одной стойке можно разместить до 128 таких процессоров, суммарно получая 11 264 ядра и возможность одновременно запускать более 11 000 изолированных сред. По данным компании, запуск агентских песочниц происходит более чем в 3 раза быстрее, чем на процессорах с архитектурой x86.