베라 루빈 NVL72, AI 에이전트 위한 새로운 효율성 기준 제시한다

2026-08-26 김미혜 기자, elecnews@elec4.co.kr

GB300 NVL72 대비 메가와트당 처리량 최대 30배 향상·토큰 비용 최대 35배 절감

엔비디아가 엔비디아 베라 루빈 NVL72(NVIDIA Vera Rubin NVL72)의 새로운 에이전틱 AI 성능 측정 결과를 공개했다. 실제 에이전틱 코딩 작업을 기반으로 한 측정에서 베라 루빈 NVL72는 엔비디아 GB300 NVL72 대비 메가와트당 처리량을 최대 30배 높이고 100만 토큰당 비용을 최대 35배 낮췄다는 설명이다.

오픈라우터(OpenRouter) 데이터에 따르면 에이전틱 AI 워크로드는 단순한 채팅 요청보다 15배 많은 토큰을 소비한다.

AI 에이전트가 투자 결정을 위해 한 기업을 조사하는 상황을 예로 들어보면, 에이전트는 금융 데이터베이스를 조회하고 뉴스와 공시 자료를 검색하며, 하위 에이전트(sub-agent)를 호출해 동종 기업 비교와 기업가치 모델링을 수행한 뒤 모든 결과를 종합해 투자 의견을 제시한다. 에이전트와 하위 에이전트는 작업이 완료될 때까지 지속적으로 추론하기 때문에 토큰 수요도 증가한다. 각 단계에서 누적된 토큰은 다음 단계의 입력으로 이어지므로, 긴 컨텍스트를 효율적으로 처리하는 능력이 에이전틱 AI 성능의 핵심 요소가 된다는 것이다.

이러한 패턴은 소프트웨어 개발부터 고객 서비스, 심층 연구에 이르기까지 모든 에이전틱 AI 활용 사례에서 동일하게 나타난다.

에이전틱 AI가 다양한 산업에서 실제 운영 환경에 도입되면서, 이를 구동하는 인프라는 급증하는 토큰 수요를 효율적으로 처리해야 한다.

새롭게 측정된 성능 데이터에 따르면, 엔비디아 베라 루빈(Vera Rubin) NVL72 시스템은 에이전틱 워크로드에서 엔비디아 GB300 NVL72 대비 메가와트당 처리량을 최대 30배 높인다. 엔비디아는 실제 에이전틱 코딩 세션을 기록한 세미애널리시스 에이전트X(SemiAnalysis AgentX) 워크로드를 사용해 추론 처리량을 측정했으며, 실제 컨텍스트 증가와 툴 호출, 하위 에이전트 생성 과정까지 그대로 반영했다. 전력 제약이 있는 AI 팩토리에서는 동일한 전력으로 최대 30배 더 많은 에이전틱 AI 작업을 처리할 수 있다는 의미다.

베라 루빈 NVL72의 이러한 초기 결과는 엔비디아의 빠른 혁신 속도를 보여준다. 지속적인 소프트웨어 최적화를 통해 베라 루빈 NVL72와 GB300 NVL72 모두 성능이 계속 향상될 예정이라고 업체 측은 전했다.

베라 루빈 NVL72, 메가와트당 처리량 최대 30배 향상·토큰 비용 최대 35배 절감

업체 측에 따르면, 에이전틱 워크로드는 일반적으로 입출력 시퀀스가 1,000~8,000개 토큰 수준인 채팅이나 문서 요약과 근본적으로 다르다. 에이전틱 세션에서는 여러 단계에 걸쳐 컨텍스트가 누적되며, 입력 토큰 수가 수십만 개에 이를 수 있다. 또한 요청마다 입력과 출력 길이의 편차도 크다. 따라서 성능 측정 방식 역시 단일 추론 요청이 아닌 에이전트의 전체 워크플로를 반영할 수 있도록 발전해야 한다는 설명이다.

아래 결과는 실제 에이전틱 코딩 작업 경로를 기반으로 측정한 성능을 보여준다.

세미애널리시스 에이전트X에서 엔비디아 블랙웰(Blackwell) 플랫폼은 키미 K3(Kimi K3) 미니맥스 M3(MiniMax M3), GLM5.3, 큐원3.5(Qwen3.5), 딥시크 V4 프로(DeepSeek V4 Pro) 등 다양한 에이전틱 모델에서 업계 최고 수준의 성능을 제공한다.

예를 들어 GB300 NVL72는 딥시크 V4 프로 모델에서 엔비디아 호퍼(Hopper) 아키텍처 대비 메가와트당 처리량을 최대 15배 높여, 에이전틱 워크로드를 실행하기 위한 고성능 기반을 제공한다. 이러한 성능 향상은 더 큰 스케일업 GPU 도메인과 공동 설계된 소프트웨어를 통해 추론 효율을 크게 높이는 엔비디아 플랫폼의 강점을 보여준다.

베라 루빈은 이러한 이점을 한층 확대해 전체 파레토 곡선(Pareto curve)에서 성능을 높이며, 딥시크 V4 프로 모델에서 GB300 NVL72 대비 메가와트당 최대 30배 높은 처리량을 제공한다. 세미애널리시스 에이전트X 워크로드를 사용해 측정한 이번 초기 결과는 현재 세미애널리시스의 검토를 기다리고 있으며, 툴 호출 시 베라 CPU의 성능은 아직 반영되지 않았다.

엔비디아 DSX MaxLPS 기술은 GPU, 랙, 워크로드 수준에서 전력을 관리해 동일한 메가와트급 전력 예산 내에서 최대 40% 더 많은 GPU를 배치할 수 있도록 한다. 이를 통해 AI 팩토리 규모에서 메가와트당 처리량을 더욱 높인다.

메가와트당 처리량은 생성되는 각 토큰의 비용에도 직접적인 영향을 미친다. 베라 루빈 NVL72는 GB300 NVL72 대비 100만 토큰당 비용을 최대 35배 낮춰, 다양한 고객 워크로드에서 AI 에이전트를 대규모로 지속 운영할 수 있도록 한다.

전력 제약이 있는 AI 팩토리에서는 메가와트당 처리량이 AI 팩토리의 매출을 좌우하며, 100만 토큰당 비용은 해당 매출에서 얻을 수 있는 수익성을 결정한다고 업체 측은 전했다.