최상위 컴퓨터 제조업체, 클라우드 서비스 제공업체, GPU 클라우드 제공업체와 협업 

엔비디아(CEO 젠슨 황)가 미국 새너제이에서 열린 GTC에서 AI 추론을 용이하게 하는 엔비디아 블랙웰 울트라(NVIDIA Blackwell Ultra)를 발표했다. 이는 엔비디아 블랙웰 AI 팩토리 플랫폼의 차세대 버전이다.

엔비디아 블랙웰 울트라는 추론 중 추가적인 계산을 할당해 정확도를 개선하는 기법인 테스트 타임 스케일링(Test-Time Scaling, TTS) 추론과 훈련을 강화한다. 이를 통해 AI 추론이나 에이전틱 AI(Agentic AI), 물리 AI와 같은 애플리케이션을 어디서나 가속할 수 있도록 한다.



블랙웰 울트라는 작년 소개된 혁신 기술인 블랙웰 아키텍처를 기반으로 한다. 또한 엔비디아 GB300 NVL72 랙 스케일 솔루션과 엔비디아 HGX™ B300 NVL16 시스템을 포함한다. GB300 NVL72는 엔비디아 GB200 NVL72 대비 1.5배 뛰어난 AI 성능을 제공한다. 뿐만 아니라 엔비디아 호퍼(Hopper™) 기반으로 구축된 AI 팩토리에 비해 블랙웰의 수익 기회를 50배 증가시킨다.

엔비디아 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 “AI는 엄청난 도약을 이룩했다. 이제 추론과 에이전틱 AI가 훨씬 더 많은 컴퓨팅 성능을 요구하고 있다. 우리는 바로 이 순간을 위해 블랙웰 울트라를 설계했다. 이 다목적 플랫폼은 사전, 사후 훈련과 추론형 AI의 추론을 더욱 쉽고 효율적으로 만들어준다”고 말했다.

AI 추론 지원

엔비디아 GB300 NVL72는 블랙웰 울트라 GPU 72개와 Arm의 네오버스(Neoverse) 기반 엔비디아 그레이스(Grace™) CPU 36개를 랙 스케일 디자인으로 연결했다. 이는 TTS용으로 구축된 거대한 단일 GPU로 작동한다. AI 모델들은 엔비디아 GB300 NVL72 플랫폼의 향상된 컴퓨팅에 액세스해 문제에 대한 다양한 솔루션을 탐색하고, 복잡한 요청을 여러 단계로 세분화해 보다 고품질의 응답을 얻을 수 있다.

GB300 NVL72는 또한 진화하는 워크로드를 위해 소프트웨어, 서비스, AI 전문 지식으로 성능을 최적화하는 선도적인 클라우드의 엔드 투 엔드 완전 관리형 AI 플랫폼인 엔비디아 DGX™ 클라우드(DGX™ Cloud)에서 사용 가능할 것으로 예상된다. DGX GB300 시스템이 탑재된 엔비디아 DGX SuperPOD™은 GB300 NVL72 랙 설계를 사용해 고객에게 턴키 AI 팩토리를 제공한다.

엔비디아 HGX B300 NVL16은 거대 언어 모델(Large Language Model, LLM)에서 11배 빠른 추론, 7배 향상된 컴퓨팅, 4배 많은 메모리를 제공한다. 이를 통해 AI 추론처럼 가장 복잡한 워크로드에서도 획기적인 성능을 보여준다.