블랙웰 울트라 기반 GB300 NVL72 랙 스케일 솔루션 통해 AI 추론 최대 50배 출력 달성

엔비디아가 미국 새너제이에서 열린 GTC에서 새로운 AI 추론 시대를 맞이해 AI 팩토리 구축을 지원하고 있다고 밝혔다.

AI는 새로운 산업 혁명을 촉진하고 있으며, 이는 AI 팩토리에 의해 주도된다. 전통적인 데이터 센터와 달리 AI 팩토리는 데이터를 저장하고 처리하는 것 이상의 기능을 수행한다.



AI 팩토리는 대규모로 인텔리전스를 만들어 원시 데이터를 실시간 인사이트로 변환한다. 이를 통해 전 세계의 기업과 국가는 가치 창출의 속도를 극적으로 가속화해 AI를 장기 투자에서 즉각적인 경쟁 우위의 원동력으로 전환하고 있다. 오늘날 맞춤형 AI 팩토리에 투자하는 기업이 내일의 혁신, 효율성 그리고 시장 차별화를 선도할 것이다.

전통적인 데이터센터는 일반적으로 다양한 워크로드를 처리하고 일반 목적의 컴퓨팅을 위해 구축되지만, AI 팩토리는 AI에서 가치를 창출하도록 최적화돼 있다. AI 팩토리는 데이터 수집에서 훈련, 미세 조정, 그리고 가장 중요한 고용량 추론에 이르는 전체 AI 라이프사이클을 조율한다.

AI 팩토리에서 인텔리전스는 부산물이 아니라 핵심 생산물이다. 이 인텔리전스는 AI 토큰 처리량으로 측정되며, 이는 의사 결정과 자동화 그리고 완전히 새로운 서비스로 이어지는 실시간 예측을 의미한다.

기존 데이터 센터가 당장 사라지지는 않겠지만, 이들이 AI 팩토리로 진화할지 아니면 AI 팩토리에 연결될지는 기업의 비즈니스 모델에 따라 달라진다. 기업이 어떤 방식으로 적응하든, 엔비디아가 지원하는 AI 팩토리는 이미 대규모로 인텔리전스를 생산하고 있으며, AI의 구축, 정제, 배포 방식을 혁신하고 있다.

가장 까다로운 AI 훈련과 추론 워크로드 처리

엔비디아 DGX SuperPOD은 AI 팩토리를 위한 턴키 인프라 솔루션으로, 가장 까다로운 AI 훈련과 추론 워크로드를 처리할 수 있도록 확장 가능한 가속 인프라를 제공한다. AI 컴퓨팅, 네트워크 패브릭, 스토리지, 엔비디아 미션 컨트롤 소프트웨어를 최적화된 설계로 통합한다. 이를 통해 기업들이 AI 팩토리를 몇 개월이 아닌 몇 주 만에 구축하고 운영할 수 있도록 지원하고 최고 수준의 가동 시간, 복원력, 자원 활용도를 보장한다.

AI 팩토리 솔루션은 또한 엔비디아 글로벌 엔터프라이즈 기술 파트너 생태계를 통해 제공되며, 엔비디아 인증 시스템을 기반으로 한다. 이를 통해 업계를 선도하는 하드웨어와 소프트웨어 기술과 데이터센터 시스템 전문성, 액체 냉각 혁신 기술이 결합된다. 이는 기업들이 AI 프로젝트의 리스크를 최소화하고 AI 팩토리 구축에 대한 투자 회수를 가속화할 수 있도록 돕는다.

이들 글로벌 시스템 파트너는 엔비디아 레퍼런스 아키텍처를 기반으로 한 풀스택 솔루션을 제공한다. 이 솔루션은 엔비디아 가속 컴퓨팅, 고성능 네트워킹 그리고 AI 소프트웨어가 통합된 형태로 기업들이 AI 팩토리를 성공적으로 구축하고 대규모 AI 인텔리전스를 구현할 수 있도록 지원한다.

주요 클라우드에서 AI 애플리케이션을 개발, 맞춤화, 배포

AI 팩토리를 구축하려는 기업을 위해 엔비디아 DGX 클라우드(DGX Cloud)는 주요 클라우드에서 AI 애플리케이션을 개발, 맞춤화, 배포할 수 있는 통합 플랫폼을 제공한다. DGX 클라우드의 모든 계층은 엔비디아에 의해 최적화되고 완전히 관리되며, 클라우드에서 엔비디아 AI의 최고 성능을 제공한다. 또한 엔터프라이즈급 소프트웨어와 대규모 연속 클러스터를 주요 클라우드 공급업체에서 제공해 가장 까다로운 AI 훈련 워크로드에도 적합한 확장 가능한 컴퓨팅 리소스를 지원한다.

DGX 클라우드는 또한 하이브리드와 멀티 클라우드 환경에서 AI 토큰을 고속으로 처리할 수 있는 동적이고 확장 가능한 서버리스 추론 플랫폼을 포함하고 있다. 이로써 인프라의 복잡성을 크게 줄이고 운영 부담을 완화하게 된다.

엔비디아는 하드웨어, 소프트웨어, 생태계 파트너, 레퍼런스 아키텍처를 통합한 풀스택 플랫폼을 제공한다. 이를 통해 기업들이 비용 효율적이고 확장 가능하며 고성능을 갖춘 AI 팩토리를 구축하고 다가오는 산업 혁명 시대를 대비할 수 있도록 돕고 있다.