클라우드에서 데이터센터, 엣지까지 엔터프라이즈 워크로드 가속화에 대응

엔비디아(nvidia) 창립자 겸 CEO 젠슨 황(Jensen Huang)은 지난 4월 열린 온라인 GPU 기술 컨퍼런스(GTC)에서 주요 신제품과 파트너십 소개와 함께 데이터센터에 대한 미래 비전을 제시했다.



젠슨 황 CEO는 “엔비디아는 CPU와 DPU, GPU에 집중적으로 투자하고 있으며, 이들을 연결해 데이터센터 규모의 컴퓨팅 솔루션을 개발해 연구자와 기업들을 지원할 계획”이라고 말했다.

이 행사에서 AI를 위한 컴퓨터, 새로운 DGX를 소개했다. 엔비디아는 칩과 소프트웨어의 조합을 바탕으로 워크그룹 소형 AI 데이터센터용 엔비디아 DGX 스테이션과 집약적인 AI의 연구개발을 위한 제품형 AI 데이터센터용 DGX 슈퍼POD를 공개했다.

데이터센터를 위한 솔루션

AI와 데이터 분석에서 고성능 컴퓨팅(HPC)과 렌더링까지 데이터센터는 가장 중요한 문제를 해결하는 열쇠이다. 하드웨어와 소프트웨어에 걸쳐 통합된 엔드 투 엔드 NVIDIA 가속 컴퓨팅 플랫폼은 기업에게 모든 최신 워크로드 전체에서 개발 및 배포까지의 구현을 지원하는 강력한 보안 인프라라는 청사진을 제시한다.

이에 엔비디아는 다양한 엔터프라이즈 AI를 위한 맞춤형 DGX 시스템를 제공한다.

NVIDIA DGX는 슈퍼컴퓨터의 핵심 구성 요소로 다양한 서버 솔루션이 가장 복잡한 AI 과제를 처리하는 데 도움을 준다. NVIDIA DGX Station™는 AI 워크그룹 어플라이언스로 데이터 센터 없이 실험과 개발을 위한 서버 급의 성능을 제공하는 이상적인 플러그-앤-고(plug-and-go) AI 시스템이다. 확장된 AI 인프라 솔루션 NVIDIA DGX POD™는 AI 엔터프라이즈를 위한 업계 표준 인프라 디자인으로 스토리지, 컴퓨팅, 네트워킹 분야의 업계 리더와 함께 구축되었다. 턴키 AI 인프라 NVIDIA DGX SUPERPOD™는 대규모 AI 혁신을 위한 가장 빠른 길을 제공하는 전체 주기의 업계 최고의 인프라를 제공한다.

AI 인프라를 위한 유니버설 시스템
NVIDIA DGX A100

NVIDIA DGX A100은 AI 인프라를 위한 유니버설 시스템으로 세계 최초의 5페타플롭스 AI 시스템을 통해 유례없는 컴퓨팅 밀도, 성능 및 유연성을 제공한다.

기업의 AI를 위해 가장 안전한 시스템, DGX A100은 모든 주요 하드웨어와 소프트웨어 구성 요소를 보호하기 위해 다층 구조를 적용했으며 내장 보안 시스템을 가지고 있다. 이를 통해 IT가 위험을 평가하고 완화하는데 시간을 뺏기지 않고 AI 운영에 집중할 수 있도록 돕는다.



또한 분석에서부터 훈련과 추론에 이르기까지 모든 AI 작업을 위한 범용 시스템으로 5 petaFLOPS의 AI 성능을 6U 폼 팩터로 구성하여 컴퓨팅 밀집도에 새로운 기준을 제시한다. 이 시스템은 구형 컴퓨팅 인프라를 하나의 통합된 시스템으로 바꿀 수 있다.

NVIDIA DGX A100은 비교할 수 없는 속도를 제공하는 8개의 NVIDIA A100 텐서 코어 GPU를 가지고 있으며 NVIDIA CUDA-X 소프트웨어와 엔드-투-엔드 NVIDIA 데이터 센터 솔루션 스택에 완벽하게 최적화되어 있다. NVIDIA DGX A100는 하나의 서버 그 이상이다.

전 세계에서 가장 큰 DGX 시험장인 NVIDIA DGX SATURNV에서 얻은 지식을 기반으로 구축되었고 수천 명의 NVIDIA DGXperts가 지원한다. 또한 클러스터링을 위한 8개의 싱글 포트 Mellanox ConnectX-6 VPI HDR InfiniBand 어댑터, 그리고 스토리지와 네트워킹을 위한 1개의 듀얼 포트 ConnectX-6 VPI Ethernet를 가지고 있어 모두 200Gb/s 전송 능력을 가진다.

데스크톱에서 구현하는 AI 슈퍼컴퓨터
NVIDIA DGX Station A100

NVIDIA DGX Station A100이 제공하는 AI 슈퍼컴퓨팅을 통해 데이터 사이언스 팀은 데이터센터나 별도의 IT 투자 없이도 데이터센터 기술을 활용할 수 있다. 강력한 성능 및 최적화된 소프트웨어 스택 및 NVIDIA DGXperts에 대한 직접적인 액세스를 통해 인사이트를 더 빨리 확보할 수 있다

NVIDIA DGX Station A100은 오늘날 애자일한 데이터 사이언스 팀을 위해 설계 되었다. 팀의 작업 공간 어디든지 표준 콘센트에 꽂아 사용할 수 있으며 획기적이고 냉각을 고려한 디자인 덕분에 언제든지 표면을 차갑게 유지한다. 조직에서는 DGX Station A100을 통해 기타 NVIDIA DGX 기반 인프라와 원활하게 통합되는 시스템을 사용하여 트레이닝, 추론, 데이터 분석 등 모든 워크로드를 처리할 중앙 집중화된 AI 리소스를 여러 사용자에게 제공할 수 있다.

또한 워크스테이션 폼 팩터에서 데이터센터 AI 서버 성능을 제공한다. 따라서 전문적인 전력이나 쿨링이 없는 일반적인 오피스 환경에 잘 맞다. 강력한 4개의 NVIDIA A100 Tensor 코어 GPU, 최첨단 서버급 CPU, 초고속 NVMe 스토리지, 최첨단 PCIe Gen4 버스를 포함한다.




DGX A100와 동일한 BMC(Baseboard Management Controller)를 포함하고 있기 때문에 시스템 관리자가 원격 접속으로 필요한 모든 작업을 수행할 수 있다. 특히 전 세계에서 유일한 워크스테이션형 시스템으로 완전히 인터커넥트되고 MIG가 지원되는 4개의 NVIDIA A100 GPU가 있으며 여러 사용자와 함께 병렬 작업을 실행하기 위해 NVIDIA NVLink를 활용한다.

모든 엔터프라이즈를 위한
NVIDIA DGX SuperPOD 솔루션

엔터프라이즈용 NVIDIA DGX SuperPOD 솔루션은 대규모로 최대한 빠른 AI 혁신을 구현해야 하는 기업에게 AI 인프라 구축 및 배포 시 추측을 배제할 수 있도록 해주는 턴키 하드웨어, 소프트웨어 및 서비스로 세계적인 기업과 연구 기관에서 AI 데이터 센터 구축을 위해 가장먼저 고려되는 시스템이다.

이 솔루션은 여러 기업이 직면한 가장 까다로운 AI 문제를 해결하도록 설계되었으며, 세계 최대 규모의 AI 배포에서 얻은 모범 사례 및 노하우를 통합하였다. 또한 대규모 AI 혁신을 위해 믿을 수 있는 턴키 접근 방식이 필요한 기업을 위해 업계 최고의 레퍼런스 아키텍처를 선택해 포괄적인 솔루션 및 서비스를 제공한다. NVIDIA DGX SuperPOD 솔루션에서 제공하는 입증된 종합 서비스 경험을 통해 선도적인 인프라 도입과 기업의 비즈니스에 맞는 탁월한 구현이 가능하며 각 기업의 팀에서는 더 빠른 성과를 낼 수 있다.

NVIDIA DGX SuperPOD Solution for Enterprise는 엔터프라이즈용 DGX SuperPOD Solution for Enterprise를 통해 크기 조정, 설치, 교육, 지속적인 최적화 등에 이르기까지 구현 속도를 높이는 풀 서비스 데이터 센터 계획 및 인프라 제공 전문 지식을 활용할 수 있다

또한 엔터프라이즈용 DGX SuperPOD 솔루션을 선택한 고객에게 고객사의 기존의 환경에 AI 인프라를 통합하기 위해 전문 서비스 팀이 비즈니스에 맞춤형 배포 옵션을 포함하는 검증된 인프라 솔루션을 환경에 맞게 조정하도록 서비스를 제공하기 때문에 고객사는 손쉽게 기존의 인프라 강화와 AI 확장이 가능하다.