엔비디아가 AWS 리인벤트에서 아마존웹서비스(AWS)와의 협력 확대를 발표했다. 이 협력을 통해 양사는 고객의 생성형 AI 혁신을 지원하기 위한 최첨단 인프라, 소프트웨어, 서비스를 제공할 예정이다.

양사는 파운데이션 모델(Foundation Model) 훈련과 생성형 AI 애플리케이션 구축에 엔비디아와 AWS의 최고 기술을 결합할 예정이다. 여기에는 차세대 GPU, CPU와 AI 소프트웨어를 갖춘 엔비디아의 최신 멀티노드 시스템부터 AWS 니트로(Nitro) 시스템 고급 가상화와 보안, EFA(Elastic Fabric Adapter) 상호 연결과 울트라클러스터(UltraCluster) 확장성까지 다양한 기술이 포함된다. 이들은 초기 머신러닝(ML) 선구자들에게 최첨단 기술 발전에 필요한 컴퓨팅 성능을 제공해왔다. 

이번 협력 확대는 이처럼 생성형 AI 시대를 견인해 온 장기적인 관계를 기반으로 이루어졌으며, 협력 확대의 일환은 다음과 같다.

AWS는 새로운 멀티노드 NV링크(NVLink)™ 기술이 적용된 엔비디아® GH200 그레이스 호퍼 슈퍼칩(Grace Hopper Superchips)을 클라우드에 도입한 최초의 클라우드 제공업체가 된다. 엔비디아 GH200 NVL32 멀티노드 플랫폼은 아마존의 강력한 네트워킹과 연결된 아마존 EC2(Elastic Compute Cloud) 인스턴스에서 사용 가능하다. 

엔비디아와 AWS가 협력해 엔비디아의 서비스형 AI 훈련인 엔비디아 DGX™ 클라우드(DGX Cloud)를 AWS에 호스팅한다. 이 클라우드는 GH200 NVL32를 탑재한 최초의 DGX 클라우드로 개발자에게 단일 인스턴스에서 가장 큰 공유 메모리를 제공한다. AWS의 DGX 클라우드는 1조 개 이상의 파라미터에 이르는 최첨단 생성형 AI와 대규모 언어 모델의 훈련을 가속화한다.

엔비디아와 AWS는 프로젝트 세이바(Project Ceiba)에서 협력하여 세계에서 가장 빠른 GPU 기반 AI 슈퍼컴퓨터를 구축 중이다. 이 슈퍼컴퓨터는 16,384개의 엔비디아 GH200 슈퍼칩을 탑재하고 65 엑사플롭(exaflops)의 AI 처리 능력을 갖춘다.

AWS는 세 가지 새로운 아마존 EC2 인스턴스를 추가로 출시할 예정이다. 여기에는 대규모 최첨단 생성형 AI와 HPC 워크로드를 위한 엔비디아 H200 텐서 코어(Tensor Core) GPU 기반의 P5e 인스턴스가 포함된다.

AWS CEO인 아담 셀립스키(Adam Selipsky)는 "AWS와 엔비디아는 세계 최초의 GPU 클라우드 인스턴스를 시작으로 13년 이상 협력해 왔다. 오늘날 우리는 그래픽, 게이밍, 고성능 컴퓨팅, 머신러닝, 그리고 이제 생성형 AI를 포함한 워크로드를 위한 가장 광범위한 엔비디아 GPU 솔루션을 제공한다. 우리는 차세대 엔비디아 그레이스 호퍼 슈퍼칩과 AWS의 강력한 네트워킹, EC2 울트라클러스터의 하이퍼스케일 클러스터링, 니트로의 고급 가상화 기능을 결합해 AWS가 GPU를 실행하기 가장 좋은 환경이 될 수 있도록 엔비디아와 함께 지속적으로 혁신하고 있다"고 말했다.

엔비디아 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 "생성형 AI는 클라우드 워크로드를 혁신하고 가속 컴퓨팅을 다양한 콘텐츠 생성의 기반에 도입하고 있다. 모든 고객에게 비용 효율적인 최첨단 생성형 AI를 제공한다는 목표로, 엔비디아와 AWS는 전체 컴퓨팅 스택에 걸쳐 협력하고 있다. 이로써 AI 인프라, 가속 라이브러리, 기반 모델부터 생성형 AI 서비스를 확장한다”고 전했다.