‘프로젝트 디지츠’, 200억 개 파라미터 모델 실행 가능… 새로운 GB10 슈퍼칩도 탑재

엔비디아가 엔비디아® 프로젝트 디지츠(NVIDIA® Project DIGITS)를 공개했다. 이는 전 세계 AI 연구자, 데이터 과학자, 학생에게 엔비디아 그레이스 블랙웰(Grace Blackwell) 플랫폼의 성능을 제공하는 개인용 AI 슈퍼컴퓨터이다.

프로젝트 디지츠는 새로운 엔비디아 GB10 그레이스 블랙웰 슈퍼칩을 탑재했다. 대규모 AI 모델의 프로토타이핑, 미세 조정, 실행을 위한 페타플롭의 AI 컴퓨팅 성능을 제공한다.
 
프로젝트 디지츠를 통해 사용자는 자체 데스크톱 시스템을 사용해 모델에서 추론을 개발하고 실행한 다음, 가속화된 클라우드 또는 데이터 센터 인프라에 모델을 원활하게 배포할 수 있다.

엔비디아 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 “AI는 모든 산업의 모든 애플리케이션에서 주류가 될 것이다. 프로젝트 디지츠를 통해 수백만 명의 개발자에게 그레이스 블랙웰 슈퍼칩을 제공할 수 있게 됐다. 모든 데이터 과학자, AI 연구원, 학생의 책상에 AI 슈퍼컴퓨터를 배치함으로써 이들이 AI 시대에 참여하고 시대를 만들어 나갈 수 있도록 지원할 것”이라고 말했다.

GB10 슈퍼칩(Superchip)은 엔비디아 그레이스 블랙웰 아키텍처 기반의 시스템 온 칩(system-on-a-chip, SoC)으로, FP4 정밀도에서 최대 1페타플롭의 AI 성능을 제공한다.

GB10은 최신 세대 쿠다®(CUDA®) 코어와 5세대 텐서 코어(Tensor Core)를 갖춘 엔비디아 블랙웰(Blackwell) GPU를 탑재하고 있다. NV링크®(NVLink®)-C2C 칩-투-칩 인터커넥트를 통해 Arm 아키텍처로 제작된 20개의 전력 효율적인 코어를 포함하는 고성능 엔비디아 그레이스™(Grace™) CPU에 연결된다. Arm 기반 SoC 설계 분야 시장 리더인 미디어텍(MediaTek)이 GB10 설계에 협력해 동급 최고의 전력 효율, 성능, 연결성에 기여했다.

GB10 슈퍼칩을 사용하면 표준 전기 콘센트만으로도 강력한 성능을 구현할 수 있다. 각 프로젝트 디지츠는 128GB의 통합된 일관된 메모리와 최대 4TB의 NVMe 스토리지를 갖추고 있다. 개발자는 이 슈퍼컴퓨터를 통해 최대 2천억 파라미터의 거대 언어 모델(large language model, LLM)을 실행해 AI 혁신을 가속화할 수 있다. 또한 엔비디아 커넥트X®(ConnectX®) 네트워킹을 통해 두 대의 프로젝트 디지츠 AI 슈퍼컴퓨터를 연결해 최대 4,050억 개의 파라미터 모델을 실행할 수 있다.