컴퓨텍스 2024’ 기조연설서 생성형 AI 청사진 제시, 지속 가능한 가속 컴퓨팅 강조

“오늘날 우리는 컴퓨팅의 중대한 변화의 정점에 서 있다. AI와 가속화된 컴퓨팅의 교차점이 미래를 재정의할 것이다”

엔비디아 창립자 겸 CEO 젠슨 황(Jensen Huang)이 자신의 트레이드마크인 검은색 가죽 재킷을 입고 등장했다. 

이번 주 대만 타이베이에서 열리는 컴퓨텍스(COMPUTEX) 기술 콘퍼런스 기조연설에서 젠슨 황 CEO는 산업을 재편하고 혁신과 성장을 위한 새로운 기회를 열어가고 있는 생성형 AI의 중요성에 대해 설명했다. 



젠슨 황은 세계 최대 기술 콘퍼런스 중 하나인 컴퓨텍스 개최를 앞두고 타이베이의 녹음이 우거진 중심부에 위치한 유리 돔형의 국립 타이베이 대학교 스포츠센터에서 기조연설을 진행했다. 이날 현장에는 6,500여 명의 업계 종사자, 언론, 기업가, 게이머, 크리에이터, AI 애호가들이 모였다.

다양한 엔비디아(NVIDIA) RTX 기반 기능을 갖춘 AI PC와 소비자 디바이스부터 엔비디아의 풀스택 컴퓨팅 플랫폼으로 AI 팩토리를 구축, 배포하는 기업까지, 엔비디아 가속 플랫폼이 본격적인 생산에 들어갔다는 내용이 골자를 이뤘다.


“컴퓨팅의 미래는 가속화되고 있다.
AI와 가속 컴퓨팅 분야의 혁신을 통해
우리는 가능성의 한계를 뛰어넘고
차세대 기술 발전의 물결을 주도하고 있다”
-젠슨 황 CEO


젠슨 황은 1년 주기로 출시될 새로운 반도체에 대한 로드맵을 공개하며 기대감을 높였다. 처음으로 공개된 루빈(Rubin) 플랫폼은 곧 출시될 블랙웰(Blackwell) 플랫폼의 뒤를 이을 플랫폼이다. 루빈은 새로운 GPU, 새로운 Arm 기반 CPU인 베라(Vera), NV링크 6(NVLink 6), CX9 슈퍼NIC(CX9 SuperNIC), X1600 컨버지드 인피니밴드/이더넷 스위치(X1600 converged InfiniBand/Ethernet switch)를 탑재한 고급 네트워킹이 특징이다.

젠슨 황은 “엔비디아의 리듬은 1년 주기다. 우리의 기본 철학은 매우 간단하다. 전체 데이터센터 규모를 구축하고, 1년 주기로 구성 부품을 판매하며, 모든 것을 기술의 한계까지 밀어붙이는 것"이라고 설명했다.

엔비디아의 크리에이티브 팀은 컴퓨텍스 기조연설을 위해 엔비디아 NIM과 엔비디아의 가속 컴퓨팅을 기반으로 구축된 엔비디아 인셉션(Inception) 스타트업 프로그램 회원사의 AI 툴을 사용했다. 현장에서는 다양한 시연을 선보이며 혁신적인 도구와 엔비디아 기술의 변혁적인 영향력을 강조했다.



젠슨 황은 연설을 시작하면서 엔비디아는 데이터를 인텔리전스로 전환하는 데 드는 비용을 절감하고 있다고 말했다.

그는 “가속 컴퓨팅은 지속 가능한 컴퓨팅”이라고 강조하며, GPU와 CPU의 조합이 어떻게 전력 소비를 3배만 증가시키면서 최대 100배의 속도 향상을 제공하는 동시에 CPU만 사용할 때보다 와트당 25배 더 높은 성능을 달성할 수 있는지에 대해 설명했다.

젠슨 황은 “더 많이 구매할수록 더 많이 절약할 수 있다”며 이 접근 방식의 상당한 비용과 에너지 절감 효과를 강조했다.

생성형 AI 개발을 지원하는 엔비디아 NIM

이제 전 세계 2,800만 명의 개발자가 엔비디아 NIM을 통해 생성형 AI 애플리케이션을 쉽게 구축할 수 있게 됐다. 모델을 최적화된 컨테이너로 제공하는 추론 마이크로서비스인 NIM은 클라우드, 데이터센터 또는 워크스테이션에 배포할 수 있다.

또한 기업들은 NIM을 통해 인프라 투자를 극대화할 수 있다. 예를 들어, 메타 라마 3-8B(Meta Llama 3-8B)를 NIM에서 실행하면 가속화된 인프라에서 NIM을 사용하지 않을 때보다 최대 3배 더 많은 생성형 AI 토큰을 생성할 수 있다.

케이던스(Cadence), 클라우데라(Cloudera), 코히시티(Cohesity), 데이터스택스(DataStax), 넷앱(NetApp), 스케일 AI(Scale AI), 시높시스(Synopsys) 등 200 여개의 기술 파트너가 NIM을 그들의 플랫폼에 통합하고 있다. 이들은 이를 통해 코파일럿, 코드 어시스턴트, 디지털 휴먼 아바타 등 도메인 특화 애플리케이션을 위한 생성형 AI 배포를 가속화하고 있다. 허깅페이스(Hugging Face)는 현재 메타 라마 3부터 NIM을 제공하고 있다.

“오늘 허깅페이스에 완전히 최적화된 라마 3를 게시했으며,
이제 사용해 볼 수 있다. 심지어 어디든 가져갈 수 있다.
모든 클라우드에서 실행하고, 이 컨테이너를 다운로드해
자체 데이터센터에 설치한 다음 호스팅해 고객이
사용할 수 있도록 할 수 있다”고 말했다.
-젠슨 황 CEO


RTX 기술로 구동되는 엔비디아 RTX AI PC는 200개 이상의 RTX AI 노트북과 500개 이상의 AI 기반 앱 및 게임으로 소비자 경험을 혁신할 예정이다.

RTX AI 툴킷과 새롭게 제공되는 엔비디아 ACE 디지털 휴먼 플랫폼용 PC 기반 NIM 추론 마이크로서비스는 AI 접근성에 대한 엔비디아의 노력을 보여준다.

또한 엔비디아는 효율성을 높이고 비용을 절감하는 가상 모델인 자율 운영과 디지털 트윈을 도입하는 산업 분야에서 50조 달러 규모의 산업 디지털 전환을 주도하고 있다. 엔비디아는 개발자 프로그램을 통해 NIM에 대한 액세스를 제공해 AI 혁신을 촉진하고 있다.

"공상 과학 소설이 아니며 대만 전역에서 사용되고 있다"

젠슨 황은 “AI의 다음 물결은 물리적 AI이다. 물리 법칙을 이해하는 AI, 사람과 함께 일할 수 있는 AI"라고 말하며 미래 개발에서 로봇과 AI의 중요성을 강조했다.

엔비디아 아이작 플랫폼은 개발자가 젯슨 오린(Jetson Orin)과 토르(Thor)와 같은 AI 모델과 슈퍼컴퓨터로 구동되는 AMR, 산업용 로봇, 휴머노이드 등 AI 로봇을 제작할 수 있는 강력한 툴킷을 제공한다.

젠슨 황은 “로보틱스가 여기에 있고, 물리적 AI가 여기에 있다. 이것은 공상 과학 소설이 아니며 대만 전역에서 사용되고 있다. 매우 흥미롭다"고 덧붙였다.