AI 컴퓨팅 분야의 세계적인 선도기업 엔비디아(CEO 젠슨 황)는 페이스북이 오픈소스로 공개한 새로운 인공지능(AI) 딥 러닝 프레임워크인 카페2(Caffe2)와 함께 인공지능 발전을 위한 양사 협력 결과를 발표했다. 

오늘날 전 세계는 수많은 텍스트, 이미지, 영상 등 매일 생성되는 정보들로 넘쳐나고 있다. 페이스북은 이러한 정보 관리를 돕는 새로운 인공지능 시스템을 개발하고 있으며, 이를 통해 정보량이 대규모로 증가하는 상황에서도 사람들이 보다 세상을 보다 잘 이해하고, 효율적으로 커뮤니케이션 할 수 있도록 돕고 있다. 개발자 및 연구원들은 Caffe2를 활용해 대규모 분산 트레이닝 시나리오를 구성하고 사용자 디바이스용 머신러닝 애플리케이션을 개발할 수 있다. 

모바일 상에서 인공지능 기반 서비스를 제공하기 위해서는 복잡한 데이터 처리 작업이 순식간에 진행되어야 한다. 이처럼 빠른 인공지능 서비스 처리는 페이스북의 Big Basin 서버에서 제공되는 것과 같은 GPU 가속화 컴퓨팅은 물론, 가속화된 하드웨어의 전체 성능을 활용할 수 있을 만큼 높은 수준으로 최적화된 딥 러닝 소프트웨어를 함께 요구한다.

엔비디아와 페이스북은 Caffe2 딥 러닝 프레임워크 상에서의 공동 작업을 통해 인공지능 가속화를 제공하고 있다. 양사는 공동 엔지니어링을 통해 Caffe2를 그 시작부터 끝까지 세밀하게 조정함으로써, 엔비디아 GPU 딥 러닝 플랫폼의 장점을 최대한 활용할 수 있도록 구성했다. Caffe2는 최신 엔비디아 딥 러닝 SDK 라이브러리인 cuDNN, cuBLAS, NCCL을 활용해 고성능의 멀티 GPU 가속 트레이닝 및 추론을 제공한다. 이에 따라 사용자들은 Caffe2가 엔비디아 GPU 시스템에서 최적의 성능을 제공한다는 사실을 인지하고, 인공지능 기반 애플리케이션 개발에 집중할 수 있다.

Caffe2는 빠르고 확장 가능하며 이동이 용이한 딥 러닝 프레임워크로 설계됐다. Caffe2는 엔비디아 테슬라 P100(Tesla P100) GPU 가속기 64개를 탑재한 8대의 네트워크화된 페이스북 Big Basin AI 서버 상에서, 57배로 향상된 처리량 가속화를 기반으로 딥 러닝 트레이닝에 거의 선형에 가까운 확장성을 제공한다. 즉 개발자는 인공지능 모델을 전보다 빠르게 트레이닝하고, 이를 반복할 수 있다.

본 협업의 일환으로 엔비디아 DGX-1 AI 슈퍼컴퓨터는 딥 러닝에 최적화된 소프트웨어 스택에 Caffe2를 제공하는 최초의 인공지능 시스템이 될 전망이다. DGX-1과 Caffe2 모두 높은 성능 및 빠른 트레이닝을 제공한다. 향후 고객들은 엔비디아 DGX-1 컨테이너 레지스트리(DGX-1 Container Registry)를 통해 DGX-1용 Caffe2를 이용할 수 있다.