향후 Armv8-A 아키텍처 업데이트에 bfloat16 데이터 포맷 추가

Arm이 방대한 양의 IoT 데이터를 처리할 수 있는 ‘AI 엣지(AI Edge)’를 실현하기 위한 비전을 발표했다.

Arm은 Armv8-A 아키텍처 업데이트에 bfloat16 데이터 포맷을 추가해 Arm 기반 CPU의 훈련 및 추론(Training and inferencing) 성능을 크게 향상시킬 계획이라고 밝혔으며, 내년에 출시될 네오버스 ‘제우스(Zeus)’ 플랫폼에도 bfloat16을 지원해 IoT 산업 내 선도적인 입지를 공고히 할 예정이다. 또한, Arm은 프로젝트 카시니(Project Cassini)를 공개하여 안전하고 효율적인 AI 엣지 활용 방식을 제시했다.

AI, 5G, IoT로 정의되는 컴퓨팅 기술의 제5의 물결(Fifth Wave of Computing)은 계속해서 놀라운 변화를 일으키고 새로운 데이터 소비 모델들의 등장을 이끌고 있다. 일례로, IoT는 아직 초기 단계에 있지만 작은 센서들로 구성된 글로벌 네트워크의 형태로부터 진화해 지능형 비디오 센서와 자율 기계를 아우르는 고성능 엔드포인트의 형태로 발전하고 있다.

IoT가 전세계적인 디지털 전환을 가속화하고 있는 가운데, 클라우드로 빠르게 업스트림 되는 방대한 양의 데이터는 오랜 기간 다운스트림 배포에 최적화되어 있던 네트워크 인프라에 균열을 가져오고 있다. 이에 따라 글로벌 인터넷 인프라 전반에 걸쳐 컴퓨팅을 분산하는 수요가 급격히 늘고 있고, Arm 네오버스(Neoverse) 컴퓨팅 솔루션에 대한 수요도 증가하고 있다. Arm 에코시스템은 이러한 과제에 분명히 대응해왔다. Arm IPG 전략 및 운영 부문 선임 부사장인 드류 헨리(Drew Henry는 "Arm이 구상했던 초기의 네오버스 기획을 지금의 모습으로 빠르게 발전시킨 지난 한 해의 성과가 매우 자랑스럽다"고 말했다.

클라우드에서 시작된 AI, 이제 제우스(Zeus)

드류 헨리 부사장은 지난 10월 8일부터 10일까지 미국 캘리포니아 산호세에서 개최된 Arm 테크콘 2019(Arm TechCon 2019) 행사의 기조 연설에서 Arm이 앞으로 나아갈 방향에 대해 설명했다. 드류 헨리 부사장은 차세대 인프라 기술의 초석 역할을 할 Arm의 기술에 대해 소개했으며, 특히 AI가 덜 중앙화 된 방식으로 운영되어야 하는 이유를 강조했다.

현재 대부분의 복잡하고 어려운 AI 작업들은 클라우드 상에서 진행된다. 대규모 데이터셋이 집중되고 특히 머신러닝 모델을 훈련시키는 경우에는 특정 작업을 위한 컴퓨팅이 필요하기 때문이다. 그러나 이러한 모델을 실제로 적용할 때, 결정이 이뤄져야 할 지점 근처에서 추론이 이뤄지면 클라우드 중심의 AI 모델은 제 역할을 하기 어려워진다. 모델 비교를 위해 데이터가 수천 마일 떨어진 데이터 센터까지 이동해야 하기 때문에 지연 시간이 길어질 뿐만 아니라, 데이터가 다시 돌아왔을 때 해당 결정이 여전히 유용한지 여부도 보장할 수 없기 때문이다. 시간이 매우 중요한 상황에서는 클라우드에서 엣지로 정보를 분산하는 것이 적합하다.

Arm과 Arm 에코시스템 파트너사들은 다양한 솔루션을 활용해 인터넷 전반의 모든 곳에서 AI를 유리하게 활용할 수 있다. 클라우드와 인프라를 위한 Arm 네오버스 플랫폼과 AI 가속 기술에서부터 엔드포인트의 모든 요구 사항을 충족하는 AI 기반 Arm CPU, NPU, GPU까지 광범위한 솔루션들이 이미 시장에 출시돼 있다.

Arm은 여기서 한 걸음 더 나아가, 다음 Armv8-A 아키텍처 업데이트에 bfloat16 데이터 포맷을 추가할 것이라고 최근 발표했다. 이를 통해 Arm 기반 CPU의 훈련 및 추론 성능을 크게 향상시킬 계획이다. 뿐만 아니라 Arm은 내년에 출시될 네오버스 ‘제우스(Zeus)’ 플랫폼에도 bfloat16을 지원할 예정이라고 밝히며 민첩한 대응을 예고했다.