Arm 루멕스(Lumex) CSS 플랫폼, 어시스턴트·음성 번역·개인화 등 실시간 온디바이스 AI 지원

플래그십 스마트폰과 차세대 PC에서 데스크톱 수준의 모바일 게이밍, 실시간 번역, 더욱 스마트한 어시스턴트, 개인화된 애플리케이션 등 폭넓은 경험을 제공한다.

Arm는 AI 경험을 가속화하기 위해 설계된 자사의 가장 진보된 컴퓨팅 서브시스템(CSS) 플랫폼인 Arm® Lumex를 출시했다고 발표했다. Lumex CSS 플랫폼은 Arm의 최고 성능 CPU, Scalable Matrix Extension version 2(SME2), GPU 및 시스템 IP를 결합하여, 에코시스템이 AI 디바이스를 더 빠르게 시장에 출시할 수 있도록 지원한다. 
 
Arm 수석 부사장 겸 클라이언트 사업부 총괄인 크리스 버기(Chris Bergey)는 “AI는 더 이상 단순한 기능이 아니라 차세대 모바일 및 소비자 기술의 기반이다. Arm Lumex를 통해 Arm은 온디바이스 AI 경험에 대한 소비자들의 높아지는 기대를 충족시키고 있다”고 말했다. 이어 그는 “Arm은 SME2를 모든 CPU 플랫폼에 적용하고 있으며, 2030년까지 SME와 SME2가 30억 개 이상의 디바이스에 걸쳐 100억 TOPS 이상의 컴퓨팅 성능을 추가할 것이다. 이는 온디바이스 AI 역량의 비약적인 도약을 의미한다”고 덧붙였다.

파트너들은 Lumex를 자사 SoC에 적용하는 방식을 자유롭게 선택할 수 있다. 플랫폼을 그대로 활용하면서 필요에 맞게 최첨단 물리적 구현을 적용해 시장 출시 시간을 단축하고 성능을 향상시킬 수 있다. 또는 플랫폼 RTL을 목표 제품군에 맞춰 구성하고 코어를 직접 강화할 수도 있다.

이러한 CPU 기반 AI 컴퓨팅의 도약은 실시간 온디바이스 AI 추론 기능을 가능하게 하여, 오디오 생성, 컴퓨터 비전, 상황 인지형 기반 어시스턴트와 같은 다양한 상호작용 전반에서 사용자에게 더 매끄럽고 빠른 경험을 제공한다.

실제 활용 사례에서 SME2는 새로운 수준의 반응성과 효율성을 제공할 수 있다. 예를 들어, Arm의 Smart Yoga Tutor 데모 앱은 텍스트-음성 변환에서 2.4배 향상을 보여주었으며, 이는 사용자가 배터리 소모 없이 자신의 자세에 대한 즉각적인 피드백을 받을 수 있음을 의미한다. 또한, Alipay와 vivo와의 협업 사례에서는 사용자 상호작용 시 LLM 응답 시간이 최대 40% 단축되며, SME2가 온디바이스에서 더 빠른 실시간 생성형 AI를 구현하고 있음을 입증했다.

SME2는 단순한 속도 향상에 그치지 않고, 기존 CPU로는 구현할 수 없는 AI 기반 기능을 제공한다. 예를 들어, 신경망 카메라 노이즈 제거 기능은 이제 단일 코어 1080p 해상도에서 120fps 이상, 4K 해상도에서 30fps 이상으로 실행된다. 이를 통해 스마트폰 사용자는 가장 어두운 환경에서도 더 선명하고 또렷한 이미지를 촬영할 수 있으며, 일상적인 디바이스에서 한층 부드러운 상호작용과 풍부한 경험을 누릴 수 있다.

클라우드 우선 AI가 지연 시간, 비용, 프라이버시 문제로 제약을 받는 것과 달리, Lumex는 지능을 디바이스 자체로 가져와 더 빠르고, 더 안전하며, 언제나 이용할 수 있도록 한다. Alibaba, Alipay, 삼성 LSI, Tencent, vivo를 비롯한 주요 에코시스템 기업들이 SME2를 적극 채택하고 있다.
 
현재까지 120억 개 이상의 Arm GPU가 출하되며, Arm은 모바일 게이밍 경험의 중심에 서 있다. 새롭게 출시된 Mali G1-Ultra GPU는 모바일 게이밍의 한계를 또 한 번 확장하며, 고충실도 콘솔급 그래픽을 제공한다.

이는 새롭게 도입된 Ray Tracing Unit v2(RTUv2) 덕분으로, 더욱 정교한 조명, 그림자, 반사를 구현하여 이전 세대 대비 2배 향상된 레이 트레이싱 성능을 제공한다. 또한 AI 워크로드 측면에서 G1-Ultra는 최대 20% 더 빠른 추론 성능을 구현해, 실시간 애플리케이션 전반에서 한층 뛰어난 반응성을 제공한다.

G1-Ultra는 이전 세대 대비 그래픽 벤치마크에서 20% 향상된 성능을 제공하며, 아레나 브레이크아웃(Arena Breakout), 포트나이트(Fortnite), 원신(Genshin Impact), 붕괴: 스타레일(Honkai: Star Rail)등의 주요 타이틀에서 전반적인 성능 개선을 보여준다. G1-Premium과 G1-Pro GPU 역시 자원이 제한된 기기에서 뛰어난 성능과 전력 효율성을 제공한다.



개발자들에게 AI 경험은 이제 별도의 작업 없이 Lumex 플랫폼에서 그저 동작한다. PyTorch ExecueTorch, Google LiteRT, Alibaba MNN, Microsoft ONNX Runtime 등 주요 프레임워크 전반에 KleidiAI 통합을 통해, 애플리케이션은 코드 수정 없이도 자동으로 SME2 가속화의 혜택을 누릴 수 있다.

Apple, 삼성, MediaTek 등의 기술 선도 기업들은 더 빠르고 효율적인 온디바이스 AI를 위해 AI 가속 기능을 통합하고 있다. Apple은 Apple Intelligence를 구동하고 있으며, 삼성과 MediaTek은 Google Gemini를 활용해 번역, 요약, 개인 비서 등 실시간 AI 애플리케이션의 반응성과 효율성을 높이고 있다.



협력 파트너사의 말

“SME2와의 심층적인 통합을 통해 MNN은 스마트폰에서 Qwen과 같은 수십억 개 파라미터 모델에 대한 저지연 양자화 추론을 가능하게 하여, 확장 가능한 차세대 모바일 AI 분야에서 Arm과 Alibaba의 공동 혁신을 실현합니다.”
쟝 샤오탕(Xiaotang Jiang), Alibaba Taobao·Tmall Group MNN총괄


“SME2를 활용한 LLM 추론 검증은 Arm, Alipay, 그리고 vivo의 긴밀한 협력을 통해 vivo의 차세대 플래그십 스마트폰에서 완료되었습니다. 그 결과, 프리필(prefill)과 디코드(decode) 성능이 각각 40% 이상, 25% 이상 개선될 수 있음을 확인했습니다. 이러한 결과는 CPU 백엔드에서의 상당한 진전을 보여주며, 지금까지 달성한 성과에 대해 큰 만족과 기대를 갖고 있습니다.”
웽 신단(Xindan Weng), Alipay 클라이언트 엔지니어링 총괄



“SME2가 적용된 하드웨어는 Gemma 3와 같은 고도화된 AI 모델을 다양한 디바이스에서 직접 실행할 수 있게 합니다. SME2의 지속적인 확장에 따라 모바일 개발자들은 차세대 AI 기능을 에코시스템 전반에 원활하게 배포할 수 있게 되었습니다. 이는 궁극적으로 사용자들에게 스마트폰에서 광범위하게 제공되는 저지연 경험을 선사할 것입니다.”
일리얀 말체프(Iliyan Malchev), 구글 안드로이드 수석 소프트웨어 엔지니어


“AI는 우리가 디바이스 및 주변 환경과 상호작용하는 방식을 변화시키고 있으며, Arm 에코시스템은 이 분야에서 중요한 발전을 주도하고 있습니다. 메타는 Arm Kleidi 와 PyTorch의 ExecuTorch 모바일/엣지 런타임 통합을 통해, 엔드 유저 경험을 가속화하는 차세대 기술에서 애플리케이션을 원활하게 실행할 수 있게 되어 매우 기쁩니다.”
사이 차우두리(Sy Choudhury), 메타 AI 파트너십 디렉터


“삼성전자는 Arm의 컴퓨팅 서브시스템 플랫폼을 활용해 차세대 플래그십 모바일 제품을 개발하며 Arm과의 협력을 이어가게 되어 기쁘게 생각합니다. 이번 파트너십을 통해 디바이스 내 AI의 한계를 뛰어넘어, 사용자에게 더 스마트하고 빠르며 효율적인 경험을 제공할 수 있게 되었습니다.”
성낙희, 삼성전자 SOC IP 개발팀 상무


“SME2는 Tencent의 Hunyuan과 같은 대규모 온디바이스 모델을 가속화하여 핵심 성능 병목 현상을 해소하고, 모바일 환경에서 효율적인 LLM 배포를 가능하게 함으로써 향상된 사용자 경험을 제공합니다.”
펠릭스 양(Felix Yang), Tencent 머신 러닝 플랫폼 수석 전문가