새로운 Ara240 디스크리트 신경망 프로세싱 유닛
마우저 일렉트로닉스(Mouser Electronics)는 NXP 반도체(NXP® Semiconductors)의 새로운 Ara240 디스크리트 신경망 프로세싱 유닛(discrete neural processing unit, DNPU)을 공급한다고 밝혔다. Ara240 DNPU는 실시간 생성형 AI와 산업 자동화 시스템, 자율 로봇, 스마트 인프라, 첨단 HMI(human-machine interface) 플랫폼 및 다양한 엣지 애플리케이션을 구현할 수 있도록 지원한다.
마우저가 공급하는 Ara240 DNPU는 컴퓨팅 성능과 높은 오프칩 대역폭을 균형 있게 결합하여 대규모 언어 모델(LLM)과 비전 언어 모델(VLM)을 효율적으로 실행할 뿐만 아니라, 낮은 지연시간과 더 적은 운영 비용, 강화된 데이터 프라이버시를 제공한다.
Ara240의 혁신적인 아키텍처는 첨단 멀티모달 및 트랜스포머 기반 워크로드를 지원하도록 설계되었으며, 최대 40eTOPS(equivalent tera-operations per second)의 성능과 최대 16GB의 LPDDR4 메모리를 지원한다. 이를 통해 고비용의 클라우드 컴퓨팅 자원에 의존하지 않고도 엣지에서 직접 대규모의 복잡한 모델을 원활하게 실행할 수 있다.
Ara240 DNPU는 통합 보안 부팅 및 하드웨어 RoT(root of trust) 프로세서를 갖추고 있어 산업, 기업 및 임베디드 구축 환경에서 하드웨어 기반의 강력한 보안 기능을 제공한다. 또한, PCIe Gen4 및 USB 3.2 호스트 인터페이스를 이용해 엣지 컴퓨팅 플랫폼과 PC, 노트북, AI 지원 임베디드 시스템 등에 손쉽게 통합할 수 있다. Ara240 DNPU는 산업 자동화 시스템이나 자율 로봇, 스마트 인프라, 첨단 HMI 플랫폼 또는 엣지 서버 등의 설계에서 최신 AI 워크로드를 엣지에서 직접 실행하는 데 필요한 충분한 성능을 제공한다.
Ara240 DNPU를 지원하는 Ara SDK는 포괄적인 기능을 갖추고 있어, 사용자가 Ara240 기반 DNPU 및 모듈에 다양한 AI 워크로드를 보다 간편하게 구축하고, AI 애플리케이션 개발을 가속화할 수 있게 해준다.
Ara SDK는 확장 가능한 AI 컴파일러를 통해 CNN(convolutional neural network), FCNN(fully connected neural network), ViT(vision transformer)는 물론, LLM 및 VLM과 같이 고도로 복잡한 언어 모델에 이르기까지 다양하고 지속적으로 진화하는 모델 아키텍처를 지원한다. 이 SDK는 효율적인 데이터 흐름 최적화, 유연한 양자화 방식, 다양한 데이터 유형을 지원하여 엣지 AI 애플리케이션에서 고성능 및 저지연 구현이 가능하다.
마우저는 Ara240 DNPU 기반의 AI 가속기 모듈인 ARA2-M2-16G-GT도 공급한다. 이 모듈은 M.2 M-Key 설계 사양을 채택하고 있으며, x4 구성으로 최대 4개의 PCI Express 4.0 레인을 지원한다. 특히, 널리 사용되는 NGFF 2280 폼팩터로 설계되어 M.2 M-Key PCI Express 기능을 갖춘 FRDM i.MX 95 및 FRDM i.MX95 Pro 개발 보드의 보조 프로세싱 장치로 손쉽게 활용할 수 있다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
