맥심 인터그레이티드 코리아(대표 최헌정)가 신경망 가속기를 탑재한 저전력 마이크로컨트롤러 ‘MAX78000’을 출시했다.

MAX78000은 소프트웨어 솔루션의 100분의 1도 안되는 저전력 에너지로 복잡한 인공지능(AI) 추론(Inference)을 빠르게 실행해 배터리 구동 IoT 내장 장치에서 복잡한 의사 결정을 가능하게 한다. AI 기술 기반의 배터리 구동 애플리케이션의 런타임을 늘리고 그동안 불가능했던 배터리 구동 AI 사례도 현실화할 수 있다. 또한 FGPA나 GPU 솔루션 비용의 극히 일부만으로 지연시간을 100배 줄일 수 있다.



지금까지 ‘손 안의 기기’에서의 AI 추론을 실행한다고 하면, 센서, 카메라, 마이크에서 수집된 데이터를 클라우드로 전송해 추론을 실행하고 그 결과를 다시 기기 단에 보내는 일련의 과정을 포함했다. 이렇게 설계된 아키텍처는 지연이 생기고 에너지 소모도 크다. 대안으로 지목되는 저전력 마이크로컨트롤러는 간단한 신경망은 구현하지만 지연 문제는 여전하고, 장치 에지에서는 단순한 작업만 실행할 수 있다.

MAX78000은 전용 신경망 가속기를 통합해 문제를 해결했다. 이로써 기계는 실시간 실행되는 저전력 로컬 AI 프로세싱으로 복잡한 패턴을 보고 들을 수 있게 됐다. 하드웨어 가속기는 경쟁 임베디드 솔루션 대비 100분의 1 미만의 에너지로 추론을 실행할 수 있어 머신 비전, 음성 및 안면 인식 등과 같은 애플리케이션을 더욱 효율적으로 구축할 수 있다. 에지 단에서 AI 기능을 수행함으로써 복잡한 인사이트를 확보하고 IoT 애플리케이션으로 클라우드 트랜잭션을 줄이거나 제거할 수 있어 지연시간을 줄인다.

이를 가능하게 한 것은 MAX78000의 컨볼루션 신경망(Convolutional Neural Networks, CNN)의 에너지 및 지연 최소화를 위해 설계된 특수 하드웨어다. 이 하드웨어는 마이크로컨트롤러 종류에 상관없이 최소한의 간섭만 실행하도록 해 효율성을 높였다. 에너지와 시간은 CNN을 구현하는 수학적 연산에만 소모되며 외부 데이터를 CNN 엔진으로 확보하는 데는 초저전력 ARM 코텍스-M4 코어나 더 낮은 전력의 RISC-V 코어가 사용된다.

맥심은 AI 개발을 위해 더욱 원활한 평가와 개발 경험을 제공하는 툴을 지원한다. MAX78000 평가키트에는 오디오 및 카메라 입력장치 뿐만 아니라 대규모 어휘 키워드 검출 및 안면 인식과 관련해 즉시 이용 가능한 시연 프로그램이 포함되어 있다. 모든 소스를 문서화해 엔지니어는 텐서플로(TensorFlow)나 파이토치(PyTorch) 툴에서도 MAX78000 교육을 받을 수 있다.