· IoT, 스마트 폰, 감시카메라, 자동차, 로봇 공학 및 의료 산업을 포함, 광범위한 엔드 마켓에서 성능을 확장하는 4개의 자체 내장형 특수 AI 프로세서로 구성
· 안면 인식, 증강 현실 얼굴 필터, 지능형 객체 분류, 자연어 처리, 실시간 번역, 워크플로우 관리, 인증 및 실시간 악성 코드 탐지를 포함해 디바이스의 심층 신경망 작업 부하 전체를 처리하도록 설계

스마트 커넥티드 디바이스용 시그널 프로세싱 플랫폼 및 AI 프로세서의 선두 라이선스 기업인 CEVA는 엣지단에서의 딥러닝 추론을 위한 강력하고 전문화된 인공지능 (Artificial Intelligence, 이하 AI) 프로세서 제품군인 ‘NeuPro ™’ 공개했다.

NeuPro 프로세서 제품군은 심층 신경망 기술이 제공하는 정보를 처리하여 능률적으로 활용하고자 하는 스마트 및 커넥티드 엣지 디바이스를 생산하는 고객들을 위해 설계되었다.

CEVA는 컴퓨터 비전 애플리케이션용 심층 신경망 분야에서의 업계 선도의 경험을 토대로 NeuPro를 제작했다. 이미 수십 명의 고객들이 CEVA-XM4 및 CEVA-XM6 비전 플랫폼과 CDNN 신경망 소프트웨어 프레임워크을 이용하여 가전, 감시 및 ADAS 제품에 도입해 사용 중에 있다. 이 새로운 AI 전용 프로세서 제품군은 엔트리 레벨 프로세서의 경우 초당 2 Tera Ops (TOPS), 최고성능으로 구성할 경우 12.5
TOPS까지 향상된 성능을 제공한다.

 

NeuPro 프로세서 라인은 기존의 머신 비전은 물론 엣지단에서 AI 이용을 확장하여 자연어 처리, 실시간 번역, 인증, 워크플로우 관리 및 기타 여러 가지 학습 기반 애플리케이션을 통해 디바이스를 보다 지능적으로 만들고 인간의 개입을 줄여준다.

CEVA 비전 사업부 총괄 일란 요나(Ilan Yona) 부사장은 "AI 애플리케이션은 클라우드 서비스에 의존하기보다 엣지단에서 처리하는 경향이 뚜렷하다. 엣지단 처리를 위한 저전력 제약 조건과 함께 요구되는 연산 능력은 CPU, GPU 또는 DSP를 사용하는 대신 특수 프로세서를 필요로 한다”며, “CEVA는 NeuPro 프로세서를 설계해 아키텍처와 소프트웨어 측면에서 AI 공간으로의 진입 장벽을 낮추었다. 이로써 우리 고객들은 AI 기반의 워크로드와 애플리케이션에 활용할 수 있는 비용 효율적이며 최적화된 표준 AI 플랫폼을 갖게 되었다"고 말했다.

NeuPro 아키텍처는 완벽하고 확장 가능한 AI 솔루션을 위해 결합된 하드웨어 및 소프트웨어 기반 엔진의 조합으로 구성되었다. 전력, 성능 및 칩면적 (PPA)에 대한 최적화는 최종 애플리케이션의 요구 사항에 따라 하드웨어/소프트웨어와 조정이 가능한 여러 가지 옵션의 정밀한 조합을 통해 수행된다.

서로 다른 레벨의 병렬 처리를 제공하는 4 개의 AI 프로세서로 구성된 NeuPro 제품군

· NP500 - 512 MAC 유닛을 포함한 가장 작은 프로세서로서 IoT, 웨어러블 및 카메라에 적용 가능
· NP1000 - 1024 개의 MAC 유닛을 포함하며, 중거리 스마트 폰, ADAS, 산업용 애플리케이션 및 AR / VR 헤드셋에 적용 가능
· NP2000 - 2048 개의 MAC 유닛을 포함하며, 고성능 스마트폰, 감시, 로봇 및 드론에 적용 가능
· NP4000 - 엔터프라이즈 감시 및 자율 주행시 필요한 고성능 엣지 처리를 위한 4096 개의 MAC 장치를 포함

각 프로세서는 NeuPro 엔진과 NeuPro VPU로 구성되어 있다. NeuPro 엔진은 신경망중에서 Convolution, fully-connected, pooling 그리고 activation layer를 지원하기 위해 하드와이어된 구현을 포함한다. NeuPro VPU는 CDNN 소프트웨어부분을 담당하여 AI 작업 부하 중 새로운 요구사항을 소프트웨어 기반으로 지원하는 프로그래머블 벡터 DSP다. NeuPro는 8 비트와 16 비트 신경망을 모두 지원하며, 실시간으로 최적화된 의사 결정을 통해 정밀도와 성능간 최상의 절충점을 제공한다. MAC 유닛은 실행 시 90 % 이상의 활용도를 달성함으로써 고도로 최적화된 신경망 성능을 보장한다. 전반적인 프로세서 디자인은 DDR 메모리 대역폭을 상당히 줄여 모든 AI 애플리케이션의 전력 소비 수준을 향상시켰다.

NeuPro 제품군은 CEVA의 신경망 소프트웨어 프레임워크인 CDNN과 함께 개발자가 최종 신경망을 쉽고 효율적으로 생성해 프로세서에 포팅 할 수 있도록 딥러닝 솔루션을 제공한다. CDNN은 모든 종류의 레이어 유형 및 네트워크 토폴로지를 지원함으로써 시장 출시 기간을 단축시켰다.

CEVA는 NeuPro 프로세서 라인과 함께 CNN (Convolutional Neural Network) 가속기로서 NeuPro 하드웨어 엔진을 제공한다. CEVA-XM4 또는 CEVA-XM6 비전 플랫폼과 결합하면 이미징, 컴퓨터 비전 및 신경망 처리를 위한 단일 통합 플랫폼을 찾는 고객에게 유연한 옵션이 될 수 있다.