Lattice sensAI, 초저전력과 유연한 추론 성능 제공해


잉 젠 첸(Ying Jen Chen) 래티스 반도체 아태지역 사업개발 담당 시니어 매니저

래티스 반도체가 엣지 디바이스를 위한 인공지능(AI) 기술 ‘Lattice sensAI’를 발표했다. sensAI는 FPGA의 유연성을 활용하여 소형 패키지로 초저전력, 낮은 가격으로 구현된다. 인공지능 기술을 탑재한 엣지 디바이스가 향후 5년 동안 연평균 110% 이상 성장할 것으로 예상되는 가운데, Lattice sensAI가 IoT 애플리케이션에 AI 도입을 촉진할 것으로 기대된다.

산업계에서 기계학습 기술의 채택이 늘수록 지연, 프라이버시, 네트워크 대역폭 제한 등은 엣지 컴퓨팅을 견인하는 요인이 되고 있다. 이에 저전력 FPGA 및 주문형 스마트 커넥티비티 솔루션 전문기업인 래티스 반도체(Lattice Semiconductor, 지사장 이종화)가 AI 기능의 스마트 사물인터넷(IoT) 애플리케이션을 구현하기 위한 저가격 솔루션 ‘Lattice sensAI’를 발표했다.

Lattice sensAI 스택은 초저전력소비(1mW 이하~1W), 소형 패키지 크기(5.5mm2~100mm2), 인터페이스 유연성(MIPI®CSI-2, LVDS, GigE 등), 대량생산 가격($1 이하~$10)의 이점을 제공하도록 최적화된 솔루션이다. 이를 활용해 개발자는 엣지 컴퓨팅을 데이터 소스 가까이에 신속하게 구현할 수 있다.

이 솔루션에는 모듈형 하드웨어 플랫폼, 신경망 IP 코어, 소프트웨어 툴, 레퍼런스 디자인, 맞춤형 설계 서비스가 포함돼 있어 저비용으로 단기간에 IoT 기기에 기계학습(machine learning)을 통합할 수 있다.

Lattice sensAI 스택은 유연하고 소비전력이 극히 적으면서 경제성까지 갖춘 AI 반도체 솔루션에 대한 요구를 충족함으로써, AI 기술이 새롭게 떠오르고 있는 광범위한 대량판매 시장용 IoT 애플리케이션에 급속히 확산될 것으로 기대된다.

Lattice sensAI 스택은 유연하고 초저전력 소비가 특징인 래티스 FPGA 하드웨어와 소프트웨어 솔루션을 결합한 완벽한 기계학습 추론 기술 스택을 제공함으로써 엣지 디바이스의 센서 데이터 처리 및 분석 기능의 통합을 가속화한다.

잉 젠 첸(Ying Jen Chen) 래티스 반도체 아태지역 사업개발 담당 시니어 매니저는 “소비전력이 극히 적고 유연하면서 가격이 저렴한 엣지용 AI 솔루션에 대한 시장의 요구가 대두되고 있다. Lattice sensAI 스택은 하드웨어 플랫폼, 무료 소프트 IP 코어(BNN 가속기, CNN 가속기), 소프트웨어 툴, 레퍼런스 디자인 및 데모, 맞춤형 설계 서비스를 통해 엣지 컴퓨팅에 엣지 연결성 그 이상을 제공한다”고 말했다.

래티스의 엣지 컴퓨팅 솔루션은 엣지 커넥티비티와 관련한 래티스의 FPGA 기술을 바탕으로 제작돼 스마트 스피커, 감시 카메라, 산업용 로봇 및 드론을 포함한 대량생산용 IoT 애플리케이션에서 유연한 센서 인터페이스 브리징 및 데이터 애그리게이션 기능을 실현한다.

첸 시니어 매니저는 “IoT 기기는 네트워킹 기능 외에도 다양성과 상호운용성, 저전력 소모를 특징으로 한다”며 “저전력 소모는 래티스 FPGA의 강점으로, MCU와 동등한 성능을 제공하면서도 더 낮은 전력을 소비한다”고 강조했다.

래티스는 모바일 개발 플랫폼(UltraPlus FPGA)에서 비디오 인터페이스 플랫폼(ECP5 FPGA)에 이르는 하드웨어 플랫폼을 제공한다. 이들 플랫폼은 소비전력 1mW 이하에서 1W까지 대응하며 초당 10억 뉴럴 연산 성능을 제공한다. 래티스는 신속한 프로토타이핑을 위한 모듈형 플랫폼을 제공한다. iCE40 UltraPlus FPGA 기반의 모바일 개발 플랫폼(MDP)은 이미지 센서, 마이크, 자이로센서, 압력 센서, 나침반 등을 통합했다. ECP5 FPGA 기반의 비디오 인터페이스 플랫폼(VIP)은 MIPI CSI-2, eDP, HDMI, GigE 비전, USB 3.0 등을 지원하는 유연한 비디오 연결성을 제공한다.

하드웨어 플랫폼 외에도 새로운 신경망 IP 코어 및 소프트웨어 툴은 FPGA 기반 인공지능 IoT 기기를 만드는 핵심 요소이다. 소프트 IP로 무상 제공되는 이진신경망(Binarized Neural Network, BNN) 가속기는 iCE40 UltraPlus FPGA에 최적화됐으며, 1비트 가중치 및 1비트 활성 양자화를 지원한다. 합성곱 신경망(Convolutional Neural Network, CNN) 가속기는 ECP5 FPGA에 최적화됐으며, 가중치와 활성화를 위한 가변 양자화(16/8/1)를 지원한다.

FPGA에 카페(Caffe)와 텐서플로우(TensorFlow) 인공지능 프레임워크를 이용할 수 있게 해주는 신경망 컴파일러 툴은 표준 프레임워크를 사용하여 개발된 네트워크를 RTL 과정을 거치지 않고 래티스 FPGA에 구현한다. 또한 Lattice sensAI IP 코어 상에 구현하기 위해 CNN과 BNN 분석, 시뮬레이트, 컴파일 작업을 신속하게 처리한다. 이와 함께 래티스 FPGA 설계 툴인 Lattice Radiant와 Lattice Diamond를 사용하여 신속하게 FPGA를 설계할 수 있다.

이와 함께 래티스는 안면인식, 핵심 구문인식, 물체 카운팅, 안면 추적, 속도표지판 인식 등 4가지 레퍼런스 디자인과 데모를 제공한다. 또한 모바일 기기, 스마트홈, 스마트시티, 스마트팩토리, 스마트카와 같은 맞춤형 설계 서비스를 제공한다.
 


래티스 sensAI 스택의 특징

- 모듈형 하드웨어 플랫폼 – 임베디드 비전 개발 키트가 지원되는 ECP5™ 디바이스 기반의 비디오 인터페이스 플랫폼(Video Interface Platform, VIP), iCE40 UltraPlus™ 디바이스 기반의 모바일 개발 플랫폼(Mobile Development Platform, MDP)
- IP 코어 – CNN(Convolutional Neural Network) 가속기와 BNN(Binarized Neural Network) 가속기
- 소프트웨어 툴 – FPGA에 카페/텐서플로우(Caffe/TensorFlow) 인공지능 프레임워크를 이용할 수 있게 해주는 신경망 컴파일러 툴, Lattice Radiant™ 설계 소프트웨어, Lattice Diamond®설계 소프트웨어
- 레퍼런스 디자인 – 안면 인식, 핵심 구문 인식, 물체 카운팅, 안면 추적, 속도표지판 인식
- 설계 서비스 – 설계 서비스 파트너 에코 시스템을 통해 스마트 홈, 스마트 시티, 스마트 팩토리 등의 방대한 시장 애플리케이션을 위한 맞춤 솔루션 제공