eIQ AI·머신 러닝 개발 소프트웨어에 GenAI 플로우 RAG 미세 조정 기능 지원
NXP 반도체가 eIQ AI·머신 러닝 개발 소프트웨어에 두 가지 새로운 툴을 추가했다고 발표했다. 이로써 엣지 프로세서 전반에 걸쳐 엣지에서의 AI 배포와 사용이 보다 용이해졌다.
eIQ 타임 시리즈 스튜디오(Time Series Studio)는 MCX MCU 포트폴리오나 i.MX RT 크로스오버 MCU 포트폴리오와 같은 MCU급 장치에 자동화된 머신 러닝 워크플로우를 제공한다. 이를 통해 시계열 기반 머신 러닝 모델의 개발과 배포를 간소화한다.
GenAI 플로우(GenAI Flow)는 생성형 AI 솔루션을 구동하는 대규모 언어 모델(Large Language Model, LLM)을 위한 빌딩 블록을 제공한다. NXP의 i.MX 애플리케이션 프로세서 제품군 MPU와 함께 사용하도록 설계된 생성형 AI 솔루션은 특정 맥락 데이터(contextual data)에 대해 LLM을 훈련시켜 엣지에서 인텔리전스를 보다 쉽게 배포할 수 있도록 지원한다.
예를 들어, 사용 설명서를 학습한 LLM이 탑재된 어플라이언스는 사용자와 자연어로 특정 기능에 액세스하거나 특정 작업 수행, 사용과 유지 관리 최적화 방법에 대해 대화할 수 있다.
엣지에 AI를 배포하면 지연 시간 단축, 사용자 개인정보 보호 개선, 에너지 소비 감소 등 여러 가지 이점을 얻을 수 있다. NXP의 eIQ 툴킷(Toolkit) 확장은 이러한 배포를 보다 쉽고 빠르게 수행할 수 있도록 지원한다. 개발자는 생성형 AI부터 시계열 기반 모델, 비전 기반 모델에 이르기까지 다양한 모델 유형에 액세스할 수 있다. 또한 사용자는 다양한 모델을 보다 광범위한 엣지 프로세서에 배포할 수 있다.
eIQ 타임 시리즈 스튜디오는 시계열 기반 AI 모델의 개발과 배포에 필요한 시간을 간소화하고 단축한다. 전압, 전류, 온도, 진동, 압력, 소리, ToF(Time of Flight) 등 다양한 입력 신호와 멀티 모달 센서 융합을 위한 신호 조합을 지원한다. 개발자는 자동 머신 러닝 기능을 통해 시간순으로 처리된 원시 데이터(raw data)에서 의미 있는 인사이트를 추출할 수 있다.
또한 성능, 메모리, 플래시 스토리지 크기와 정확도 기준에 따라 맞춤화된 AI 모델을 신속하게 구축할 수 있다. 더불어 데이터 큐레이션, 시각화와 분석, 모델 자동 생성, 최적화, 에뮬레이션, 배포를 포함한 포괄적인 개발 환경을 제공한다. 소프트웨어 개발자는 심층적인 데이터 과학이나 AI 전문 지식 없이도 직관적인 인터페이스를 통해 최적화된 이상 징후 탐지, 분류, 회귀 라이브러리를 만들 수 있다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>