클라우드 기반 AI 문제 해결 대안, 빅테크 기업 앞다퉈 출시

클라우드의 도움 없이 기기 자체적으로 AI 연산을 수행하는 온디바이스 AI가 수많은 기업들의 산업 성장 정체를 해소할 수 있는 기회가 되고 있다.

온디바이스 AI는 클라우드 기반 AI가 가지고 있는 프라이버시, 응답 속도 등의 문제를 해결할 수 있는 대안으로 떠오르고 있다. 하지만 명확한 고객 가치를 만들어내려면 ▲온디바이스 AI의 장점을 살릴 수 있는 서비스 기획 ▲작고 강력한 AI 모델 구축을 위한 경량화 기술 ▲기기 내 구동을 위한 강력한 AI 반도체를 확보하는 등의 선결 과제들을 해결해야만 한다.
 
이에 LG경제연구원은 최근 생성형 AI 열풍으로 성큼 다가온 온디바이스 AI(박종석·유지호)라는 보고서를 통해 CES 2024뿐만 아니라 다양한 빅테크 기업 자체적으로도 온디바이스 AI 서비스 출시를 예고하고 있어, 2024년에는 온디바이스 AI 경쟁이 본격화할 전망이라고 밝혔다. 

그러나 온디바이스 AI를 무작정 적용하여 성공할 수 있는 것은 아니다. 온디바이스 AI를 통해 분명한 고객 가치를 제공하고, 이를 기기의 차별화 요소로 활용하려면 앞서 언급한 요인들을 충분히 고려해야만 한다.

경량화 모델 개발해야

우선, 서비스 측면에서 온디바이스 AI의 장점을 제대로 활용할 수 있는 사용 씬 개발이 중요하다. 최근 화두가 되고 있는 갤럭시 S24의 라이브 번역 통화는 핸드폰 본연의 기능이자, 프라이버시가 중요한 서비스에 온디바이스 AI를 적용했다는 점에서 좋은 출발점이라고 볼 수 있다. 이와 같이 온디바이스 AI 서비스는 기본 기능의 개선/발전에 적용되는 것부터 시작하여 최종적으로는 완전히 개인화된 서비스를 제공하는 방향으로 진화할 전망이다.

두 번째, 사용자가 언제 어디서나 손 안에서 필요로 하는 AI 기능을 구현하기 위한 경량화 모델 개발 흐름은 당분간 지속될 것으로 보인다. 빅테크를 중심으로 더 크고, 똑똑한 AI 모델을 개발하면, 이를 작게 만들어 온디바이스 AI화하는 개발 방향이 동시에 발생하기 때문에, 향후 온디바이스 AI 모델의 성능은 지속적으로 상승하고 더 많은 기능을 수행할 수 있을 것이다. 

마지막으로 보고서는 “AI 반도체 관점에서 향후 온디바이스 AI 구현을 위한 칩셋 경쟁이 확대될 것으로 보인다. 기존 시장 지배자인 인텔 역시 SoC 구조를 적용한 신제품을 출시했고, 퀄컴은 스마트폰 칩셋의 노하우를 PC에 이식하기 위해 진입 중”라며, “또한 서버 GPU 기반의 새로운 PC용 SoC를 개발 중인 엔비디아까지 시장에 가세했기 때문에 향후 경쟁은 더욱 치열해질 것”이라고 내다봤다.