가트너, "SLM 사용량, 2027년까지 LLM의 3배 추월" … 빠른 응답 속도와 적은 자원 소모도 장점

"기업이 2027년까지 특정 작업에 맞춰 성능을 극대화한 소규모언어모델(SLM)을 도입하고, 전체 사용량이 범용 대규모언어모델(LLM) 사용량보다 최소 3배 이상 많을 것이다."

최근 가트너는 이같이 전망하고, 범용 LLM이 강력한 언어 처리 능력을 제공하지만, 특정 비즈니스 분야의 전문성이 요구되는 작업에서는 응답 정확도가 떨어진다고 분석했다.



수밋 아가왈(Sumit Agarwal) 가트너 VP 애널리스트는 “비즈니스 업무 흐름 내 다양한 작업과 더 높은 정확도에 대한 요구로 인해 특정 기능 또는 도메인 데이터에 맞춰 미세조정한 특화 모델로의 전환이 가속화되고 있다"며, "SLM은 응답 속도가 빠르고 컴퓨팅 자원을 적게 소모해 운영 및 유지 관리 비용을 절감할 수 있다”고 설명했다.

기업은 검색 증강 생성(Retrieval-Augmented Generation, RAG) 또는 미세조정 기술을 활용해 LLM을 특정 작업에 특화된 모델로 커스터마이징할 수 있다. 이 과정에서 기업 데이터는 핵심적인 차별화 요소로 작용하며, 미세조정 요구사항을 충족하도록 관련 데이터를 구성하기 위해서는 데이터 준비, 품질 관리, 버전 관리, 전반적인 관리가 필수적이다.

아가왈 VP 애널리스트는 “기업은 자사의 고유한 데이터와 전문화된 업무 프로세스에서 도출된 인사이트의 가치를 점차 인식하게 되면서, 이를 수익화하고 고객과 경쟁사를 포함한 더 광범위한 대상과 공유하는 방향으로 나아갈 가능성이 높다”며, “이는 데이터와 지식에 대한 보호 중심적 접근 방식에서 보다 개방적이고 협력적인 활용 방식으로의 전환을 의미한다”고 전했다.

검색 증강 생성(RAG)과 미세조정으로 SLM 구현… 기업 고유 데이터 차별화가 핵심

가트너는 기업이 자사의 고유 모델을 상용화함으로써 새로운 수익원을 창출하는 동시에 상호 연결된 생태계를 구축할 수 있다고 전했다.

보고서는 소규모 AI 모델 도입을 추진하는 기업에 ▲컨텍스트 기반 모델 시범 운영 ▲복합적 접근 방식 도입 ▲이터 및 기술 역량 강화 등의 권장 사항을 제시했다.

컨텍스트 기반 모델 시범 운영에 있어서는 비즈니스 맥락이 중요한 분야나 LLM 응답 품질, 속도가 기대에 미치지 못하는 영역에 컨텍스트 기반 SLM을 시범 도입하는 것이 효과적이다. 복합적 접근 방식 도입은 단일 모델만으로는 한계가 있는 사용 사례를 파악하고, 여러 모델과 워크플로우 단계를 결합한 복합적 접근 방식을 도입하는 것이 효과적이다.

마지막으로 데이터 및 기술 역량 강화를 위해서 언어 모델 미세조정에 필요한 데이터를 수집, 선별, 구조화하는 데이터 준비 역량에 우선순위를 두는 것이 효과적이다. AI 이니셔티브를 추진하기 위해 AI 및 데이터 설계자, 데이터 과학자, AI 및 데이터 엔지니어, 리스크 및 규정 준수 팀, 구매 팀, 비즈니스 전문가 등 다양한 기술, 기능 인력의 역량 강화에 투자하는 것도 효과적이다.