HPE 그린레이크 기반 LLMOps 플랫폼 구축… 금융 규제 환경서 생성형 AI 적용
DB생명이 직원 생산성 향상과 고객 응대 자동화를 위해 소버린 AI 기반의 생성형 인공지능(AI) 운영 환경을 구축했다. 이를 위해 DB생명은 HPE와 협력해 차세대 AI 챗봇 서비스와 확장형 대규모언어모델 운영(LLMOps) 플랫폼을 도입했다.
이번 프로젝트는 생성형 AI 활용 수요가 증가하는 가운데, 금융권 특유의 데이터 주권과 보안, 규제 준수 요건을 충족하면서 AI 전환을 추진했다는 점에서 의미가 있다. DB생명은 HPE의 그린레이크 플렉스(HPE GreenLake Flex) 솔루션을 기반으로 컴퓨팅, 스토리지, 네트워킹, AI 소프트웨어를 종량제 모델로 통합한 인프라를 구축했다. 이를 통해 데이터 통제권을 유지하면서도 업무 수요에 따라 유연하게 자원을 확장할 수 있는 환경을 마련했다.
구축된 플랫폼은 직원들의 내부 정보 접근성을 높이고 응답 시간을 단축하는 데 초점을 맞췄다. 생성형 AI 기반 챗봇은 기존 문서를 활용해 보다 정확하고 맥락을 반영한 답변을 제공하며, 고객 상담 과정의 효율성과 일관성을 개선하도록 설계됐다.
민효식 DB생명 디지털혁신본부장은 “데이터 주권과 보안을 유지한 상태에서 생성형 AI를 도입할 수 있는 기반을 마련했다”며, “직원들이 필요한 정보를 보다 빠르고 정확하게 활용할 수 있는 환경을 갖추게 됐다”고 말했다.
이번 구축은 국내 금융 규제 환경을 고려한 소버린 AI 적용 사례로도 주목된다. HPE는 자문 중심의 접근과 서비스형 모델을 결합해, 한국 금융권의 규제 요건을 충족하는 통합 아키텍처를 설계했다. 이 과정에서 HPE 데이터 패브릭 소프트웨어와 HPE 심플리비티 가상화 기술을 연계해 리소스 사용 효율과 운영 안정성을 높였다.
플랫폼의 핵심은 한국어에 최적화된 LLMOps 환경이다. 검색 증강 생성(RAG)을 자동화하고, 이를 보안이 강화된 에어갭 환경에서 대규모언어모델과 통합함으로써 민감한 금융 데이터를 외부 노출 없이 활용할 수 있도록 했다.
김영채 HPE 한국 대표이사는 “금융기관이 규제 환경 속에서도 생성형 AI를 실질적인 업무 혁신으로 연결할 수 있음을 보여주는 사례”라며, “보안과 데이터 주권을 고려한 AI 도입 모델을 통해 고객 경험과 생산성 개선을 지원하고 있다”고 밝혔다.
DB생명은 이번에 구축한 AI 운영 환경을 기반으로 향후 디지털 금융 서비스 전반으로 생성형 AI 활용 범위를 단계적으로 확대해 나갈 계획이다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
