전사적인 에이전트 AI 도입을 위한 온프레미스 AI 기반 제공
델 테크놀로지스(Dell Technologies)는 한국벤처투자가 고성능 GPU 서버 ‘델 파워엣지(Dell PowerEdge) XE7745’를 도입하고 온프레미스 기반 전사 AI 전환(AX)에 나섰다고 밝혔다.
이번 사업은 ‘AI 인프라 기반 구축을 위한 GPU 서버 구매 및 전사 에이전트 AI 도입 프로젝트’로, 고성능 AI 인프라를 확보하는 동시에 실제 업무에 에이전트 AI를 적용해 업무 생산성과 시스템 현대화를 추진하는 것이 핵심이다.
한국벤처투자는 중소벤처기업부 산하 공공기관으로, 모태펀드를 운용하며 국내 유망 스타트업과 벤처캐피털의 투자 및 자금 조달을 지원하고 있다. 방대한 투자·금융 데이터를 다루는 만큼 생성형 AI 및 에이전틱 AI를 활용한 업무 효율화가 요구되지만, 동시에 사이버 위협 및 정보 유출을 완벽히 차단해야 하는 과제도 안고 있다. 이에 한국벤처투자는 보안 및 망분리 요건을 충족하면서 내부망에서 AI 모델을 안정적으로 운영할 수 있도록 사옥 내에 온프레미스(On-premises) AI 인프라를 구축했다.
이번 프로젝트에 사용된 델 파워엣지 XE7745 서버는 대규모 AI 모델 처리와 에이전트 AI 연동을 위한 고성능 연산을 제공하는 4U 구성의 공랭식 GPU 서버로서 한국벤처투자의 중장기 AX 수요에 대응할 수 있는 범용 AI 인프라로 활용된다.
한국벤처투자는 구축된 AI 인프라를 바탕으로 레거시 시스템 분석과 지식자산화 개념검증(PoC)을 추진할 예정이다. 유지보수 협력사인 내담씨앤씨와 본정보가 기술 연동을 지원하며, 특히 벤처투자종합정보시스템(VICS)에 소스 코드 분석 특화 AI 에이전트를 시험 적용한다. 이를 통해 복잡한 레거시 로직에서 핵심 정보를 자동으로 추출해 표준화된 산출물로 만드는 역추출 방식을 사용하는 등 시스템 운영 효율성을 단계적으로 검증할 계획이다.
AI 인프라는 다양한 내부 업무에도 활용되고 있다. 대표적으로 전 임직원이 사용하는 폐쇄형 내부망 AI 챗봇을 비롯해 △AI기반 벤처펀드 모니터링 시스템 △불균형 투자계약 점검 시스템 등에 적용 예정이다. 내부망 AI 챗봇은 외부로 데이터가 유출될 위험을 방지하면서 임직원이 문서 초안 작성 등 다양한 업무에 AI를 활용할 수 있도록 지원한다.
열관리 고려한 고밀도 GPU 설계로 폭염 대비에 탁월
델 파워엣지 XE7745 서버는 고밀도 GPU 연산 환경에서도 전력 효율과 열 관리에 최적화된 설계를 적용했으며, 고성능 팬을 활용한 공기 냉각 방식으로 GPU의 안정적인 운영을 지원한다. 4U 섀시에 최대 8개의 더블 와이드 GPU(PCIe Gen 5 x16 DW-FHFL) 또는 최대 16개의 싱글 와이드 GPU(PCIe Gen 5 x16 SW-FHFL)를 구성할 수 있으며, 각각 슬롯당 최대 600W와 75W까지 전력을 지원한다. 또한 중앙집중화 방식의 시스템 관리 콘솔인 ‘오픈매니지 엔터프라이즈(OpenManage Enterprise)’를 통해 고밀도 GPU 서버 환경에서 전력과 냉각 자원을 효율적으로 운영하는 것이 가능하다.
한국벤처투자 관계자는 “델의 AI 인프라 솔루션을 도입하면서 한국벤처투자의 보안 및 망분리 요건을 충족하는 동시에 대규모 딥러닝 모델 학습을 지원할 수 있는 체계를 갖췄다. 향후에도 델 및 ‘본정보’ 등 델 협력사와 긴밀한 공조를 통해 차세대 AX 서비스를 다양하게 전개해 나갈 수 있게끔 인프라를 확장할 예정”이라고 밝혔다.
유상모 한국 델 테크놀로지스 사장은 “한국벤처투자의 이번 프로젝트는 엄격한 망분리 환경에서 고성능 AI와 에이전트 AI를 안정적으로 활용하고, 전사 업무 자동화와 시스템 현대화를 지향한 모범적인 사업”이라며, “델 파워엣지 서버를 기반으로 에이전트 AI를 활용해 레거시 소스 코드를 분석하고 산출물을 자동 작성하는 등 지식자산화를 가속할 수 있게 됐다”고 밝혔다. 이어 “델은 협력사들과 함께 한국벤처투자가 시범 운용을 안정적으로 확대하고, 중장기 AX 수요에 대응할 수 있도록 지속적으로 지원하겠다”고 덧붙였다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
