유럽 AI 팩토리 구축 위한 신규 기술 제품군 공개

엔비디아가 비바테크(VivaTech)에서 열린 엔비디아 GTC 파리(NVIDIA GTC Paris)에서 AI 개발과 배포 과정에서 직면한 과제를 효과적으로 해결할 수 있도록 지원하는 새로운 기술 제품군을 공개했다.

유럽 연합은 현재 AI 분야에 2,000억 달러 이상을 투자하고 있다. 그러나 이러한 투자의 가치를 극대화하려면, 개발자들은 제한된 컴퓨팅 자원, 데이터 개인정보 보호 요구사항, 안전성 우선 순위라는 세 가지 핵심 제약을 해결해야 한다.

엔비디아가 이번에 공개한 도구들을 활용하면 기업들은 온프레미스 또는 클라우드에 확장 가능한 AI 팩토리를 구축함으로써, 안전하고 최적화된 소버린 AI 에이전트를 빠르게 생성할 수 있다.



확장된 엔비디아 엔터프라이즈 AI 팩토리(Enterprise AI Factory) 검증 설계는 엔비디아 블랙웰(Blackwell) 가속 인프라와 차세대 소프트웨어 스택을 결합해 소버린 AI를 위한 턴키 솔루션을 제공한다.

핵심은 기업이 다양한 개방형 거대 언어 모델(Large Language Model, LLM) 아키텍처를 위해 초고속 추론을 수행할 수 있도록 하는 새로운 NIM 기능이다. 이는 현재 허깅페이스(Hugging Face)에서 호스팅된 10만 개 이상의 공개형, 비공개형, 도메인 특화 모델 변형을 지원한다.

또한 여기에는 새로운 엔비디아 AI 블루프린트(AI Blueprint)와 개발자 예제가 추가됐다. 이는 개발자에게 강력한 안전성, 강화된 개인정보 보호, 지속적인 개선을 보장하면서 AI 에이전트를 개발하고 온보딩 절차를 간소화하는 방법을 안내한다. 

새로운 도구를 통해 유럽 내 조직들은 성능, 제어력, 규정 준수를 저해하지 않으면서도 대규모 AI 팩토리를 구축하고, 배포하며, 운영할 수 있다. 새로운 도구들에는 AI-Q와 데이터 플라이휠(fywheel) 엔비디아 블루프린트, 엔비디아 네모(NeMo)를 사용한 AI 안전성 블루프린트 등이 포함된다. 

현재 유럽의 주요 기업들은 이미 다양한 산업 분야에서 엔비디아 가속 AI 팩토리를 구축하고 있다. BNP 파리바(BNP Paribas)와 피난츠 인포르마틱(Finanz Informatik)을 포함한 유럽의 주요 금융사는 AI 팩토리를 확장해 금융 서비스 AI 에이전트를 운영함으로써 직원과 고객을 지원하고 있다. 로레알(L’Oreal)이 지원하는 스타트업 놀리(Noli)는 액센츄어(Accenture)와 협력해 AI 뷰티 매치메이커(AI Beauty Matchmaker) 기능을 구현하는 AI 리파이너리(AI Refinery)를 활용하고 있다. 아이큐비아(IQVIA)는 의료 서비스를 지원하기 위한 AI 에이전트를 개발하고 있다.

통신 업계에서는 BT 그룹(BT Group)이 서비스나우(ServiceNow)와 협력해 고객 서비스를 최적화하고 네트워크 이상 현상을 해결하고 있다. 텔레노어(Telenor)는 AI 팩토리를 사용해 자율적인 네트워크 구성에 필요한 엔비디아 AI 블루프린트를 활용 중이다.

엔터프라이즈 AI 팩토리로 AI 에이전트 개발 가속화
소버린 AI 에이전트를 구축하기 위한 첫 번째 단계는 모델 개발이다. 이는 종종 특정 사용 사례에 맞춘 지역 또는 기업 고유의 데이터를 활용해 구현된다. 이러한 모델을 훈련하고, 관리하며, 확장하기 위해서는 소버린 AI 개발자에게 AI 팩토리가 필요하다.

온프레미스 소버린 AI 인프라는 정부, 금융, 의료 서비스와 같은 규제 부문에서 특히 유용하다. 엔비디아 엔터프라이즈 AI 팩토리의 검증 설계는 이러한 산업들이 온프레미스 AI 팩토리를 기반으로 AI 애플리케이션을 빠르게 지원할 수 있도록 돕는다. 이때, 모든 하드웨어와 소프트웨어 계층은 최적화된 상태로 제공돼 손쉽게 확장 가능하다.

이 설계는 엔비디아 RTX PRO 서버를 포함하는 엔비디아 블랙웰 가속 컴퓨팅, 엔비디아 네트워킹, 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어를 특징으로 하며, 생성형 또는 에이전틱 AI 애플리케이션을 가속화한다.

여러 지역의 소프트웨어 제공업체들이 현재 이 검증 설계를 통합해 개발자들이 대규모로 엔터프라이즈 AI 에이전트를 구축하고 배포할 수 있도록 지원하고 있다. 여기에는 어댑티브 ML(Adaptive ML), 클리어ML(ClearML), 데이터루프(Dataloop), 딥체크(Deepchecks), 딥셋(deepset), 도미노 데이터 랩(Domino Data Labs), 엔터프라이즈DB(EnterpriseDB), 이과지오(Iguazio), 퀀티파이(Quantiphi), 테라데이타(Teradata), 위비에이트(Weaviate), 위즈(Wiz) 등이 포함된다.

엔터프라이즈 AI 팩토리는 에이아이올라(aiOla), 딥엘(DeepL), 엘라스틱(Elastic), 포토룸(Photoroom), 폴리AI(PolyAI), 쿼도(Qodo), 사나 랩스(Sana Labs), 탭나인(Tabnine), 씽크딥(ThinkDeep)과 같은 지역 파트너사의 소프트웨어와 함께 사용할 수 있다.