'뉴타닉스 에이전틱 AI' 발표…총 토큰 비용 최소화 및 에이전틱 AI 워크로드 배포 가속화
뉴타닉스(Nutanix)가 풀스택 소프트웨어 솔루션 '뉴타닉스 에이전틱 AI(Nutanix Agentic AI, 이하 NAI)'를 공개한다고 3월 17일 발표했다. 이 솔루션은 고객의 에이전틱 AI 도입을 가속화해 비즈니스 혁신을 지원한다는 설명이다.
에이전틱 AI로의 전환이 본격화되면서 기업의 AI 도입은 새로운 전환점을 맞고 있다. 이제 기업이 직면한 과제는 더 이상 모델 자체나 개별 에이전트를 구축하는 것이 아니라, 수천 개의 에이전트를 안전하게 대규모로 운영하는 데 필요한 인프라의 복잡성을 관리하는 데 있다는 것이다.
이에 따라 인프라와 플랫폼 팀은 AI 팩토리를 구축하고 운영하며, 성능과 보안을 극대화하고 데이터 주권 컴플라이언스를 충족하면서 조직 내 다양한 팀이 자원을 공동으로 활용할 수 있도록 지원할 수 있는 더 나은 솔루션이 필요하다. 또한 데이터 과학자와 에이전틱 AI 개발자는 모델을 실행하고 미세 조정(fine-tuning)하며 에이전트를 구축하고, 이를 기업 데이터에 안전하게 연결할 수 있는 도구와 서비스에 쉽게 접근할 수 있기를 기대하고 있다고 업체 측은 전했다.
뉴타닉스(Nutanix)의 제품 관리 부문 수석 부사장인 토마스 코넬리(Thomas Cornely)는 “‘단일 대규모 작업’을 실행하도록 최적화된 모델 훈련용 AI 인프라와 달리, 실제 운영 환경의 에이전트 기반 AI 인프라는 수천 개의 AI 서비스, 에이전트, 동시 접속 사용자 및 개발자가 발생하는 대규모 트래픽과 빠른 변화 속도를 처리할 수 있어야 한다”며, “뉴타닉스 에이전틱 AI는 AHV 하이퍼바이저, 플로우 가상 네트워킹(Flow Virtual Networking), 뉴타닉스 쿠버네티스 플랫폼(Nutanix Kubernetes Platform), 뉴타닉스 엔터프라이즈 AI를 확장하여 기업의 AI 팩토리에 클라우드 운영 모델을 제공한다”고 밝혔다. 이어, “이를 통해 인프라 및 플랫폼 팀은 AI 팩토리를 단순하게 구축, 운영 및 관리할 수 있으며, 에이전틱 AI 개발자에게는 필요한 성능과 풍부한 모델 및 AI 플랫폼 서비스를 제공한다”라고 말했다.
업체 측에 따르면, 이 솔루션은 에이전트 빌더(Agent Builder) 계층에서 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)와 통합되며, 지원되는 구성 환경에서 엔비디아 인증을 받은 AI 팩토리 생태계를 오케스트레이션한다. 이를 통해 다수의 사용자가 동시에 활용하는 동적 AI 환경을 갖춘 고객은 데이터 과학자와 에이전틱 AI 개발자를 위한 AI 플랫폼 서비스(PaaS)와 서비스형 모델(Model-as-a-Service, 이하 MaaS)와 결합된 포괄적인 인프라 오케스트레이션 및 보안 소프트웨어 제품군을 활용하여 에이전틱 AI 애플리케이션을 구축·실행 및 보호할 수 있다. 또한 뉴타닉스와 엔비디아는 엔비디아 오픈쉘(NVDIA OpenShell) 오픈소스 런타임을 포함한 엔비디아 에이전트 툴킷과의 통합을 통해 기업 환경 내 자율 에이전트의 기반을 구축하기 위해 협력하고 있다.
AI 앱 및 팩토리의 성능·보안·비용 최적화
뉴타닉스 에이전틱AI 솔루션은 복잡성을 줄이고, 최적화된 성능과 보안을 제공하며, 다음 기능을 통해 예측 가능한 낮은 토큰 비용을 실현하도록 설계됐다.
1. 에이전트 기반 AI 서비스 및 쿠버네티스 플랫폼: AI PaaS 및 쿠버네티스 네이티브 소프트웨어 계층은 다음과 같이 구성된다.
a. 고급 AI 게이트웨이 및 MaaS: NAI 최신 버전인 v2.6에는 클라우드 호스팅 및 프라이빗 LLM에 대한 통합 정책 제어를 위한 AI 게이트웨이 서비스가 포함된다. 모델 컨텍스트 프로토콜(MCP) 서버 및 미세 조정 기능에 대한 새로운 지원은 기존의 MaaS 기능을 확장하여 에이전트가 기업의 다양한 도구와 데이터 소스에 안전하게 연결할 수 있도록 지원한다. 또한 NAI는 엔비디아 네모트론(NVIDIA Nemotron) 오픈소스 AI 모델 제품군과 데이터셋, 훈련 도구를 지원한다. 이를 통해 개발자는 추론 능력을 갖추고 기업 툴에 안전하게 접근하며, 복잡한 다단계 작업을 독립적으로 수행할 수 있는 에이전틱 AI 시스템을 구축할 수 있다.
b. 풍부한 AI 카탈로그를 갖춘 오픈 쿠버네티스 플랫폼: 뉴타닉스는 CNCF 표준을 준수하는 뉴타닉스 쿠버네티스 플랫폼을 확장하여 노트북, 벡터 데이터베이스, MLOps 워크플로 엔진, 에이전틱 AI 프레임워크 등 사전 구축된 오픈소스 AI 개발자 도구의 풍부한 카탈로그를 제공함으로써 에이전틱 AI로의 전환을 단순화한다. 또한 엔비디아 AI 엔터프라이즈 소프트웨어와 완전히 통합돼 있어 개발자는 네모트론을 포함한 엔비디아 NIM(NVIDIA NIM)을 즉시 배포하여 프로덕션 환경에서 고성능 AI 애플리케이션 개발을 가속할 수 있다.
2. 인프라 최적화 및 보안: 엔비디아 토폴로지 인식 AHV(NVIDIA topology-aware AHV)의 얼리 액세스 버전에서 뉴타닉스 AHV 하이퍼바이저는 GPU 밀집 서버의 가상 머신에 대한 물리적 리소스 할당을 자동으로 최적화하고 성능을 극대화하도록 개선되었다. 뉴타닉스 플로우 가상 네트워킹 솔루션은 네트워크 데이터 플레인을 블루필드(BlueField) DPU로 오프로드하도록 개선되어 호스트 CPU와 메모리 사용량을 줄이면서 고성능 네트워킹을 제공한다. 이러한 향상된 기능을 통해 에이전틱 AI 워크로드에서도 가상머신이 제공하는 워크로드 및 테넌트 격리, 2일 차 운영 관리, 인프라 복원력의 기능을 그대로 활용할 수 있다. 동시에 최대 수준의 성능과 보안, 리소스 활용 효율을 통해 토큰당 비용 절감을 지원한다.
3. AI를 위한 기반 데이터 서비스: 에이전틱 AI 애플리케이션은 기반 데이터 서비스가 필요하다. 엔비디아 AI 데이터 플랫폼 레퍼런스 설계를 기반으로 구축된 솔루션인 뉴타닉스 통합 스토리지(Nutanix Unified Storage)는 수천 개의 GPU 클라이언트에 대해 선형적으로 확장 가능한 읽기와 쓰기 성능을 제공한다. 뉴타닉스는 KV 캐시 오프로딩을 위한 대용량 티어를 제공하고, RDMA기반 S3 및 RDMA기반 NFS를 지원함으로써, 모든 엔터프라이즈 AI 워크로드 전반에서 GPU 효율성을 극대화하는 확장 가능하고 지연 시간이 짧은 데이터 패브릭을 제공한다.
뉴타닉스 에이전틱AI 솔루션은 엔비디아 인증 AI 팩토리를 통해 에이전틱 AI의 도입을 가속화하고 실무에 적용한다. 고객은 시스코(Cisco), 델(Dell), 슈퍼마이크로(Supermicro) 하드웨어 환경에서 AI 팩토리를 구축할 수 있으며, 해당 구성은 뉴타닉스와 엔비디아의 공동 검증을 통해 지원된다.
스티브 맥도웰(Steve McDowell) 낸드 리서치(NAND Research) 수석 애널리스트는 "뉴타닉스의 에이전틱 AI 스택은 엔터프라이즈 AI 프로젝트의 속도를 저해하는 인프라 마찰을 줄인다”며, “최상위 MaaS부터 표준화된 쿠버네티스 배포판 기반 AI 플랫폼, GPU 인식 하이퍼바이저와 DPU 가속 네트워킹까지 각 계층을 통합함으로써 기업은 보다 일관된 AI 스택을 구축할 수 있다”고 밝혔다. 이어, “이를 통해 높은 성능과 보안을 제공하는 AI 팩토리를 구현하며 토큰당 비용을 절감할 수 있다”라고 말했다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
