지코어, AI/ML 추론 가속화하는 서비스형 인프라 ‘엣지 AI’ 발표
2023-11-22
박종서 기자, paper@elec4.co.kr
엣지 AI, AI/ML 가속화하는 고성능의 ‘서비스형 AI 인프라’ 구축 지원
지코어(Gcore)는 AI/ML 추론을 가속화하는 서비스형 AI 인프라스트럭처(AI Infrastructure as a service)인 ‘엣지 AI(Edge AI)‘를 발표하고, 강력한 AI 인프라 구축에 나서고 있는 신규 고객 확보에 나선다고 밝혔다.
지코어의 ‘엣지 AI’는 온프레미스 하드웨어를 배포하거나 AI 인프라를 처음부터 구축할 필요 없이 온디맨드 방식으로 최첨단 머신 인텔리전스 컴퓨팅을 손쉽게 추가할 수 있는 서비스형 AI 인프라스트럭처(AI Infrastructure as a service)로서, 필요에 따라 비용 효율적으로 손쉽게 대규모 컴퓨팅으로 원활하게 확장할 수 있다. 특히 지코어의 엣지 AI는 통합 UI 및 API를 활용하여, AI/ML 추론을 가속화하는 인프라를 구축할 수 있도록 엔비디아(NVIDIA) GPU, 그래프코어(Graphcore) IPU 및 암페어CPU를 동시에 제공하는 유일한 CSP이다.
고객은 지코어의 엣지AI를 활용하여 기업들에게 개념 증명 구축에서 교육 및 배치에 이르기까지 AI 도입 과정의 모든 단계를 원활히 진행할 수 있다. 엣지 AI를 사용하면 모델 또는 사용자 지정 코드 학습을 쉽게 훈련하고 비교할 수 있으며, 모든 모델은 하나의 중앙 저장소에 저장한다. 이후 개발된 모델을 지코어 엣지 AI 인프라의 동일한 엔드포인트에 배포할 수 있다.
특히 Iot, 자율주행 자동차, 스마트 팩토리 등과 같이 현장과 AI컴퓨팅의 상호작용이 중요한 사용처에서는 대량의 센서 데이터나 영상정보가 빠르게 데이터센터에 전송되어야 하며, 신속한 피드백 처리가 필요하다. 이때 지코어의 저지연 글로벌 네트웍과 엣지 데이터센터에 위치한 AI플랫폼은 지금까지 생각하지 못했던 방식으로 서비스 아키텍처를 개선할 수 있다. 이런 구성을 위해서는 사물 현장과의 보장된 확장에 필수인데 지코어는 5G eSIM 서비스를 통해 전 세계에 특화망을 제공하고 있다. 즉 지코어의 엣지AI는 현장의 연결을 위한 5G특화망, 광범위한 엣지AI 컴퓨팅 인프라, 그리고 그들을 빠르고 안정적으로 연결해주는 엣지 네트워크로 완성이 된다.
지코어코리아는 현재 리소스 집약적인 컴퓨팅 작업을 위한 CPU 인 '엔비디아 H100' 기반 퍼블릭 및 프라이빗 클라우드 서비스를 즉시 제공할 수 있는 국내에서 유일한 CSP(클라우드 서비스 제공기업)로서, AI 기반 서비스 및 클라우드 리전을 설립하는 등 안정적인 인프라 서비스를 위한 AI 기술 적용 분야 리더로서 자리매김 하는데 주력하고 있다.
<저작권자©스마트앤컴퍼니. 무단전재-재배포금지>