미루웨어, AI 가속 위한 기가바이트 AMD MI300X 서버 발표

2024-07-08
신윤오 기자, yoshin@elec4.co.kr

AI, HPC 컴퓨팅 전문기업, 미루웨어(대표 이정훈)는 AMD의 새로운 AI 가속 GPU인 MI300X가 탑재된 기가바이트 G593-ZX1 5U MI300X OAM을 출시한다고 밝혔다.

미루웨어를 통해 국내에 공급되는 기가바이트G593-ZX1 5U MI300X OAM은 AMD EPYC 9004 프로세서를 바탕으로 하는 5U 사이즈의 서버로, 업계 표준 베이스보드 규격인UBB 2.0을 기반으로 최대 8개의 AMD Instinct MI300X를 장착할 수 있도록 설계되었다.



이를 통해 복잡한 연산을 필요로 하는 환경에서 최대 1.3PetaFLOPs의 성능을 보여줄 뿐만 아니라 최대 1.5TB 용량의 HBM3 메모리를 통해 병목현상 없이 빠르게 빅데이터를 분석이 가능하다.

이러한 기가바이트 G593-ZX1 5U MI300X OAM은 생성형 AI 및 머신러닝 트레이닝을 위한 광범위한 데이터 분석에 있어 밀도 높은 성능과 대용량을 메모리를 바탕으로 기업이 요구하는 워크로드를 효율적으로 처리할 수 있도록 설계되었다.

기가바이트 G593-ZX1 5U MI300X OAM에 탑재된 AMD Instinct MI300X는 PCIe 5.0 인터페이스를 바탕으로 하는 OAM 모듈 기반의 가속기로 양방향 128GB/s 속도의 기반의 링크를 통해 각 GPU를 연결하는 AMD 인피니티 패브릭 메시 기술로 연결되어 GPU간 초고속의 데이터 전송으로 빠르게 데이터를 처리하게 된다.

이렇게 8개의 GPU가 상호 연결되는 고속의 GPU 인터커넥트를 통해 대용량의 데이터 및 빅데이터 처리가 용이할 뿐만 아니라 각각의 MI300X가 가진 192GB HBM3 메모리는 최대 1.5TB 용량으로 메모리가 구성되어 생성형 AI, 머신러닝 트레이닝을 통해 빠르게 모델화가 용이하다.

AMD는 ROCm 6 오픈 소프트웨어 플랫폼을 통해 하드웨어 가속을 위한 다양한 지원을 지속적으로 제공하고 있으며, AI 및 ML 프레임워크인 PyTorch, TensorFlow, ONYX-RT, Trition 및 JAX에 대한 지원도 하고 있다.

또한 개발자 허브를 통해 HPC 애플리케이션 및 프레임워크를 위한 가이드 및 GPU 소프트웨어 컨테이너에 대한 지원도 이루어지고 있다. 이를 통해 생성형 AI 분야에서 뿐만 아니라 천체물리학, 기후 및 기상, 유체 역학, 지구 과학 및 물리학, 분자 역학 분야에서 요구되는 데이터 처리 또한 용이하게 운용이 가능하다. 

미루웨어는 GPU, CPU 가속 기반의 H/W, S/W를 제공하는 IT 기업으로 연구 및 개발 분야에 요구되는 IT 솔루션을 공급하고 있다. HPC 기반의 CUDA 기술 지원 및 솔루션을 공급하고 있을 뿐만 아니라 LLM, 딥러닝 개발 솔루션, K8s(Kubernetes), Slurm 기반의 MLOps 시스템 자원 관리 등 데이터센터 인프라 환경 구축에 관련된 전반적인 시스템을 공급하고 있다.

미루웨어 이정훈 대표는 “AMD Instinct MI300X 플랫폼 포함하는 기가바이트 G593-ZX1 모델은 기업이나 고객사라 바로 운용이 가능한 표준 규격 기반의 제품일 뿐만 아니라 기존 AI 및 서버 인프라에 추가하여 회사 개발 솔루션의 개발 기간과 모델화를 단축시킬 수 있는 제품으로 시간과 개발 비용 절감 시킬 수 있다. 또한 강력한 패시브 냉각 솔루션 구축도 가능한 모델이다”라고 밝혔다.
 

<저작권자©스마트앤컴퍼니. 무단전재-재배포금지>


100자평 쓰기

관련 기사

오피니언
2023 및 2024 베스트 제품
스타트업이 뜬다
기술 리포트가 뜬다