마이크론 양산 공급·삼성 차세대 CXL 공동개발…메모리 한계 넘어 GPU 활용률 극대화
프라임마스(Primemas)가 AI 인프라의 최대 병목으로 지목돼온 '메모리 용량 한계'를 해결하기 위해 수십에서 수백 테라바이트(TB)급 메모리 확장 솔루션 'JBOM(Just a Bunch of Memory)'을 올해 하반기부터 양산 공급한다고 밝혔다. 또한, 삼성전자와는 차세대 메모리 솔루션을 공동 개발하며 글로벌 메모리 생태계 진입에 속도를 내고 있다.
업체 측에 따르면, JBOM은 CXL(Compute Express Link) 기반으로 대용량 메모리 모듈을 다수 묶어, 서버 메모리를 수백 TB 규모의 메모리 풀로 확장하는 솔루션이다. 2~4TB 수준인 CPU의 D램 용량 한계를 CPU 서버당 수백 TB 이상 메모리 풀로 확대할 수 있다. 프라임마스는 올해 40TB에서 최대 120TB급 JBOM 솔루션을 공급하고, 내년에는 240TB 이상으로 확장하는 로드맵을 추진하고 있다.
메모리 용량의 한계는 곧 GPU의 활용률 저하로 이어진다. 현재 AI 데이터센터의 가장 큰 비효율은 값비싼 GPU가 충분히 활용되지 못하는 데서 발생하는데, 업계에서는 그 원인으로 메모리 병목을 주요하게 거론해 왔다. 연산 성능에 비해 메모리 용량이 부족하면 GPU는 유휴 상태에 빠진다. 메모리 용량을 충분히 확보해야 GPU 활용률이 비로소 올라가는 구조다.
이 같은 메모리 확장의 효과는 지난해 말 발표된 알리바바의 '벨루가(Beluga)' 연구에서도 확인된다. 연구에 따르면 8TB급 CXL 메모리 확장 환경에서 추론 엔진(vLLM)의 처리량이 기존 대비 7.35배 향상됐다. 이는 메모리 용량과 접근 방식이 AI 성능을 좌우하는 핵심 변수임을 보여준다고 업체 측은 전했다.
프라임마스 전덕호 기술전략 담당 상무는 "GPU를 더 추가하는 방식만으로는 한계가 명확하다"며 "결국 메모리 병목을 어떻게 푸느냐가 AI 성능 경쟁의 핵심이 될 것"이라고 설명했다. 이는 단순한 용량 경쟁을 넘어, 연산 중심 구조에서 메모리 중심 구조로 AI 아키텍처 설계의 무게중심을 옮기는 전환점으로 평가할 수 있다는 설명이다.
프라임마스의 기술력은 글로벌 메모리 업계에서 빠르게 인정받고 있다. 마이크론과는 양산 공급으로, 삼성전자와는 차세대 CXL 메모리 솔루션을 공동 개발하고 있다. CXL은 메모리를 확장·공유하는 차세대 인터커넥트 기술로, 다수의 메모리 카드를 묶어 JBOM 같은 초대용량 메모리 풀을 구성하는 기반이 된다. 양산 공급과 공동 개발이라는 두 축의 협력을 통해 프라임마스는 메모리 중심 컴퓨팅 분야에서 입지를 넓히고 있다는 것이다.
아울러 프라임마스는 미국 실리콘밸리에 본사를 두면서 높은 수준의 법적·컴플라이언스 요건을 충족하고, 글로벌 비즈니스 환경에서 신뢰를 확보하기 위한 전략을 펼치고 있다. 이를 바탕으로 미국 정부기관이 추진하는 AI 데이터센터 실증 사업에 참여하는 한편, 마이크로소프트 등 글로벌 데이터센터 운영사들과도 협업을 확대하며 AI 인프라 분야에서 존재감을 키우고 있다고 전했다.
전덕호 상무는 "기술은 한국에서 만들어지고 시장은 글로벌에서 검증받는 구조가 점점 일반화되고 있다"며, "이번 양산 공급을 발판으로 메모리 중심 컴퓨팅 시대를 앞당기고, 그 성과가 국내 반도체 생태계의 경쟁력으로 이어지도록 하겠다"고 밝혔다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
