CPU·AI 가속기·메모리 CXL로 하나처럼 연결…최대 960개 가속기 묶어 데이터센터 전체를 ‘하나의 거대한 컴퓨터’로
KAIST에서 축적된 반도체·컴퓨터 시스템 연구가 교원 창업을 거쳐 글로벌 빅테크 메타(Meta)와의 협력으로 확장되며 차세대 AI 데이터센터(AI DC)의 새로운 설계 방향을 제시했다. CPU·AI 가속기·메모리를 하나로 묶어 데이터센터 전체가 마치 ‘하나의 거대한 칩’처럼 움직이도록 하는 구조다.
KAIST(총장 배충식)는 전기및전자공학부 정명수 교수와 교원창업기업인 팹리스(fabless, 반도체 설계 전문기업) 파네시아 연구진이 메타 연구진과 함께 차세대 AI 데이터센터 구조를 제시한 리뷰 논문을 네이처(Nature)가 발행하는 국제 학술지 ‘네이처 리뷰 일렉트리컬 엔지니어링(Nature Reviews Electrical Engineering, NREE)’에 게재했다고 9월 9일 밝혔다.
이번 성과는 KAIST에서 시작된 연구가 교원 창업을 통해 실제 반도체 기술로 발전하고, 글로벌 기업과의 공동 연구로 이어져 미래 AI 데이터센터의 기술 방향을 제시했다는 데 의미가 있다고 KAIST 측은 전했다. 연구-창업-산업-글로벌 협력으로 이어지는 KAIST 연구·창업 생태계를 보여주는 사례라는 것이다.
특히 배충식 KAIST 총장이 추진하는 5대 혁신 전략 가운데 연구성과를 산업과 창업으로 연결하는 ‘Beyond Laboratory’와 글로벌 협력을 확대하는 ‘Beyond KAIST-Global Connect’의 방향과도 맞닿아 있다는 설명이다.
배충식 KAIST 총장은 “KAIST의 연구성과가 창업을 통해 산업으로 이어지고, 다시 세계적인 기업과의 협력으로 확장돼 미래 기술의 방향을 제시한 의미 있는 사례”라며, “KAIST는 연구와 창업, 산업과 세계를 연결해 우리 기술이 글로벌 혁신의 새로운 기준을 만들어갈 수 있도록 지원하겠다”고 말했다.
최근 생성형 AI와 초거대 AI가 발전하면서 AI 연산에 수백~수천 개의 가속기(AI의 대규모 계산을 빠르게 처리하는 반도체)를 동시에 사용하는 시대가 되고 있다.
하지만 가속기를 많이 연결한다고 무조건 빨라지는 것은 아니다. 여러 사람이 한 줄로 물건을 전달할 때 한 사람만 늦어도 전체 작업이 밀리는 것처럼, 일부 가속기의 데이터 전달이 늦어지면 전체 AI 연산도 느려질 수 있다. 따라서 개별 반도체의 성능뿐 아니라 수많은 가속기와 메모리를 얼마나 빠르고 효율적으로 연결하느냐가 중요하다는 것이다.
KAIST 정명수 교수와 파네시아·메타 연구진은 이를 해결하기 위해 CXL(Compute Express Link, CPU·가속기·메모리를 빠르게 연결하고 자원을 공유하는 국제표준 기술)을 활용해 CPU와 AI 가속기, 메모리를 하나로 묶고 이를 데이터센터 전체로 확장하는 구조를 제시했다.
기존 데이터센터가 여러 컴퓨터가 네트워크를 통해 협업하는 방식이라면, 이번 구조는 서버 간 경계를 낮춰 CPU·가속기·메모리를 긴밀하게 연결한다. 데이터센터 전체를 ‘하나의 거대한 컴퓨터’처럼 움직이게 하는 것?이 핵심이다.
현재 엔비디아의 NVLink나 UALink 등도 여러 가속기를 빠르게 연결하지만 주로 랙(rack, 여러 서버와 장비를 층층이 설치하는 구조) 내부 연결에 초점을 둔다. 반면 이번 구조는 가속기뿐 아니라 CPU와 메모리까지 CXL로 연결하고 그 범위를 데이터센터 전체로 확대한다.
연구진이 제시한 구조에서는 하나의 연결 영역에 최대 960개의 가속기를 연결할 수 있다. 연구진에 따르면 현행 NVLink 기반 랙보다 약 13배 큰 규모다.
데이터 이동 시간도 기존 네트워크 기반 구조의 마이크로초(μs, 100만분의 1초) 수준에서 수백 나노초(ns, 10억분의 1초) 수준으로 줄일 수 있다. AI 데이터센터에서는 이러한 작은 지연도 반복되면 전체 성능에 큰 영향을 미친다.
운영도 유연해질 수 있다. CPU·가속기·메모리를 각각의 자원처럼 연결해 문제가 생긴 부품만 교체하거나, 남는 연산·메모리 자원을 필요한 곳에 활용할 수 있기 때문이다.
결국 이번 연구는 AI 데이터센터의 기본 단위를 ‘서버’에서 ‘데이터센터 전체’로 확장하는 설계 방향?을 제시한 것이다. 수많은 컴퓨터의 집합에서 한발 더 나아가 데이터센터 자체가 하나의 거대한 컴퓨터처럼 작동하도록 하는 개념이라고 학교 측은 전했다.
이번 연구가 게재된 NREE의 리뷰 논문(review article, 특정 분야의 주요 연구와 기술을 종합적으로 분석하고 발전 방향을 제시하는 논문)은 학술지 측이 해당 분야 전문가에게 직접 집필을 요청하는 초청 방식으로 기획된다.
이번 논문에서 KAIST 정명수 교수와 파네시아 연구진은 메타의 데이터센터 인프라 연구진과 함께 CXL 기술의 발전 현황을 분석하고 차세대 AI 데이터센터의 설계 방향을 제시했다.
정 교수 연구진은 KAIST에서 CXL 기반 컴퓨터 시스템과 반도체 기술을 지속적으로 연구해 왔으며, 창업 이후에는 관련 핵심 기술을 실제 반도체 칩으로 제작해 작동을 검증하는 등 연구성과의 실용화를 이어가고 있다.
정명수 KAIST 전기및전자공학부 교수 겸 파네시아 대표는 “AI가 거대해질수록 개별 가속기의 성능만큼 수많은 가속기와 메모리를 얼마나 빠르고 효율적으로 연결하느냐가 중요하다”며 “이번 연구는 CXL을 기반으로 데이터센터 전체를 하나의 컴퓨팅 시스템처럼 동작시키는 차세대 AI 인프라의 방향을 제시했다는 데 의미가 있다”고 말했다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
