AI 팩토리 확산으로 숙련 인력 수요 확대…글로벌 AI 인프라 투자 본격화
엔비디아가 에너지에서 칩, 인프라, 모델, 애플리케이션으로 이어지는 AI 스택을 ‘5단 케이크’로 정의하고, AI가 현대 사회를 지탱하는 핵심 인프라로 자리매김하고 있다고 강조했다.

AI는 5단으로 완성된 케이크와 같다
엔비디아는 AI는 오늘날 세상을 형성하는 가장 강력한 힘 중 하나라며, AI는 기발한 애플리케이션이나 단일 모델이 아니라 전기와 인터넷처럼 사회를 지탱하는 필수 인프라라고 설명했다.
AI는 실제 하드웨어와 에너지, 그리고 경제적 구조 위에서 작동한다. 원자재와 에너지를 투입해 이를 대규모 지능으로 전환하는 산업적 시스템이라는 것이다. 이에 따라 모든 기업이 AI를 활용하게 되고, 모든 국가가 AI 인프라를 구축하게 될 것으로 전망했다.
이러한 변화를 이해하기 위해서는 컴퓨팅 분야에서 무엇이 근본적으로 바뀌고 있는지를 살펴볼 필요가 있다고 업체 측은 전했다.
사전 기록된 소프트웨어에서 실시간 지능으로
컴퓨팅 역사 대부분의 기간 동안 소프트웨어는 ‘사전에 기록된(pre-recorded)’ 형태였다. 인간이 알고리즘을 정의하면 컴퓨터는 이를 그대로 실행했다. 데이터는 정교하게 구조화돼 테이블에 저장되고, 정확한 쿼리를 통해 검색됐다. SQL(Structured Query Language)은 이러한 구조를 가능하게 하는 핵심 도구였다.
그러나 AI는 이러한 기존 모델을 근본적으로 넘어선다. 이제 컴퓨팅은 비정형 정보를 이해할 수 있는 단계에 도달했다. AI는 이미지를 보고, 텍스트를 읽으며, 소리를 듣고 그 의미를 이해할 수 있다. 나아가 맥락과 의도를 추론하고, 실시간으로 새로운 지능을 생성한다.
모든 응답은 새롭게 생성되며, 모든 답변은 사용자가 제공하는 맥락에 따라 달라진다. 이는 저장된 명령어를 불러오는 소프트웨어가 아닌, 필요에 따라 추론하고 지능을 생성하는 소프트웨어다. 지능이 실시간으로 생성되면서 이를 뒷받침하는 전체 컴퓨팅 스택 역시 재설계 되고 있다고 엔비디아는 전했다.
인프라로서의 AI
엔비디아는 AI를 산업적 관점에서 바라보면, 이는 다섯 개의 레이어로 구성된 스택 구조로 정리된다고 밝혔다.
가장 기반에는 에너지가 있다. 실시간으로 생성되는 지능은 실시간으로 공급되는 전력을 필요로 한다. 생성되는 모든 토큰은 전자의 이동, 열 관리, 그리고 에너지가 연산으로 전환되는 과정을 통해 만들어진 결과물이다. 그 아래에는 더 이상 추상화 레이어가 존재하지 않는다. 에너지는 AI 인프라의 제1원칙이자, 시스템이 생산할 수 있는 지능의 총량을 결정하는 근본적인 제약 조건이다.
에너지 위에는 칩이 있다. 칩은 대규모 연산을 통해 에너지를 효율적으로 전환하도록 설계된 프로세서다. AI 워크로드는 막대한 병렬 처리 능력, 고대역폭 메모리, 고속 상호 연결을 요구한다. 칩 레이어에서의 기술의 발전은 AI 확장 속도와 지능의 경제성을 결정한다.
칩 위에는 인프라가 있다. 여기에는 토지, 전력 공급, 냉각, 건설, 네트워킹, 그리고 수만 개의 프로세서를 하나의 기계로 조율하는 시스템이 포함된다. 이러한 시스템이 바로 AI 팩토리다. 이는 정보를 저장하기 위해 설계된 것이 아니라, 지능을 생산하도록 설계된 시설이다.
인프라 위에는 모델이 있다. AI 모델은 언어, 생물학, 화학, 물리학, 금융, 의학, 물리적 세계 등 다양한 종류의 정보를 이해한다. 언어 모델은 그중 하나의 범주에 불과하다. 특히 단백질 AI, 화학 AI, 물리 시뮬레이션, 로보틱스, 자율 시스템 분야에서 혁신적인 진전이 이어지고 있다.
최상단에는 경제적 가치를 창출하는 애플리케이션이 위치한다. 대표적인 사례로 신약 개발 플랫폼, 산업용 로보틱스, 법률 코파일럿, 자율주행 차량 등이 있다. 자율주행 차량은 기계에 구현된 AI 애플리케이션이며, 휴머노이드 로봇은 신체에 구현된 AI 애플리케이션이다. 이처럼 동일한 스택 위에서 작동하지만, 구현 형태에 따라 결과는 달라진다.
엔비디아는 이러한 구조를 에너지, 칩, 인프라, 모델, 애플리케이션으로 이어지는 ‘AI 5단 케이크’로 설명했다. 성공적인 애플리케이션은 그 아래 모든 레이어에 영향을 미치며, 이를 유지하는 발전소까지 긴밀하게 연결돼 있다.

AI 팩토리 확산과 인프라 투자
이러한 인프라 구축은 아직 초기 단계에 있다. 현재까지 수천억 달러 규모의 투자가 이루어졌지만, 앞으로 수조 달러 규모의 인프라가 추가로 구축돼야 한다. 전 세계적으로 반도체 공장과 컴퓨터 조립 공장, AI 팩토리가 건설되고 있으며 이는 인류 역사상 가장 큰 규모의 인프라 구축 사업 중 하나로 평가된다는 설명이다.
이러한 구축을 지원하기 위해서는 대규모 인력도 필요하다. AI 팩토리는 전기 기술자, 배관공, 배관 용접공, 철강 노동자, 네트워크 기술자 등 다양한 설치, 운영 인력을 필요로 한다. 이들 직무는 숙련된 고임금 일자리지만 현재 공급이 부족한 상황이다. 이 거대한 변화에 참여하기 위해 반드시 컴퓨터공학 박사 학위가 필요한 것은 아니라는 점도 강조됐다.
동시에 AI는 지식 경제 전반의 생산성을 주도하고 있다. 예를 들어 방사선학 분야에서는 AI가 의료 영상 판독을 보조하고 있지만 방사선 전문의 수요는 여전히 증가하고 있다.방사선 전문의의 본질적인 역할은 환자를 돌보는 것이다. 영상 판독은 그 과정 중 하나의 업무일 뿐이다.
AI가 반복적이고 일상적인 업무를 더 많이 수행하게 되면, 전문의는 판단과 소통, 환자 치료에 더욱 집중할 수 있다. 그 결과 병원의 생산성이 높아지고 더 많은 환자를 치료할 수 있으며 더 많은 인력을 고용하게 된다. 생산성 향상은 새로운 수요를 만들고 이는 다시 성장으로 이어진다.
AI 인프라 전환 본격화
지난 1년 동안 AI는 중요한 전환점을 넘어섰다. 모델 성능은 대규모로 활용 가능한 수준에 도달했다. 추론 능력은 향상되고, 환각(hallucination) 현상은 줄어들었으며, 그라운딩(grounding) 성능은 획기적으로 발전했다. 그 결과 AI 기반 애플리케이션이 처음으로 의미 있는 경제적 가치를 창출하기 시작했다.
그 결과 신약 개발과 물류, 고객 서비스, 소프트웨어 개발, 제조 등 다양한 분야에서 AI 기반 애플리케이션이 실제 경제적 가치를 창출하기 시작했다.
오픈소스 모델은 이 과정에서 핵심적인 역할을 한다. 전 세계 대부분의 모델은 무료로 공개돼 있으며, 연구자, 스타트업, 기업, 나아가 국가 단위까지 오픈 모델을 기반으로 첨단 AI 경쟁에 참여하고 있다. 오픈 모델이 최첨단 성능에 도달하면, 이는 단순한 소프트웨어 변화를 넘어 전체 스택에 걸친 수요를 활성화한다.
딥시크-R1(DeepSeek-R1)은 이를 강력히 입증한 대표적인 사례다. 강력한 추론 모델을 광범위하게 공개함으로써 애플리케이션 도입이 가속화됐고, 동시에 훈련, 인프라, 칩, 에너지에 대한 수요도 함께 증가했다.
AI 인프라 전환의 의미
엔비디아는 AI를 필수 인프라로 바라보면 그 의미가 분명해진다고 밝혔다.
AI는 트랜스포머 기반 거대 언어 모델(large language model, LLM)에서 시작됐지만, 그에 국한되지 않는다. AI는 에너지의 생산과 소비 방식, 공장 건설, 업무 조직, 경제 성장의 구조까지 재편하는 산업적 전환이다.
지능이 실시간으로 생성되며 AI 팩토리가 건설되고 있다. 그리고 효율성이 지능의 확장 속도를 결정하면서 칩 설계 역시 재정의되고 있다. 에너지는 시스템이 생산할 수 있는 지능의 상한을 결정하는 핵심 자원이 되고 있다. 아울러 모델이 대규모로 실질적인 활용이 가능한 임계점을 넘어서면서 애플리케이션이 역시 가속화되고 있다.
모든 레이어는 서로를 강화한다. 이것이 인프라 구축 규모가 거대한 이유이자, 동시에 수많은 산업에 영향을 미치는 이유다. 이러한 변화는 특정 국가나 단일 산업 분야에 국한되지 않는다. 모든 기업이 AI를 활용하게 될 것이며, 모든 국가가 이를 구축하게 될 것이라는 것이다.
엔비디아는 AI 전환이 아직 초기 단계에 있으며 대부분의 인프라는 아직 구축되지 않았다고 설명했다. 동시에 AI 인프라를 구축할 인력과 기술, 그리고 실현되지 않은 기회 역시 여전히 방대한 상태라고 강조했다.
그러나 방향은 분명하다. AI는 현대 사회의 핵심 인프라로 자리 잡고 있으며 앞으로 어떤 속도로 구축하고 얼마나 폭넓게 참여할지에 대한 선택이 미래 산업 구조를 결정하게 될 것이라고 밝혔다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>















