현재 글로벌 IT 인프라 산업은 거대한 패러다임의 격변기를 맞이하고 있습니다. 인공지능(AI) 서비스 및 대대적인 생성형 AI(Generative AI) 연구의 폭발적 확산으로 전 세계 데이터센터의 최우선 과제는 “AIDC(AI Data Center) 인프라의 신속한 구축과 즉각적인 서비스 전환(Time-to-Market)”이 되었습니다.
하지만 최신 AI 워크로드에 필요한 초고가 GPU 가속기를 어렵게 확보하더라도, 이를 수용할 물리적 데이터센터 공간과 전력, 공조, 냉각 인프라를 확보하는 데만 최소 18개월에서 24개월 이상 소요되는 현상이 비일비재하게 발생합니다. 전통적인 건물형 데이터센터(Traditional Data Center)는 랙당 전력 밀도가 5~10kW 수준에 맞춰져 있어, 랙당 수십kW에서 100kW+를 육박하는 차세대 GPU 기반 컴퓨팅 하중을 공조적으로나 전력 수배전상으로 수용하는 것이 원천적으로 불가능하기 때문입니다.
100억 원대 규모의 AIDC 구축 및 운영 프로젝트를 총괄해 온 IT 인프라·컴퓨터 시스템 아키텍트의 시각에서 단언하건대, 이러한 인프라 병목과 시간적 손실(Time Penalty)을 극복하고 가장 신속하게 실질적인 운영 단계(Service Ready)에 도달할 수 있는 최선의 방안은 바로 MDC(Modular Data Center) / PMDC(Portable Modular Data Center) 솔루션입니다.
본 포스팅에서는 소버린 AI(Sovereign AI)의 당면 과제부터 MDC의 역사와 학술적 정의, 그리고 국내 AIDC의 기술적 표준으로 자리 잡고 있는 엘리스(Elice) AI PMDC 아키텍처까지 명쾌하게 풀어보겠습니다.
1. 소버린 AI(Sovereign AI)의 필수 니즈와 기관들의 당면 과제
최근 퍼블릭 클라우드 기반의 AI 인프라가 급격히 확산되고 있지만, 모든 기관과 기업이 퍼블릭 클라우드를 이용할 수 있는 것은 아닙니다.
- 국방기관 및 군 전술 조직: 망분리 및 극단적인 보안(Air-Gapped) 환경 속에서 자체적인 최전방 및 기지 단위 연산 체계가 필수적입니다.
- 방산기업 및 첨단 제조사: 핵심 무기 체계 도면, 국가 핵심 기술, 지식재산권(IP)의 외부 유출이 엄격히 금지됩니다.
- 금융·의료 및 민감 데이터 운영 기업: 고객의 개인정보, 의료 기록, 금융 거래 내역 등을 외부 가상화 리전에 적재하는 것이 법적·제도률적으로 제한됩니다.
| 소버린 AI(Sovereign AI) 운영의 딜레마 | |
| [퍼블릭 클라우드의 한계] * 데이터 외부 유출 리스크 * 국가 데이터 주권 위배 * 네트워크 단절 시 서비스 불능 | [자체 구축(On-Prem.)의 장벽] * 고밀도 GPU 전력/냉각 인프라 부재 * 데이터센터 신축 시 18~24개월 소요 * 락동 100kW+ 발열 처리 불가 |
이들 기관의 공통된 니즈는 “우리만의 민감한 데이터 자산을 철저히 보호하는 온프레미스(On-Premise) 및 프라이빗 클라우드 환경에서 소버린 AI를 안전하게 구동하는 것”입니다.
그러나 이를 자체 데이터센터로 구축하려 할 때 큰 장벽에 부딪힙니다. 기존 사옥이나 센터는 랙당 5~10kW 중심의 레거시 공공 인프라로 설계되어 있어, 최신 초고성능 GPU 랙을 꽂는 즉시 전력 다운과 발열 스로틀링(Throttling)이 발생합니다. 그렇다고 신규 데이터센터 건물을 짓자니 최소 2년이라는 시간적 지연이 발생하여 AI 기술 경쟁에서 낙오되는 치명적인 딜레마에 빠지게 됩니다.
2. MDC(Modular Data Center)의 개념 및 글로벌 변혁사
(1) MDC / PMDC의 이론적 정의
MDC(모듈러 데이터센터)란 기존의 철근 콘크리트 건축 방식에서 벗어나, 서버 랙(Rack), 고밀도 전력 수배전, UPS, 배터리, 항온항습 및 수랭식 냉각(CDU/칠러), 소방·보안 모듈을 공장에서 사전 제작(Off-site Prefabrication/Prefab) 및 사전 통합(Pre-integration)한 후 규격 컨테이너 및 프리팹 모듈 내에 적재하여 현장에 즉시 배치(Deployable)하는 데이터센터 아키텍처를 의미합니다.
학술적으로 MDC는 단순한 “이동식 박스”가 아니라, ‘표준화(Standardization)’와 ‘공정 병렬화(Parallelization)’를 통해 IT 인프라의 배포 단계를 가속하는 모듈형 패브릭으로 정의됩니다.
(2) 글로벌 시장에서의 MDC 변혁사 (History & Evolution)
MDC의 개념은 글로벌 IT 공룡들의 인프라 효율화 및 전술적 엣지(Edge) 요구사항에서 출발했습니다.
- 초기 단계 (2000년대 후반): Sun Microsystems의 ‘Project Blackbox'(2006), Google의 초기 모듈러 데이터센터(2005~2009년), IBM의 PMDC(Portable Modular Data Center) 라인업은 재난 복구(DR) 및 빠른 스케일아웃을 위한 목적이었습니다.
- 전술적 엣지 및 국방 클라우드 확장 (2010년대): AWS는 미 국방부 JWCC 사업 및 전술 엣지를 위해 AWS Modular Data Center를 선보였고, Microsoft는 Azure Modular Datacenter를 통해 오지에서도 작동하는 자립형 클라우드를 구현했습니다. 방산 테크 기업 Anduril의 Menace-I / Menace-T 역시 전술 현장에 AI 컴퓨팅을 즉시 배치하는 MDC 컨셉을 사용합니다.
- AIDC 시대의 정점 (현재): Omdia(2020)의 시장 리서치 보고서에 따르면 모듈러 데이터센터(PFM) 도입의 핵심 동인은 ‘Time to Market(신속한 시장 진입)’입니다. 기존 건물형 구축에 18~24개월이 소요되던 것을 단 4~6개월(최대 3~4개월)로 단축하는 혁신을 만들어내며, 고전력 GPU 연산 단지의 필수 표준으로 전환되었습니다.
3. 전통적 건축 vs PMDC: 왜 AIDC는 PMDC 형태여야 하는가?
100억 원대 AIDC 구축 사업을 진두지휘하며 입증한 가장 확실한 팩트는, AIDC 인프라 확보에서 가장 무서운 적은 비용보다 ‘시간의 손실’이라는 점입니다.
| AIDC 구축 방식별 비교 (TCO & Time-to-Market) | ||
| 비교 항목 | 전통적 건물형 AIDC | PMDC (Portable Modular DC) |
| <구축 기간> <전력 밀도> <PUE (냉각효율)> <확장 방식> <공정 방식> | 18 ~ 24개월 5 ~ 10kW / Rack PUE 1.5 ~ 1.8 대규모 일시 투자 순차적 (Sequential) | 3 ~ 4개월 (Turnkey 18주) 100kW+ / Rack (DLC 수랭) PUE ~ 1.1 (최저 수준) 단계별 증설 (Step-by-Step) 공정 병렬화 (Parallel) |
GPU를 수급해 두고도 건물이 완공되기를 2년 가까이 기다리는 동안 발생하는 GPU의 가치 하락과 기회비용은 수십~수백억 원에 달합니다.
반면, PMDC는 부지 토목 공사(Site Prep)와 공장 내 컨테이너 제작(Factory Build)을 동시에 병렬로 진행합니다. 부지 내에 전력(수전)만 확보되어 있다면 모듈을 반입하여 플러그 앤 플레이(Plug & Play) 방식으로 결합하므로, 발주부터 서비스 개시까지 단 18주(약 4개월) 내에 AIDC 운영 단계에 돌입할 수 있는 최적의 대안입니다.
4. PMDC 아키텍처 및 핵심 구성 요소 해부 (엘리스 AI PMDC 기준)
국내 시장에서 실운영 검증과 국가 대형 AI 인프라 사업 레퍼런스를 통해 기술적 표준으로 자리잡은 엘리스(Elice) AI PMDC의 아키텍처 사양을 바탕으로, 모듈러 데이터센터의 구성 요소를 구체적으로 해부합니다.
(1) PMDC 4대 핵심 구성 요소
- IT Compute Module: 최신 고성능 IT 랙(Rack) 및 400G/800G 패브릭 스위치(InfiniBand / RoCEv2), GPUDirect Storage(GDS) 병렬 파일 스토리지 탑재.
- Power & UPS Module: 고압 수배전반, Modular UPS 시스템, Lithium-ion 배터리팩(풀로드 시 10~13분 백업), PDU 포함.
- Cooling System (DLC & Chiller): 랙 내부 직접 수랭을 위한 CDU(Coolant Distribution Unit) 모듈, In-Row 공냉 보조 항온항습기, 외부에 배치되는 전용 칠러(Chiller) 연동.
- Security & Operations: 폐쇄망 모니터링, 지능형 누수 감지 센서, N2/소방 설비, 통합 관제(ECI IaaS 연동).
(2) 용량별 PMDC 사양 및 전력 가이드라인 (표준 템플릿)
엘리스 AI PMDC의 표준 가이드라인에 따르면, 가속기 유형과 전력 밀도에 따라 모듈 및 전력 확보 용량이 세분화됩니다.
| 구분 | 240kW 공랭식 PMDC | 480kW 수랭식 PMDC | 640kW 수랭식 PMDC |
| 주요 수용 가속기 | NPU (퓨리오사AI/리벨리온) 800장 또는 NVIDIA H200 192장 | NVIDIA B200 SXM 256장 또는 B300 SXM 256장 | NVIDIA GB300 NVL72 4기 |
| IT 랙 구성 | 6 Racks × 40kW = 240kW | 6 Racks × 80kW = 480kW | 4 Racks × 140kW + 2 Racks × 40kW |
| UPS & 배터리 | 250kW (N+1) Modular UPS Li-ion 32.64kWh × 2 | 250kW (N+1) Modular UPS × 2 Li-ion 32.64kWh × 4 | 250kW (N+1) Modular UPS × 3 Li-ion 32.64kWh × 4 |
| 냉각 시스템 | In-Row Air 60kW × 4 칠러 170kW × 2 | CDU 600kW (N+1 Pumps) + In-Row Air 35kW × 5 칠러 150kW × 5 | CDU 600kW (N+1 Pumps) + In-Row Air 35kW × 5 칠러 150kW × 6 |
| Target PUE | PUE ~ 1.3 | PUE ~ 1.1 (DLC 수랭 기준) | PUE ~ 1.1 (Warm Water DLC) |
| 컨테이너 크기(m) | 단일 컨테이너 (W3.32 × H3.2 × L10.2) | IT 컨테이너 (W3.32 × H3.6 × L9.8) + UPS 컨테이너 (W3.32 × H3.6 × L5.0) | IT + UPS 분리형 규격 모듈 |
- 전력 수전 및 실구축 가이드라인:
- 1MW 수전 용량(22.9kV 고압수배전) 확보 시 공랭식 240kW PMDC 2기 및 160kW PMDC 2기를 포함한 총 4기의 PMDC 클러스터 운용이 가능합니다.
- 6MW 수전 용량 확보 시, 480kW 수랭식 PMDC 9기 및 240kW 공랭식 1기를 통합하여 2,000장 이상의 최신 B200/B300 GPU 대규모 클러스터를 즉시 구동할 수 있습니다.
5. 국방·국가 AI 레퍼런스 및 실운영 신뢰성 검증
MDC 솔루션을 도입할 때 기관 담당자들이 가장 강조하는 질문은 “이 모듈이 과연 가혹한 환경에서도 안정적인 연간 업타임(Uptime)을 보장하는가?”입니다.
엘리스의 PMDC 아키텍처는 2022년 A100 공랭 20kW/Rack 환경부터 시작해 2024년 H100 400G InfiniBand, 2025년 B200 Direct Liquid Cooling(DLC)에 이르기까지 세대별 고밀도 열하중을 실운영에서 검증해 왔습니다.
2022년: A100 (20kW/Rack, Air Cooling, PUE 1.6) │2024년: H100 + 400G InfiniBand (40kW/Rack, Hybrid/DLC, PUE 1.2) │2025년: B200 + 400G RoCEv2/IB (80kW/Rack, Direct Liquid Cooling, PUE 1.1) │2026년: B300 / GB300 NVL72 (230kW/Rack, Warm Water DLC 라인업)
(출처: 엘리스 PMDC)
구조 해석·내진 시험, CFD 냉각 시뮬레이션, 방수·방진, 수랭식 누수 방지 검증, 풀로드 번인(Burn-in) 테스트 등 6종의 사전 신뢰성 검증 절차를 이수하여 연간 99.9% 이상의 업타임을 확보했습니다.
이러한 검증을 바탕으로 부산 산업단지 엣지 AIDC 실증 사업, AICA(인공지능산업융합사업단) 국가 AI 데이터센터 고도화 사업(H100/B200 공급), NIPA 고성능 컴퓨팅 지원 사업, 그리고 2조 원 규모의 국가 대형 GPU 사업에 핵심 인프라로 수주·활용되며 신뢰성을 검증받고 있습니다.
🔚 에필로그: 100억 대 AIDC 현장 경험이 말해주는 최선의 선택
100억 원대 규모의 AIDC 구축 프로젝트 현장을 직접 총괄해 본 아키텍트로서 다시 한번 결론을 내립니다. 소버린 AI 체계를 구축해야 하는 국방, 방산, 공공 및 민감 데이터 기업들이 당면한 가장 큰 숙제는 “어떻게 하면 보안 주권을 지키면서 랙당 100kW+의 초고밀도 GPU 인프라를 가장 빠르게 가동하느냐”입니다.
건물 신축이라는 2년의 기회비용과 위험을 무릅쓰는 대신, “전력·냉각·IT가 통합된 PMDC”를 도입하는 것은 데이터 주권 확보와 즉각적인 AIDC 가동(Time-to-Market)이라는 두 마리 토끼를 모두 잡는 가장 확실하고 검증된 최선의 방안입니다.
공공 및 엔터프라이즈 인프라 기획 담당자라면, 지금이 바로 PMDC 아키텍처를 차세대 데이터센터의 표준 표준으로 검토하고 결단해야 할 골든타임입니다.
- AIDC PMDC 아키텍처 설계 및 수랭식(DLC) 인프라 구축 문의:
- 아이웍스 DI본부 : di@iworks.kr
- 앨리스클라우드 : hyunwook@elicer.com
