글로벌 연구기관과 첨단 기업을 중심으로 HPC(High Performance Computing, 고성능 컴퓨팅) 시뮬레이션과 대규모 AI 모델(LLM) 연구를 통합 수용할 수 있는 융합형 컴퓨팅 인프라 수요가 폭발적으로 증가하고 있습니다.
단순히 “고성능 서버를 랙에 꽂는” 기존 데이터센터 구축 방식은 랙당 40kW~100kW를 넘어서는 초고밀도 전력 및 발열 병목에 가로막혀 한계에 직면했습니다. 특히 2028~2029년 도입을 목표로 하는 차세대 컴퓨팅 인프라는 AMD EPYC CPU 기반의 전통적 FP64 정밀도 연산 자원과 NVIDIA Blackwell(HGX B200 등) 기반의 대규모 GPU 텐서 연산 자원을 유기적으로 엮어내면서, Direct Liquid Cooling(DLC, 직접 수냉식) 인프라를 수용할 수 있는 정교한 엔지니어링 설계를 요구합니다.
본 칼럼에서는 HPC와 AI 인프라의 상이한 아키텍처적 유전자(DNA)를 분석하고, 두 영역을 잇는 고속 네트워킹과 병렬 파일 스토리지(IBM SSS/GPFS), 그리고 액체 냉각 시스템 도입 시 데이터센터 실무진이 반드시 검토해야 할 하드웨어 및 유틸리티 환경 요소를 심층적으로 다룹니다.
1. HPC vs AI 인프라: 닮았지만 다른 아키텍처 정의와 워크로드 수요
HPC와 AI는 ‘초대형 컴퓨팅 파워를 활용한다’는 공통점이 있지만, 처리하는 데이터의 성격과 연산 아키텍처, 소프트웨어 생태계 측면에서 명확한 차이점을 보입니다.
(1) HPC 인프라: 대규모 노드 간 통신과 FP64(double precision) 중심의 연산
- 주요 워크로드: 전산유체역학(CFD), 유한요소분석(FEA), 기상/기후 예측, 양자 화학 연산.
- 핵심 연산 특성: 높은 정밀도의 IEEE 754 표준 FP64(64비트 부동소수점) 연산 성능이 절대적입니다. CPU 노드 클러스터 간의 MPI(Message Passing Interface) 및 노드 내부의 OpenMP 기반 메모리 공유 연산이 주를 이룹니다.
- 인프라 구조적 특징: 노드당 컴퓨팅 파워보다 수천 개 CPU 코어 간의 극도로 짧은 통신 지연시간(Latency)이 중요합니다. 알테이어(Altair PBS Professional), Slurm, Cray LSF와 같은 스케줄러가 코어 affinity와 대규모 병렬 작업 메모리를 실시간으로 제어합니다.
(2) AI 인프라: 대규모 데이터 파이프라인과 저정밀도 텐서 연산의 극대화
- 주요 워크로드: 대형언어모델(LLM) 및 멀티모달 AI의 전처리, 딥러닝 학습, 대규모 추론(Inference).
- 핵심 연산 특성: FP64 정밀도보다는 FP16, BF16, FP8, INT8/INT4 등 저정밀도 단정밀도/텐서 연산에 특화되어 있습니다. 연산 성능의 핵심은 GPU 내부의 Tensor Core이며, GPU 간 대역폭(NVLink/NVSwitch)이 전체 모델 학습 속도를 좌우합니다.
- 인프라 구조적 특징: 대규모 파라미터를 GPU 메모리(HBM)에 적재하고 실시간으로 데이터를 밀어 넣어주는 스토리지 I/O 오프로딩(GPUDirect Storage)과 노드 간 GPU All-to-All 통신이 핵심입니다.
💡 컨설턴트 통찰: 최근 연구 조직은 단일 인프라 내에서 “CFD/FEA 해석을 통해 생성된 대규모 공학 데이터를 기반으로 AI 서레이트 모델(Surrogate Model)을 학습 및 추론하는” AI for Science 워크로드를 전개하고 있습니다. 이것이 2028년 이후의 데이터센터가 CPU Compute Rack과 GPU Compute Rack을 단일 패브릭(Fabric) 공간 내에 혼용 설계해야 하는 본질적인 이유입니다.
3. 고속 인터커넥트와 병렬 파일 스토리지: IBM SSS(GPFS) 중심의 데이터 동합
HPC의 MPI 통신 오버헤드를 줄이고, AI의 GPU Starvation(데이터 공급 부족으로 인한 GPU 유휴 현상)을 방지하기 위해 네트워킹과 스토리지는 코어 아키텍처 수준에서 통합되어야 합니다.
(1) InfiniBand (NDR/XDR) 기반의 초고속 인터커넥트
- In-Network Computing: InfiniBand는 단순 데이터 전송을 넘어 SHARP(Scalable Hierarchical Aggregation and Reduction Protocol) 기술을 통해 네트워크 스위치 단에서 MPI Reduction 연산을 직접 처리합니다. 이는 CPU/GPU의 오버헤드를 획기적으로 줄여줍니다.
- RDMA 및 GPUDirect: RDMA(Remote Direct Memory Access)와 NVIDIA GPUDirect RDMA/Storage 기술을 통해 호스트 CPU와 OS 커널을 거치지 않고, 네트워크 카드(NIC)에서 GPU 메모리(HBM) 또는 스토리지 NVMe로 직접 데이터를 전송합니다.
(2) IBM Storage Scale System (SSS / 구 GPFS): 스케일아웃 병렬 스토리지의 표준
HPC 및 AI 인프라에서 일반적인 Enterprise NAS나 SAN 스토리지는 컨트롤러 노드 병목으로 인해 수십 GB/s 이상의 지속적인 대역폭을 수용할 수 없습니다.
- POSIX 준수 단일 네임스페이스: 수천 개의 컴퓨팅 노드가 단일 파일 시스템 경로로 병렬 읽기/쓰기를 수행합니다.
- Declustered RAID 및 Storage Scale: 드라이브 장애 발생 시 전체 디스크 클러스터가 동시에 데이터 복구(Rebuild)에 참여하여 I/O 성능 저하 없이 단 몇 분 만에 신뢰성을 회복합니다.
- Multi-Protocol 호환성: POSIX, NFS, SMB뿐만 아니라 클라우드 native 환경을 위한 S3 오브젝트 인터페이스, 쿠버네티스 통합을 위한 CSI(Container Storage Interface) 드라이버를 단일 스토리지 풀(Pool)에서 선형적으로 확장(Exabyte 레벨) 제공합니다.
4. 수냉식(DLC) 인프라 도입 시 담당자가 반드시 검토해야 할 물리적/유틸리티 환경 요소
NVIDIA HGX B200 서버는 카드당 전력 소비량이 1kW를 크게 상회하며, 서버 1대당 10kW 이상의 전력을 소모합니다. 랙당 40~100kW에 달하는 고밀도 열하중은 기존 공냉식(CRAC/CRAH) 방식으로는 불가능하며, Direct Liquid Cooling(DLC / Direct-to-Chip) 기술 도입이 필수적입니다.
인프라 담당자가 기술 검토 및 설계 단계에서 반드시 파악해야 할 5가지 핵심 항목은 다음과 같습니다.
(1) 서버 및 랙 차원의 물리적 제약
- Rack 규격 및 중량 하중: DLC 용 CDU(Coolant Distribution Unit), 수냉 래터럴 마니폴드(Manifold) 및 고밀도 전력 PDU 장착으로 인해 표준 19인치 랙보다 폭이 넓은 800mm~1000mm 랙 및 깊이 1200mm~1250mm 이상의 랙이 권장됩니다. 수냉 블록 및 용액 무게로 인해 랙당 중량이 1.5톤~2.0톤에 육박하므로 데이터센터 슬라브의 바닥 하중(Floor Loading Capacity, 최소 1,500kg/m² 이상)을 검토해야 합니다.
(2) 전력 유틸리티 요구사항
- 전압 및 최대 전류: 고밀도 GPU 랙은 3상(3-Phase) 380V/400V 또는 415V 전원이 직접 수용되어야 합니다. 랙당 60kW~80kW IT Load를 기준으로 3상 63A 또는 100A 전용 IEC 커넥터 기반 PDU 및 이중화(N+N) 전원 선로가 배치되어야 합니다.
(3) 수냉 유틸리티 요구사항 (Secondary Loop / Primary Loop)
- CDU (Coolant Distribution Unit) 분리: 데이터센터 메인 냉각수(Primary Loop)와 서버 방열판으로 직결되는 2차 냉각수(Secondary Loop)를 물리적으로 분리하는 인랙(In-Rack) 또는 인로우(In-Row) CDU 배치가 필수적입니다.
- 입·출수 온도 (Supply/Return Temperature): ASHRAE W4/W5 가이드라인에 따라 입수 온도 30°C~35°C 수준의 온수 냉각(Warm Water Cooling)이 가능하므로, Chiller 사용을 최소화하고 Dry Cooler를 활용한 극도의 PUE(1.1 이하) 절감을 목표로 설정해야 합니다.
- 유량(Flow Rate) 및 유체 품질: 서버당 2~4 GPM(Gallons Per Minute) 이상의 정교한 냉각수 유량이 유지되어야 하며, 2차 루프 내 냉각수는 전도성 제어를 위한 탈이온수(Deionized Water) 및 부식 방지제(Inhibitor)가 투입된 정밀 처리수가 사용되어야 합니다.
(4) 데이터센터 안전 및 모니터링 시스템
- 누수 감지 시스템 (Leak Detection): QD(Quick Disconnect) 드라이-브레이크 커넥터 적용과 함께, 서버 하단 및 랙 내부 마니폴드 라인을 따라 지능형 누수 감지 센서 케이블이 배치되어야 하며, 누수 감지 시 자동으로 수출입 밸브를 차단하고 전원을 분리하는 Failsafe 로직이 인터락(Interlock)되어야 합니다.
🔚 에필로그: 미래 확장성을 고려한 통합 인프라 제언
2028~2029년의 차세대 데이터센터 구축 RFI에 대응하기 위해서는 단순히 현재 시점의 단일 서버 스펙을 수집하는 것을 넘어, “CPU-GPU 하이브리드 워크로드를 유연하게 할당하는 병렬 파일 스토리지 아키텍처”와 “랙당 80kW 이상을 안정적으로 받아낼 수 있는 모듈형 DLC 수냉 인프라”가 하모니를 이루어야 합니다.
공공 연구기관 및 엔터프라이즈 R&D 센터는 설계 단계에서부터 모듈형 데이터센터(Containerized / Modular Data Center) 솔루션을 함께 검토하여, 기존 공공 건물 건립의 물리적 공간/전력 한계를 극복하고 상용화된 수냉 인프라를 신속하게 기단화(Deployment)하는 전략적 선택이 필요합니다.
- HPC/AI 하이브리드 아키텍처 및 DLC 수냉 데이터센터 기술 컨설팅 문의: di@iworks.kr
