AIDC·인프라 용어사전
Glossary
AIDC·인프라 용어사전
DC SQUARE 기사에 자주 나오는 데이터센터·AI 인프라 용어를 실무 관점에서 짧게 정리했습니다. 각 용어에는 고유 주소가 있어 사내 공유나 기사 인용에 그대로 쓰실 수 있습니다. (예: dcsquare.net/glossary/#pue)
검색 결과가 없습니다. 추가되었으면 하는 용어는 제보·문의로 알려 주세요.
⚡ 전력·냉각 10
- PUEPower Usage Effectiveness · 전력 사용 효율
- 데이터센터 전체 전력을 IT 장비 전력으로 나눈 값입니다. 1.0에 가까울수록 냉각·전력 손실이 적은 효율적인 센터입니다. 1.5라면 IT 장비 1kW당 0.5kW가 냉각·조명·변환 손실로 쓰인다는 뜻입니다.
관련 글: 데이터센터의 친환경 성적표 PUE → - WUEWater Usage Effectiveness · 물 사용 효율
- 연간 데이터센터 용수 사용량(L)을 IT 장비 전력량(kWh)으로 나눈 값입니다. 수랭·증발식 냉각이 늘면서 PUE와 함께 보는 지표가 되었습니다.
- 랙 전력 밀도Rack Power Density · kW/랙
- 랙 하나가 쓰는 전력입니다. 일반 기업 전산실은 한 자릿수 kW가 대부분이지만, 최신 GPU 랙은 100kW를 넘습니다. 냉각 방식과 전기 설비 선택을 좌우하는 가장 기본적인 숫자입니다.
- UPSUninterruptible Power Supply · 무정전 전원 장치
- 정전이나 전압 변동이 생겨도 배터리로 전력을 끊김 없이 공급하는 장치입니다. 발전기가 가동될 때까지의 공백을 메웁니다. AI 랙의 급격한 부하 변동을 견디는 능력이 새로운 선정 기준이 되고 있습니다.
- PDUPower Distribution Unit · 전력 분배 장치
- 랙 안의 서버와 장비에 전원을 나눠 주는 장치입니다. 고밀도 랙에서는 3상 고용량 PDU와 IEC 60309 같은 산업용 커넥터가 쓰입니다.
관련 글: IEC60309 리셉터클 가이드 → - DLCDirect Liquid Cooling · 직접 액체 냉각
- CPU·GPU 위에 냉각판(콜드 플레이트)을 붙이고 그 안으로 냉각수를 흘려 열을 직접 빼내는 방식입니다. 공기로 식히기 어려운 고밀도 GPU 서버의 표준 냉각 방식이 되어 가고 있습니다.
관련 글: HPC와 AI 워크로드의 융합, DLC 도입 전략 → - 액침 냉각Immersion Cooling
- 서버 전체를 전기가 통하지 않는 특수 냉각액에 담가 식히는 방식입니다. 냉각 효율이 높고 팬 소음이 없지만, 장비 호환성과 유지보수 절차를 새로 갖춰야 합니다.
- CDUCoolant Distribution Unit · 냉각수 분배 장치
- 건물 냉각수와 서버 쪽 냉각 루프 사이에서 열을 교환하고 유량·온도·압력을 조절하는 장치입니다. 액체 냉각을 도입할 때 반드시 함께 설계해야 하는 핵심 설비입니다.
- RDHxRear Door Heat Exchanger · 후면 도어 열교환기
- 랙 뒷문에 냉각수가 흐르는 열교환 코일을 달아 서버가 내뿜는 뜨거운 공기를 바로 식히는 방식입니다. 기존 공랭 서버를 그대로 쓰면서 랙 밀도를 높일 수 있어, 기존 전산실의 중간 단계 해법으로 쓰입니다.
- 비하인드 더 미터Behind-the-Meter · BTM
- 전력망(계통)을 거치지 않고 발전소나 자가 발전 설비에서 데이터센터로 전기를 직접 공급하는 방식입니다. 계통 연결 대기 시간을 줄일 수 있어 대형 AI 데이터센터 입지 전략으로 주목받고 있습니다.
🧠 컴퓨팅 6
- GPUGraphics Processing Unit
- 수천 개의 연산 코어로 대량의 계산을 동시에 처리하는 프로세서입니다. AI 학습과 추론의 핵심 연산 장치로, GPU를 고를 때는 함께 쓸 CPU·메모리·네트워크까지 같이 설계해야 합니다.
관련 글: GPU-CPU 페어링 가이드 → - NPUNeural Processing Unit · 신경망 처리 장치
- AI 연산, 특히 추론에 특화해 설계한 전용 반도체입니다. 국내에서는 퓨리오사AI, 리벨리온 등이 데이터센터용 NPU를 개발하고 있습니다.
관련 글: 엔비디아와 리벨리온, NPU 조달 전략 → - HBMHigh Bandwidth Memory · 고대역폭 메모리
- 메모리 칩을 수직으로 쌓아 GPU 바로 옆에 붙인 초고속 메모리입니다. AI 가속기의 성능과 가격을 좌우하며, 공급 부족이 GPU 수급에 직접 영향을 줍니다.
- NVLinkNVIDIA NVLink
- NVIDIA GPU끼리 서버 안이나 랙 단위로 초고속으로 연결하는 전용 인터커넥트입니다. 여러 GPU를 하나의 큰 가속기처럼 묶어 쓰는 데 쓰입니다.
- CXLCompute Express Link
- CPU와 메모리, 가속기를 PCIe 기반으로 연결해 메모리를 확장하거나 여러 서버가 나눠 쓰게 하는 개방형 표준입니다. 메모리 비용 부담을 줄이는 기술로 주목받습니다.
- 추론Inference
- 학습이 끝난 AI 모델로 실제 질문에 답하거나 결과를 만들어 내는 단계입니다. 학습보다 장비당 부하는 낮지만 서비스 기간 내내 계속 돌아가므로, 장기적으로는 추론 인프라 비용이 더 커질 수 있습니다.
관련 글: 학습 대신 추론을 정조준한 AI 서버 →
💾 스토리지·데이터 4
- 병렬 파일 시스템Parallel File System · IBM Storage Scale(GPFS) 등
- 여러 스토리지 서버에 데이터를 나눠 저장하고 동시에 읽고 쓰게 해, 수많은 GPU·계산 노드에 데이터를 빠르게 공급하는 파일 시스템입니다. HPC와 대규모 AI 학습 환경의 기본 구성 요소입니다.
관련 글: IBM Storage Scale(GPFS) 전략 가이드 → - GPUDirect StorageGDS
- 스토리지의 데이터를 CPU 메모리를 거치지 않고 GPU 메모리로 바로 보내는 NVIDIA 기술입니다. 데이터 이동 병목을 줄여 GPU가 기다리는 시간을 줄입니다.
- NVMe-oFNVMe over Fabrics
- 초고속 NVMe 저장장치를 네트워크 너머에서도 로컬 디스크에 가까운 속도로 쓰게 하는 프로토콜입니다. 이더넷, InfiniBand, 파이버채널 위에서 동작합니다.
- LTO·데이터 계층화Linear Tape-Open · Data Tiering
- 자주 쓰는 데이터는 빠른 플래시에, 오래된 데이터는 저렴한 디스크나 테이프(LTO)로 옮겨 비용을 최적화하는 방식입니다. AI 학습 데이터가 폭증하면서 테이프의 경제성이 다시 주목받고 있습니다.
관련 글: 데이터 계층화와 LTO-10 경제학 →
🔗 네트워크 3
- InfiniBand인피니밴드
- 지연 시간이 매우 짧은 고성능 네트워크입니다. 슈퍼컴퓨터와 대규모 GPU 클러스터에서 서버 사이의 통신에 주로 쓰입니다.
- RoCERDMA over Converged Ethernet
- 이더넷 위에서 CPU를 거치지 않고 서버 메모리끼리 데이터를 직접 주고받게 하는 기술입니다. InfiniBand의 대안으로 AI 클러스터에서 사용이 늘고 있습니다.
- SANStorage Area Network
- 서버와 스토리지를 연결하는 전용 고속 네트워크로, 주로 파이버채널을 씁니다. 금융·공공의 핵심 업무 시스템에서 여전히 표준으로 쓰입니다.
관련 글: SAN 스위치는 왜 영원한가 →
🏗️ 아키텍처·플랫폼 7
- AIDCAI Data Center · AI 데이터센터
- GPU·NPU 같은 AI 가속기를 대규모로 운영하도록 전력·냉각·네트워크를 설계한 데이터센터입니다. 랙당 전력이 기존 센터의 수 배에서 수십 배에 이르는 것이 가장 큰 차이입니다.
- 소버린 AISovereign AI
- 데이터·모델·인프라를 자국이나 자기 조직의 통제 아래 두는 AI 전략입니다. 공공·국방·금융 분야에서 외부 클라우드 의존을 줄이려는 흐름과 맞닿아 있습니다.
관련 글: 방산·공공기관에서 젬마가 거론되는 이유 → - 모듈러 데이터센터MDC · PMDC(Prefabricated Modular DC)
- 전력·냉각·IT 설비를 공장에서 모듈로 조립·시험한 뒤 현장에 설치하는 데이터센터입니다. 신축보다 구축 기간이 짧고 단계적으로 증설하기 쉽습니다.
관련 글: 왜 모듈러 데이터센터가 해답인가 → - HCIHyper-Converged Infrastructure · 하이퍼컨버지드 인프라
- 서버, 스토리지, 가상화를 하나의 소프트웨어 플랫폼으로 통합한 인프라입니다. 노드를 추가하는 것만으로 용량과 성능을 함께 늘릴 수 있습니다.
관련 글: 뉴타닉스의 공공 인프라 전략 → - 쿠버네티스Kubernetes · Red Hat OpenShift 등
- 컨테이너로 만든 애플리케이션의 배포, 확장, 복구를 자동화하는 플랫폼입니다. AI 서비스 운영의 기반으로 쓰이며, OpenShift는 이를 기업용으로 다듬은 대표 제품입니다.
관련 글: Red Hat OpenShift가 플랫폼이 되어야 하는 이유 → - vLLM
- 대형 언어 모델(LLM)을 빠르고 효율적으로 서비스하기 위한 오픈소스 추론 엔진입니다. 같은 GPU로 더 많은 요청을 처리할 수 있게 해 추론 비용을 낮춥니다.
관련 글: AIDC에서 왜 자꾸 레드햇이 언급될까 → - U2L · L2UUnix to Linux · Linux to Unix
- U2L은 유닉스 서버의 업무를 x86 리눅스로 옮기는 전환을, L2U는 반대로 핵심 업무를 다시 유닉스(IBM Power 등)로 가져오는 흐름을 말합니다. 메모리 가격과 운영 안정성이 판단의 핵심 변수입니다.
관련 글: U2L의 시대는 끝났다, 이제는 L2U →
추가되었으면 하는 용어나 설명이 틀린 부분이 있다면 제보·문의로 알려 주세요. 용어사전은 계속 늘려 갑니다.