[인프라 인사이트] AI 인프라의 숨은 병목, ‘데이터 계층화’와 LTO-10 경제학
오늘날 테크 업계의 모든 시선은 화려한 AI 전면전에 쏠려 있다. 현장에 나가면 엔비디아의 H100, B200 인프라를 몇 대나 확보할 것인지, 초고속 데이터 전송을 위해 인피니밴드(InfiniBand)를 어떻게 아키텍처링할 것인지에 대한 열띤 논의가 끊이지 않는다. 그러나 이 뜨거운 열기 속에서 인프라스트럭처의 본질을 관통하는 묵직한 질문을 던지는 이는 드물다. “학습에 사용할 거대한 데이터셋과 모델의 결과물들, 지금 어디에 ‘어떻게’…