최근 AI 비즈니스 현장에서 만난 여러 업체들 사이에서 공통적으로 나오는 이름이 있다. 구글의 오픈웨이트 모델 ‘젬마(Gemma)’다. 챗GPT나 클로드 같은 상용 API형 AI가 여전히 대세인 가운데, 유독 데이터 유출에 극도로 민감한 방산·정부기관 영역에서 젬마에 대한 관심이 눈에 띄게 올라오고 있다는 것이 현장의 체감이다. 아직 공개적으로 크게 보도된 사안은 아니지만(확인되지 않음), 왜 하필 이 모델이 이 시점에 이 영역에서 주목받는지는 공개된 사실관계만으로도 상당 부분 설명이 된다.
먼저 젬마 자체의 특성을 짚어보자. 구글 클라우드 공식 발표에 따르면, 최신 버전인 젬마 4는 제미나이(Gemini) 3와 동일한 연구 기반으로 만들어졌으며, 상업적으로 자유롭게 쓸 수 있는 아파치 2.0(Apache 2.0) 라이선스로 오픈웨이트가 공개된다. 최대 25만 6천 토큰의 컨텍스트 윈도우, 네이티브 비전·오디오 처리, 140개 이상 언어 지원을 갖췄고, 모델 크기도 엣지용 20억 파라미터급부터 엔터프라이즈용 310억 파라미터급까지 다양하다. 무엇보다 중요한 것은 배포 방식이다 — 구글 클라우드의 ‘주권 클라우드(Sovereign Cloud)’ 제품군 전반에서 지원되며, 여기에는 외부 네트워크와 완전히 분리된 에어갭(air-gapped) 온프레미스 배포가 포함된다.
이 특성이 왜 방산·공공 영역에 정확히 들어맞는지는 국내 정책 환경을 보면 명확해진다. 국정원이 제시한 N2SF(국가 사이버보안 프레임워크) Model 2는 공공기관이 챗GPT·클로드 같은 외부 생성형 AI를 업무에 활용할 때 지켜야 할 표준을 규정하는데, 콘텐츠 통제, 민감정보 비식별화, 감사·로그, 접근통제 등 까다로운 조건을 요구한다. 반면 자체 sLLM(소형 언어모델)을 처음부터 구축하는 방식은 도입에 12개월 이상, 초기 비용 수십억 원 단위가 소요되고 전담 운영팀이 필요하며, 응답 정확도도 상용 AI 대비 낮다는 게 업계의 일반적 평가다. 젬마 같은 오픈웨이트 모델은 바로 이 사이의 빈틈 — “외부로 데이터를 보내지 않으면서도, 처음부터 모델을 만들지 않아도 되는” 제3의 경로를 제공한다.
국방 영역의 움직임도 이 흐름과 맞닿아 있다. 뉴스핌(2026.9.2) 보도에 따르면, 국방부는 지난 9월 ‘국방 인공지능 전략 포럼’을 열고 AI를 미래전장 핵심 전력으로 규정하며 “국가가 핵심 데이터와 AI 모델, 컴퓨팅 기반에 대한 주권과 통제력을 확보”하는 소버린 AI 역량 구축을 핵심 목표로 제시했다. 현재 국회에 계류 중인 국방AI법은 신뢰성·안전성 보장과 신속한 군 적용 절차를 담을 예정이다. 전자신문(2026.7.20) 보도에 따르면 ‘국방 특화 LLM’ 사업을 놓고 LIG·삼성SDS 컨소시엄과 한화·네이버클라우드 컨소시엄이 경쟁 구도를 형성하고 있는 것으로 전해진다.
이 모든 조각을 맞춰보면 하나의 그림이 그려진다. 방산·공공기관은 해외 상용 AI에 데이터를 보낼 수 없고, 그렇다고 처음부터 모델을 직접 만들 여력도 부족하다. 이런 조직에게 “오픈웨이트로 공개돼 내부망에서 완전히 격리된 채 파인튜닝·서빙할 수 있고, 제미나이급 연구 기반을 갖춘” 모델은 현실적인 대안으로 떠오를 수밖에 없다. 다만 이것이 실제로 국내 방산·공공기관의 공식 도입 사례로 이어지고 있는지, 어느 기관이 어떤 방식으로 검토 중인지는 공개된 자료로 확인되지 않는다 — 이 글에서 전하는 “관심이 높아지고 있다”는 정황은 업계 현장에서 오가는 이야기를 바탕으로 한 것이며, 공식 발표나 도입 확정 사안이 아니다(확인되지 않음).
인프라 담당자가 이 흐름에서 가져갈 실무적 시사점은 두 가지다. 첫째, 오픈웨이트 모델을 내부망에서 운영하려면 결국 그 모델을 서빙할 인프라(GPU, 병렬 스토리지, 쿠버네티스 오케스트레이션)가 필요하다는 점에서, 이는 앞서 다룬 국가AI컴퓨팅센터의 GPU·NPU 지원 사업, 레드햇의 오픈소스 추론 스택(vLLM·OpenShift AI)과 직접 연결되는 문제다. 둘째, N2SF Model 2 같은 보안 표준이 이미 공공기관의 AI 도입 평가 기준(2026년 경영평가부터 가점 반영)에 들어와 있는 만큼, 방산·공공 대상 사업을 준비하는 기업이라면 “어떤 모델을 쓸 것인가”보다 먼저 “이 모델을 N2SF 기준에 맞게 내부망에서 어떻게 안전하게 운영할 것인가”를 아키텍처 설계의 출발점으로 삼아야 한다.
참고: 젬마 4의 기술 사양 및 주권 클라우드 배포 옵션은 구글 클라우드 공식 블로그(cloud.google.com)를 근거로 함. N2SF Model 2 관련 내용은 LLM캡슐(llmcapsule.ai) 자료를, 국방부 소버린 AI 전략 관련 내용은 뉴스핌(newspim.com, 2026.9.2) 보도를, 국방 특화 LLM 사업 경쟁 구도는 전자신문(etnews.com, 2026.7.20) 보도를 근거로 함. 국내 방산·공공기관의 실제 젬마 도입 검토 여부 및 구체적 기관명은 공개 자료로 확인되지 않으며, 업계 현장 관찰에 기반한 정황 분석임을 명시한다.
