지식 · IT·데이터·DX

망분리와 생성형 AI

Network Separation (Air Gap) & Generative AI

📂IT·데이터·DX⏱읽기 2분📊심화🔗관련 6

망분리와 생성형 AI이란?

한 줄 정의
업무망과 인터넷망을 물리적·논리적으로 분리해 외부 침해를 차단하는 보안 정책으로, 금융·공공에서 외부 생성형 AI 도입을 가로막는 가장 현실적인 제약입니다.
이 주제, 사내 교육으로📚 관련 과정💬 교육 문의
⚡ 3줄 요약
  • 업무망과 인터넷망을 분리하는 보안 정책
  • 상용 AI가 막히는 이유이자 온프레미스 수요의 원인
  • 데이터 등급 분류가 도입 논의의 출발점

망분리가 걸린 조직에서는 AI 도입의 순서가 뒤집힙니다. 일반 기업이 '어떤 모델이 성능이 좋은가'부터 따진다면, 금융·공공은 모델을 어디에 놓을 수 있는가가 먼저 정해지고 그 안에서 쓸 수 있는 모델이 추려집니다. 과제의 주인도 달라집니다. 현업이 도구를 골라 오는 게 아니라 정보보호부서와 법무가 배치안을 승인해야 착수가 되고, 예산의 상당 부분이 모델 사용료가 아니라 인프라와 통제 장치로 흘러갑니다.

망분리도 한 덩어리가 아닙니다. PC와 회선을 두 벌로 두는 물리적 방식과 VDI로 화면만 띄우는 논리적 방식이 있고, 업무망을 가두는 방식과 인터넷 접속만 별도 PC로 빼는 방식은 통제 강도가 다릅니다. AI를 올릴 자리도 이 구조를 따라갑니다. 온프레미스는 GPU 서버 구매와 운영 인력이 따라붙어 파라미터를 줄인 경량 모델로 출발하는 경우가 많고, 프라이빗 클라우드는 전용선·전용 인스턴스 구성과 위탁 관련 절차가 전제됩니다. 여기서 자주 헷갈리는 경계가 망분리와 유출 통제는 서로 다른 층이라는 점입니다. 망을 갈라놓아도 복사해 붙여넣은 한 줄이 기밀을 실어 나르는 것은 DLP와 프롬프트 필터가 맡는 영역입니다.

현장에서 가장 흔한 어긋남은 '망분리라 안 됩니다'라는 한마디로 검토를 닫아버리는 것입니다. 실제로 막힌 건 외부 API 호출 경로이지 AI 활용 전부가 아닌데, 논의가 거기서 멈추면 직원들은 개인 휴대폰으로 화면을 찍어 외부 챗봇에 묻는 쪽으로 움직입니다. 통제 밖에서 자료가 나가는 이 쉐도우 AI가 망분리의 진짜 구멍입니다. 반대 오해도 있습니다. 내부에 오픈소스 모델만 올리면 끝이라 여기는 경우인데, 사내 문서가 정리돼 있지 않으면 검색 품질이 무너져 두 달 만에 아무도 열지 않는 시스템이 됩니다. 규정도 자주 개정되므로 작년 자료로 '불가'를 단정하지 말고 소관 지침을 그때그때 확인해야 합니다.

💡 쉽게 말하면
보안 구역과 일반 구역을 나눠 출입증을 다르게 주는 건물과 같습니다. 반입 가능한 물건을 등급으로 정해야 문이 열립니다.
실무에서 왜 중요한가
금융·공공 고객사의 AI 교육에서 가장 먼저 나오는 질문이 '저희는 망분리라서 안 되는데요'입니다. 대안 구조를 아는 것이 논의의 출발점입니다.
유래와 출처

2011년 대형 금융·공공기관 해킹 사고를 계기로 국내에서 망분리 정책이 본격 강화됐습니다. 전자금융감독규정과 국가 사이버안보 지침을 통해 금융·공공 부문에 확산됐고, 이후 클라우드·AI 활용 요구가 커지면서 조건부 완화 논의가 이어지고 있습니다.

출처 · 전자금융감독규정 · 국가 정보보안 기본지침
사례로 이해하기

가상의 사례로 살펴보겠습니다. 임직원 1,200명 규모의 손해보험사 A사는 전 직원 PC가 물리적 망분리 환경이라, 보상 심사 서류 한 건을 요약하는 데 평균 40분이 걸렸습니다. 경영진이 AI 활용을 지시했지만 정보보호부서는 6개월째 '망분리라 불가'로 회신했고, 결국 3개월 시한의 검토 TF가 꾸려졌습니다.

  1. 정보보호팀장이 사내 문서 3,200건을 공개·내부·기밀·고객정보 4등급으로 훑어보니 고객정보가 실제로 들어간 문서는 18%였고, 나머지는 판단 기준이 없어 관행상 전부 기밀로 묶여 있었습니다.
  2. TF는 보상 심사 요약과 약관 질의를 떼어냈습니다. 심사팀장이 '약관은 홈페이지에 다 공개돼 있는데 왜 못 넣느냐'고 되묻자, 공개 등급 업무부터 인터넷망 PC 5대로 3개월 시범 운영하는 안으로 정리됐습니다.
  3. 고객정보가 섞이는 심사 요약은 내부 GPU 서버 2대에 경량 오픈소스 모델을 올려 RAG로 돌렸는데, 첫 테스트 정확도가 기대에 못 미쳐 약관·매뉴얼 문서를 다시 다듬는 데만 4주를 더 썼습니다.
  4. 법무팀과 정보보호부가 배치안별 허용 근거를 A4 11장으로 정리해 감사 대응 문서로 남겼고, 준법감시인이 '나중에 설명할 수 있으면 된다'며 조건부로 승인 도장을 찍었습니다.
  5. 6개월 뒤 보상 서류 요약 시간은 건당 40분에서 12분으로 줄었고, 개인 휴대폰으로 외부 챗봇을 쓰다 적발·신고된 사례는 월 9건에서 1건으로 떨어졌습니다.
관련 용어
이 용어와 연결된 교육
📚내 데이터로 답하는 AI 만들기 — RAG 입문나눔경영컨설팅 기업교육 · 대면/온라인과정 보기 →
이 주제로 사내 교육이 필요하신가요?
담당자 맞춤 커리큘럼·견적을 바로 받아보세요.
교육 문의하기
최종 수정 2026-09-13 · 감수 김종혁

자주 묻는 질문

쓸 수 있습니다. 내부에 모델을 두는 온프레미스, 격리된 프라이빗 클라우드, 인터넷망 분리 운영 등 선택지가 있습니다. 다만 비용과 성능의 균형을 따져야 합니다.
물리적은 PC·회선을 두 벌로 두는 방식이고, 논리적은 가상화로 분리하는 방식입니다. 논리적이 비용과 편의성이 낫지만 요구되는 보안 수준에 따라 허용 여부가 달라집니다.
업권·기관별로 조건과 절차가 다르고 개정이 잦습니다. 반드시 소관 규정과 최신 지침을 직접 확인하고 내부 승인을 거쳐야 합니다.
데이터 등급 분류입니다. 등급이 없으면 무엇을 어디서 써도 되는지 판단할 수 없어 결국 전면 금지로 귀결됩니다.