지식 · AI
RAG · 검색증강생성
Retrieval-Augmented Generation
한 줄 정의
AI가 답하기 전에 사내 문서·데이터베이스 등 외부 지식을 먼저 검색해 그 근거 위에서 답을 생성하게 하는 기법.
일반 생성형 AI는 학습한 범위 밖의 최신·내부 정보를 모릅니다. RAG는 질문에 맞는 자료를 먼저 찾아 AI에게 함께 제공함으로써, 우리 회사 규정·제품 문서 같은 실제 근거에 기반한 답변을 만들게 합니다.
이 기법은 2020년 패트릭 루이스(Patrick Lewis)와 페이스북 AI 연구소(현 Meta AI) 팀의 논문 「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」에서 제시됐습니다. 검색기(retriever)가 관련 문서를 찾아오고, 생성 모델이 그 문서를 근거로 답을 만드는 두 단계 구조입니다.
동작은 '문서를 잘게 나눠 임베딩→질문과 유사한 조각 검색→그 조각을 프롬프트에 붙여 생성' 순입니다. 모델 자체를 재학습하는 파인튜닝보다 빠르고 저렴해, '우리 데이터로 답하는 AI'를 만드는 가장 현실적인 방법으로 자리잡았습니다. 다만 검색 품질이 낮으면 답도 부실해집니다.
실무에서 왜 중요한가
환각(할루시네이션)을 줄이고 '우리 데이터로 답하는 AI'를 만드는 가장 현실적인 방법이라, 기업 AI 도입의 핵심 구조로 자리잡았습니다.
유래와 출처
2020년 패트릭 루이스(Patrick Lewis)와 페이스북 AI 연구소(현 Meta AI) 팀이 논문에서 처음 제시했습니다. 검색기와 생성 모델을 결합한다는 발상이 핵심입니다.
출처 · Lewis et al., 「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」(2020) · 원문 보기
사례로 이해하기
예를 들어, 사내 규정을 답해 주는 AI 챗봇을 RAG로 만든다고 해봅시다.
- 문서 준비 — 취업규칙·복지 규정을 문단 단위로 잘라 임베딩(벡터)으로 저장합니다.
- 질문 — 직원이 '연차는 며칠부터 쓸 수 있나요?'라고 묻습니다.
- 검색 — 질문과 가장 유사한 규정 조각 몇 개를 벡터 DB에서 찾아옵니다.
- 생성 — 그 조각을 근거로 붙여 AI가 규정에 기반해 답하고 출처를 표시합니다.
- 검증 — 출처가 실제 규정과 맞는지 확인하는 절차를 둬 환각을 줄입니다.
관련 용어
이 용어와 연결된 교육
📚에이전트 AI 실무 입문나눔경영컨설팅 기업교육 · 대면/온라인과정 보기 →이 주제로 사내 교육이 필요하신가요?
담당자 맞춤 커리큘럼·견적을 바로 받아보세요.
자주 묻는 질문
파인튜닝은 모델 자체를 재학습시키는 반면, RAG는 모델은 그대로 두고 답변 시점에 근거 문서를 붙여줍니다. 보통 RAG가 더 빠르고 저렴합니다.
크게 줄지만 완전히 없어지진 않습니다. 근거 문서의 품질과 검색 정확도가 뒷받침돼야 합니다.