지식 · AI
할루시네이션 · 환각
Hallucination
한 줄 정의
AI가 사실이 아닌 내용을 사실처럼 그럴듯하게 지어내는 현상. 생성형 AI 활용에서 반드시 관리해야 할 위험.
생성형 AI는 '그럴듯한 다음 말'을 예측해 문장을 만들기 때문에, 근거가 없어도 자신 있게 틀린 답을 내놓을 수 있습니다. 존재하지 않는 통계·출처·인용을 만들어내는 것이 대표적입니다.
원인은 AI가 '정답'을 저장한 게 아니라 확률적으로 가장 그럴듯한 표현을 생성하기 때문입니다. 그래서 최신 정보, 좁은 전문 영역, 구체적 숫자·인용에서 특히 자주 발생합니다.
완전히 없앨 수는 없지만 크게 줄일 수 있습니다 — 근거 문서를 함께 주는 RAG, '모르면 모른다고 답하라'는 지시, 출처 요청, 그리고 사람의 최종 검수를 결합하는 것이 핵심입니다. AI 결과를 검증 없이 쓰면 리스크가 크므로, 실무 도입 시 이 안전장치를 함께 교육해야 합니다.
실무에서 왜 중요한가
AI 결과를 검증 없이 쓰면 리스크가 큽니다. RAG·출처 확인·사람의 검수 같은 안전장치를 함께 교육해야 실무 도입이 안전해집니다.
유래와 출처
생성형 AI가 대중화되며 '그럴듯하지만 틀린 답'이 실무 위험으로 부각되면서 널리 쓰이게 된 용어입니다. 언어모델이 정답을 저장한 게 아니라 확률적으로 문장을 생성하는 구조에서 비롯됩니다.
사례로 이해하기
예를 들어, AI로 보고서를 쓰다 환각을 걸러내는 과정을 봅시다.
- 생성 — AI가 '○○ 시장은 2025년 32% 성장했다'는 문장을 그럴듯하게 만듭니다.
- 의심 — 구체적 수치·출처는 환각 위험이 크므로 일단 의심합니다.
- 출처 요청 — '그 수치의 출처를 알려줘'라고 물어 근거를 확인합니다.
- 교차검증 — 실제 보고서·통계로 사실 여부를 대조합니다(근거 없으면 삭제).
- 예방 — 애초에 신뢰 자료를 함께 주는 RAG와 사람 검수 절차를 표준화합니다.
관련 용어
이 용어와 연결된 교육
📚에이전트 AI 실무 입문나눔경영컨설팅 기업교육 · 대면/온라인과정 보기 →이 주제로 사내 교육이 필요하신가요?
담당자 맞춤 커리큘럼·견적을 바로 받아보세요.
자주 묻는 질문
AI가 '정답'을 저장한 게 아니라 확률적으로 가장 그럴듯한 문장을 생성하기 때문입니다.
근거 문서를 함께 주는 RAG, 출처 요청, 사람의 최종 검수를 결합하면 위험을 크게 낮출 수 있습니다.