한 줄 정의
AI에게 답만 내놓지 말고 '풀이 과정을 단계별로 생각하며' 답하게 유도해, 복잡한 추론의 정확도를 높이는 기법.

복잡한 문제를 AI가 한 번에 답하면 틀리기 쉽습니다. 사고사슬(CoT)은 '단계별로 생각해 보자'처럼 유도해, AI가 중간 추론 과정을 펼치며 답하게 합니다. 사람이 암산 대신 종이에 풀이를 적으면 덜 틀리는 것과 같은 원리입니다.

산수·논리·다단계 추론에서 특히 효과가 큽니다. 프롬프트 엔지니어링의 대표 기법이자, 최근 '추론 특화 모델'의 기반 아이디어이기도 합니다. 다만 과정을 길게 펼치면 토큰·비용이 늘어, 문제 난이도에 맞춰 쓰는 판단이 필요합니다.

실무에서 왜 중요한가
AI에게 '천천히 단계적으로' 시키는 것만으로 복잡한 답의 정확도가 오릅니다 — 실무에서 바로 쓰는 프롬프트 기술입니다.
유래와 출처

2022년 구글 연구진(제이슨 웨이 등)이 논문 「Chain-of-Thought Prompting Elicits Reasoning in Large Language Models」에서 제시했습니다. 중간 추론 단계를 생성하게 하면 대형 모델의 추론 성능이 크게 오른다는 것을 보였습니다.

출처 · Wei et al., 「Chain-of-Thought Prompting…」(2022, Google) · 원문 보기
사례로 이해하기

예를 들어, 복잡한 계산을 CoT로 시킨다고 해봅시다.

  1. 요청 — 어려운 문제 끝에 '단계별로 생각해서 풀어줘'를 붙입니다.
  2. 전개 — AI가 곧바로 답하지 않고 중간 계산을 하나씩 펼칩니다.
  3. 검산 — 각 단계가 드러나 어디서 틀렸는지 확인이 쉬워집니다.
  4. 정답 — 과정을 거쳐 더 정확한 최종 답을 냅니다.
  5. 판단 — 쉬운 문제엔 생략해 토큰·비용을 아낍니다.
관련 용어
이 용어와 연결된 교육
📚클로드 코워크 핵심기능 활용나눔경영컨설팅 기업교육 · 대면/온라인과정 보기 →
이 주제로 사내 교육이 필요하신가요?
담당자 맞춤 커리큘럼·견적을 바로 받아보세요.
교육 문의하기
최종 수정 2026-07-11 · 감수 김종혁

자주 묻는 질문

산수·논리·다단계 추론처럼 '중간 과정'이 필요한 문제에 특히 효과적입니다.
간단한 질문엔 과정이 길어져 비용만 늡니다. 난이도에 맞춰 선택하는 것이 좋습니다.