지식 · AI 기초
역전파
Backpropagation
📂AI 기초⏱읽기 1분📊심화🔗관련 3
역전파란?
한 줄 정의
신경망이 오차를 거꾸로 되짚어 각 연결의 가중치를 조정하며 '학습'하는 핵심 알고리즘.
⚡ 3줄 요약
- 오차를 거꾸로 되짚어 가중치 조정
- 신경망 학습의 엔진
- 경사하강법과 짝
역전파는 신경망 학습의 엔진입니다. 예측이 틀렸을 때, 그 오차가 어느 연결(가중치) 때문인지를 출력에서 입력 방향으로 거꾸로 계산해, 각 가중치를 조금씩 바로잡습니다. 이 과정을 수없이 반복하면 신경망이 점점 정확해집니다.
비유하면, 시험을 틀린 뒤 '어느 부분을 잘못 알았는지' 되짚어 고치는 것과 같습니다. 미분(기울기)을 이용해 오차를 줄이는 방향으로 가중치를 조정하며, 경사하강법과 함께 작동합니다. 1980년대에 대중화되며 딥러닝의 기반이 됐고, 오늘날 거의 모든 신경망이 이 방식으로 학습합니다.
💡 쉽게 말하면
시험 틀린 뒤 '어디서 잘못했나' 되짚어 고치는 것 — 오차를 거슬러 올라가며 배웁니다.
실무에서 왜 중요한가
역전파가 없으면 신경망은 스스로 배울 수 없습니다. 딥러닝을 가능케 한 학습의 핵심 원리입니다.
유래와 출처
1986년 러멜하트·힌튼·윌리엄스의 논문으로 대중화되며 신경망 학습의 표준 알고리즘이 됐습니다.
출처 · Rumelhart, Hinton & Williams(1986)
사례로 이해하기
예를 들어, 역전파로 신경망이 배우는 과정을 그려봅시다.
- 예측 — 모델이 답을 내놓습니다.
- 비교 — 정답과의 오차를 잽니다.
- 역추적 — 오차의 원인을 뒤로 되짚습니다.
- 조정 — 각 가중치를 오차 줄이는 쪽으로 바꿉니다.
- 반복 — 이를 수없이 되풀이해 정확해집니다.
관련 용어
손실 함수모델의 예측이 정답에서 얼마나 벗어났는지 재는 '오차 측정자'. 학습은 이 값을 줄이는 과정이다.하이퍼파라미터모델이 학습하기 전에 사람이 정해 주는 설정값(학습률·층 수 등). 요리의 '불 세기·시간'에 해당한다.머신러닝 · 딥러닝머신러닝은 데이터로 규칙을 스스로 학습하는 AI의 방법, 딥러닝은 그중 인공신경망을 깊게 쌓아 학습하는 강력한 갈래.
이 용어와 연결된 교육
📚에이전트 AI 실무 입문나눔경영컨설팅 기업교육 · 대면/온라인과정 보기 →이 주제로 사내 교육이 필요하신가요?
담당자 맞춤 커리큘럼·견적을 바로 받아보세요.
자주 묻는 질문
오차를 출력에서 입력 방향으로 '거꾸로' 전파하며 가중치를 조정하기 때문입니다.
역전파가 '기울기'를 계산하면, 경사하강법이 그 방향으로 가중치를 갱신합니다. 짝으로 작동합니다.
오차를 출력에서 입력 방향으로 '거꾸로' 전파하며 가중치를 조정하기 때문입니다.
활용자는 몰라도 됩니다. 다만 '신경망이 어떻게 배우는지'를 이해하는 기초 원리입니다.