지식 · AI 기초
소형 언어모델 · sLM
Small Language Model
📂AI 기초⏱읽기 1분📊실무🔗관련 4
소형 언어모델이란?
한 줄 정의
거대 모델보다 작고 가벼운 언어모델. 특정 용도에 맞춰 저비용·빠른 속도·온디바이스 실행을 노린다.
⚡ 3줄 요약
- 작고 가벼운 언어모델
- 저비용·빠름·온디바이스
- 특정 용도에 파인튜닝
sLM(소형 언어모델)은 파라미터가 수백억 이상인 거대 모델(LLM)과 달리, 훨씬 작은 규모의 언어모델입니다. 모든 걸 다 하는 만능은 아니지만, 특정 업무에 맞춰 파인튜닝하면 충분한 성능을 내면서 비용·속도·프라이버시에서 유리합니다.
장점은 분명합니다 — 저렴하고 빠르며, 스마트폰·사내 서버 같은 작은 환경(온디바이스)에서 돌릴 수 있어 데이터를 밖으로 안 보내도 됩니다. 지식 증류·양자화 같은 경량화 기술의 산물이기도 합니다. '무조건 큰 모델'이 아니라 '용도에 맞는 크기'를 고르는 흐름 속에서, 실무에서 큰 모델과 역할을 나눠 함께 쓰는 경우가 늘고 있습니다.
💡 쉽게 말하면
만능 대형 모델 대신 '특정 일 잘하는 소형' — 싸고 빠르고 기기에서 돌아갑니다.
실무에서 왜 중요한가
모든 일에 거대 모델이 필요하진 않습니다. sLM은 저비용·고속·온디바이스로 AI를 더 현실적으로 쓰게 합니다.
유래와 출처
거대 모델의 비용·속도·프라이버시 한계에 대한 대안으로 부상했으며, 경량화 기술(증류·양자화)의 발전과 함께 주목받고 있습니다.
사례로 이해하기
예를 들어, sLM을 업무에 쓴다고 해봅시다.
- 용도 — 특정 반복 업무를 정합니다.
- 선택 — 그 용도에 맞는 작은 모델을 고릅니다.
- 맞춤 — 우리 데이터로 파인튜닝합니다.
- 배포 — 저비용·온디바이스로 돌립니다.
- 조합 — 어려운 일만 큰 모델에 맡깁니다.
언제 쓰고, 언제 피하나
✅ 이럴 때 적합
- 특정 용도로 파인튜닝할 때
- 비용·속도·프라이버시가 중요
- 온디바이스로 돌려야 할 때
🚫 이럴 땐 주의
- 다양·복잡한 범용 작업
- 최고 성능이 최우선일 때
- 용도가 자주 바뀌는 경우
관련 용어
LLM · 대규모 언어모델방대한 텍스트로 학습해 '다음에 올 말'을 예측하며 문장을 생성하는 대규모 신경망. ChatGPT·Claude의 두뇌.지식 증류큰 모델(선생)의 능력을 작은 모델(학생)에 옮겨, 성능은 최대한 유지하면서 가볍고 빠르게 만드는 기법.양자화 · 경량화모델 내부 숫자의 정밀도를 낮춰(예: 32비트→8비트) 크기와 연산을 줄이는 기술. 성능은 지키며 더 가볍고 빠르게 만든다.엣지 AI · 온디바이스 AI클라우드가 아닌 기기(폰·센서·자동차) 자체에서 AI를 실행하는 방식. 빠르고 프라이버시에 유리하다.
이 용어와 연결된 교육
📚에이전트 AI 실무 입문나눔경영컨설팅 기업교육 · 대면/온라인과정 보기 →이 주제로 사내 교육이 필요하신가요?
담당자 맞춤 커리큘럼·견적을 바로 받아보세요.
자주 묻는 질문
범용 성능은 낮지만, 특정 용도로 파인튜닝하면 충분합니다. 비용·속도 이점이 큽니다.
비용·속도·프라이버시가 중요하거나 온디바이스로 돌려야 할 때 유리합니다.
범용 성능은 낮지만, 특정 용도로 파인튜닝하면 충분합니다. 비용·속도 이점이 큽니다.
비용·속도·프라이버시가 중요하거나 온디바이스로 돌려야 할 때 유리합니다.