오픈소스 LLM · 오픈 웨이트
Open-Source LLM · Open Weights
오픈소스 LLM이란?
- 가중치를 공개해 자체 인프라에서 실행 가능한 LLM
- 데이터 주권·비용 통제·커스터마이징이 도입 동기
- 민감 업무만 프라이빗으로 돌리는 하이브리드가 정석
오픈소스 LLM은 GPT·클로드처럼 API로만 쓰는 폐쇄형 모델과 달리, 학습된 가중치 파일을 공개해 누구나 자기 인프라에 내려받아 실행할 수 있는 모델을 말합니다. 메타의 라마(Llama) 계열이 흐름을 열었고, 미스트랄, 알리바바 큐원(Qwen), 딥시크(DeepSeek) 등이 뒤를 이었으며, 국내에서도 LG의 엑사원(EXAONE) 등 공개 모델이 나오고 있습니다. 엄밀히는 학습 데이터와 코드까지 공개해야 '오픈소스'이고, 가중치만 공개한 경우는 '오픈 웨이트'로 구분하지만, 실무에서는 혼용됩니다.
기업이 오픈소스 LLM을 선택하는 이유는 크게 셋입니다. 첫째, 데이터 주권 — 민감 데이터를 외부 API로 보내지 않고 사내(온프레미스)나 자사 클라우드 안에서 처리할 수 있습니다. 둘째, 비용 구조 — 사용량이 많으면 토큰 과금보다 자체 서빙이 쌀 수 있고, 작은 모델로 특정 업무만 처리하면 효율이 더 커집니다. 셋째, 커스터마이징 — 자사 데이터로 파인튜닝해 특화 모델을 만들 수 있습니다. 반대로 GPU 인프라와 운영 인력이 필요하고, 최고 성능은 여전히 폐쇄형 최상위 모델이 앞서는 경우가 많다는 것이 트레이드오프입니다.
선택의 실무 공식은 '전부 아니면 전무'가 아닙니다. 일반 업무는 폐쇄형 API로, 민감 데이터를 다루는 특정 업무만 오픈소스 모델의 프라이빗 배포로 처리하는 하이브리드가 흔한 구성입니다. 라이선스 확인도 필수입니다. '오픈'이라도 상업적 이용 조건, 월간 활성 사용자 제한, 파생 모델 조항이 모델마다 달라 법무 검토 없이 도입하면 뒤탈이 날 수 있습니다.
2023년 메타가 라마(LLaMA)를 연구용으로 공개하고 곧이어 상업적 이용이 가능한 라마 2를 내놓으면서 오픈 웨이트 생태계가 폭발적으로 성장했습니다. 이후 미스트랄, 큐원, 딥시크 등이 성능 격차를 좁히며 '공개 모델로도 충분한 업무'의 범위를 계속 넓혀 왔습니다.
금융회사가 고객 상담 기록 분석에 오픈소스 LLM을 도입하는 상황입니다.
- 제약 확인 — 고객 정보가 외부 API로 나갈 수 없다는 규제·내규 제약을 확인합니다.
- 모델 선정 — 공개 모델 중 한국어 성능과 라이선스(상업 이용 가능 여부)를 기준으로 후보를 좁힙니다.
- 인프라 결정 — 사내 GPU 서버와 자사 전용 클라우드(VPC) 배포 중 비용·운영을 비교해 결정합니다.
- 파인튜닝·RAG — 금융 용어와 자사 상품 데이터로 모델을 보정하고 사내 문서 검색(RAG)을 연결합니다.
- 하이브리드 운영 — 민감 업무는 프라이빗 모델로, 일반 문서 작성은 폐쇄형 API로 이원화해 운영합니다.