📂AI 基礎⏱閱讀 2 分鐘📊實務🔗相關 4

什麼是微調(Fine-tuning)?

一句話定義
用少量資料,針對特定領域、作業或語氣,對已完成訓練的 AI 模型進行額外訓練。
這個主題,改為企業內訓📚 相關課程💬 內訓洽詢
⚡ 3 行重點摘要
  • 在已學習的模型上,針對特定任務進行額外學習
  • 符合語氣與領域
  • 以少量資料進行專門化

微調之後,原本每次都要附在提示詞裡送出的指令,會進入模型內部。例如'第一行先道歉、正文三段、最後附上負責人聯絡方式'這類規則,原本每次呼叫都要連同十個範例一起送出,現在則在學習階段一次刻進模型。因此改變的是模型不是它所知道的知識,而是回答的'行為模式'。提示詞變短後,每次呼叫的token與回應延遲都會減少,同時也能解決各負責人各自調整提示詞所造成的輸出差異。

方法大致分為三種。更新模型全部權重的全參數微調,對設備與成本負擔很大;只加上部分參數的 LoRA、Adapter 等系列(PEFT),只需一張 GPU 即可運作,因此在韓國實務上大多採用此方式。使用商用 API 廠商的微調功能時,只需上傳資料檔即可,但學習資料會傳送到外部。所需資料量在任務越窄時越少:文件分類或固定輸出格式約需數百筆,語氣與文風移轉通常從 1,000 至 3,000 筆「輸入-正確答案」配對開始才會看到明顯效果。大致的界線可以這樣劃分:經常變動的事實(價格、規定、庫存)用 RAG,不常變動的格式、語氣與判斷標準用微調。

現場最常出錯的地方,是'只要把我們的文件餵進模型訓練,模型就會把內容背下來'這種期待。如果把手冊 PDF 整份拿來微調,模型學到的不是內容本身,而是文件的語氣,數字和條文還會被寫得煞有其事地虛構出來。規定變更時,RAG 只要替換一份文件即可,微調則必須修正資料並重新訓練;而且一旦基礎模型升級到更高版本,微調成果也會一併作廢。另外容易忽略的是,若訓練資料裡混有過去承辦人不順的用語,或未遮蔽的客戶姓名,這些內容也會被原樣重現。若事先沒有留出約 200 筆評估題目,最後很容易只憑「感覺比以前好」來下結論。

會出現此術語的課程 · AI・DX
推薦課程 · 推薦講師 · 迷你報價
🧮 迷你報價 · 講師費基準
約 KRW 1,200,000 (≈ US$900)專題講座 2 小時 · 20 人以下 · 韓語
依此條件取得正式報價 →
💡 簡單來說
就像請已經是廚師的人,再教他我們店裡的食譜就好——不必從頭培養,也能做出特色。
為什麼在實務上很重要
把通用模型打造成適合貴公司業務的'量身訂做'——但需要成本與資料,因此必須與 RAG 比較後再選擇。
⚠️ 常見誤解
誤解要讓 AI 符合我們的需求,就一定要用微調。
其實,很多情況下提示詞與 RAG 就已足夠。微調需要投入資料與成本,因此只在'語氣・特定格式'這類確實必要時才使用。
由來與出處

以已預先訓練(pre-training)的模型,針對特定任務或資料進行額外學習的概念。此概念源自遷移學習(transfer learning)的研究脈絡,隨著大型語言模型的普及,在實務上被廣泛運用。

透過案例理解

以假設的案例來說明。這是一家員工 240 人、年營收約 900 億韓元的家具製造與銷售公司 A 的客服中心故事。每日平均有 400 件諮詢郵件,由 11 位客服人員處理。即使開始使用生成式 AI 撰寫初稿,客服人員幾乎每次都還是得重寫句子的情況仍反覆發生。以下是過去三個月檢討導入微調(fine-tuning)的過程。

  1. CX 團隊的金組長抽出 100 筆初稿檢視,其中 62 筆需要修改後才能寄出。客服人員也一再反映:'道歉的句子太美式,讀起來對我們的客戶顯得高傲'。
  2. 花了三週在提示詞中附上 12 個標準回答範例進行實驗,但每次呼叫的 token 增為四倍,回應平均延遲到 4.2 秒,結論是在忙碌時段難以使用。
  3. 從近兩年約 3 萬件諮詢信件中,挑出 1,800 則未再被追問的優良回覆,由營運團隊 2 人花 2 週時間遮蔽客戶姓名、訂單編號與電話號碼,整理成問答配對。
  4. AI 導入負責人朴課長在開源小型模型上以 LoRA 方式進行了 3 次重新訓練,總訓練成本落在 KRW 600,000 (≈ US$450) 多元。不過,配送政策與贈品規定這類每季都會變動的內容,沒有動到模型,而是交由 RAG 處理。
  5. 上線前以 200 題評測題目,分別評分語氣適配度與規範正確度。第一版訓練模型的語氣合格,但有 9 件捏造規範數字的案例,因此將該類型全部改由 RAG 處理。
  6. 導入兩個月後,初稿修改率從 62% 降到 21%,每封信件的平均撰寫時間也從 11 分鐘縮短到 4 分鐘。提示詞變短後,每月 API 費用也減少了 38%。
相關術語
包含此術語的學習路徑
與此術語相關的課程
📚AI 代理實務入門Nanum 經營顧問企業內訓 · 實體/線上查看課程 →
是否需要針對此主題進行企業內訓?
立即取得負責人為您量身打造的課程規劃與報價。
教育洽詢
最後修訂 2026年9月13日 · 監修 金鍾赫

常見問題

通常會先嘗試 RAG 與提示詞。對於這些方法仍無法達成的'語氣・格式・專業風格',才會使用微調。
不會。模型不知道訓練時間點之後的資訊,因此最新或事實性內容必須用 RAG 補強。
最新或公司內部知識,請先用 RAG 反映。需要改變語氣或格式本身時,才使用微調。
不是的。微調承載的是訓練當時的知識。要反映最新資訊,RAG 較為適合。