
LLM、GPT、生成式 AI…一次整理讓人混淆的 AI 術語
您是否曾在會議上聽到「那個用 RAG 不就好了嗎?」而一時語塞?跟著這份指南整理 30 個核心 AI 術語,下次開會時,您就是負責說明的人。
為什麼需要整理 AI 術語
在 B2B 業務會議中,當客戶說**「正在評估導入生成式 AI」**時,若您能說明 LLM 與 SLM 的差異,信任度將提升2 倍。
在公司內部的 DX(數位轉型)會議中,正確使用術語可讓溝通失誤減少60% 以上。
Before:「AI 喔……用 ChatGPT 之類的不就好了嗎?」
After:「就我們的使用情境而言,以公司內部資料對 RAG 架構的 SLM 進行微調後導入,成本效益最高。」
Step 1:基礎中的基礎 — 理解 AI 層級結構的 5 個術語
這個階段要描繪 AI 世界的地圖。以下 5 個術語由上而下呈現「包含關係」。
1. AI(Artificial Intelligence,人工智慧)
一句話定義:模仿人類智慧的所有技術之統稱。
會議中的用法:「這在 AI 之中屬於哪個類別?」
💡 AI 是最大的傘。所有下層術語都包含在 AI 之中。
2. ML(Machine Learning,機器學習)
一句話定義:透過學習資料來找出規律的 AI 子領域。
範例:垃圾郵件過濾器、客戶流失預測模型
Before/After:規則式過濾(準確率 70%)→ 機器學習式過濾(準確率 95%)
3. DL(Deep Learning,深度學習)
一句話定義:堆疊多層人工神經網路進行學習的一種機器學習方法。
重點:「深度」指的是神經網路的層數很深(deep)。
4. 生成式 AI(Generative AI)
一句話定義:不只是分析既有資料,而是能創造新內容(文字、圖像、程式碼)的 AI。
範例:ChatGPT(文字)、Midjourney(圖像)、Suno(音樂)
💡 與「分析式 AI」對照說明,會更容易理解。分析式是「這位客戶流失機率為 80%」,生成式則是「請為這位客戶撰寫一封電子郵件草稿」。
5. Foundation Model(基礎模型)
一句話定義:以大規模資料預先訓練的通用 AI 模型,可應用於各種任務的基礎模型。
範例:GPT-4、Claude、Gemini、LLaMA
實作提示詞:請輸入到 ChatGPT 試試看:
「請用俄羅斯娃娃來比喻,讓小學生也能聽懂 AI、機器學習、深度學習、生成式 AI 與基礎模型之間的關係。」
Step 2:掌握 7 個語言模型核心術語
這個階段是實務上最常出現的環節。
6. LLM(Large Language Model,大型語言模型)
一句話定義:以數十億至數兆筆文字資料訓練而成的超大型語言模型。
代表模型:GPT-4(OpenAI)、Claude(Anthropic)、Gemini(Google)
會議應用範例:「這項業務需要評估,是直接使用 LLM,還是透過 API 串接。」
7. SLM(Small Language Model,小型語言模型)
一句話定義:參數量比 LLM 少,但針對特定任務最佳化的輕量模型。
代表模型:Phi-3(Microsoft)、Gemma(Google)
Before/After:LLM API 費用每月 KRW 5,000,000 (≈ US$3,740) → 自行營運 SLM 後每月 KRW 800,000 (≈ US$600)
💡 B2B 業務洽談時,若客戶擔心成本,可建議「SLM + 微調組合」作為替代方案。
8. GPT (Generative Pre-trained Transformer)
一句話定義:OpenAI 所開發的 LLM 系列名稱,同時也指「預先訓練的生成式 Transformer」這種技術架構。
重點:GPT 既是專有名詞(OpenAI 的產品),也是一種技術架構。說「GPT 系列模型」時,指的是後者。
9. Transformer(轉換器)
一句話定義:Google 於 2017 年發表的深度學習架構,相當於目前幾乎所有 LLM 的引擎。
為什麼重要:源自「Attention Is All You Need」這篇論文,改變了 AI 的發展歷程。
💡 可以這樣比喻:Transformer 是汽車的引擎,GPT 則是用這具引擎打造出來的特定車款。
10. 參數(Parameter)
一句話定義:AI 模型在訓練過程中調整的內部變數數量,常用來表示模型的「大小」。
直覺理解:GPT-3 擁有 1,750 億個參數,GPT-4 約有 1.8 兆個參數(推估)。
會議應用:「這個模型屬於 70B(700 億)參數等級,需要地端 GPU。」
11. Token
一句話定義:LLM 處理文字的最小單位。以韓文為例,一個字通常約為 1〜2 個 Token。
成本計算:以 GPT-4o 為例,每 100 萬輸入 Token 約 $2.50 → 一頁韓文 A4(約 1,500 字)≈ 2,000〜3,000 個 Token
💡「Token 數 = 費用」,因此提示詞寫得精簡,就能節省 API 費用。
12. 上下文視窗(Context Window)
一句話定義:模型一次能讀取並處理的最大 Token 數量。
比較:GPT-3.5(4K Token)→ GPT-4o(128K Token)→ Claude 3.5(200K Token)
實務意義:上下文視窗越大,就越能一次放入長篇文件進行分析。
實作提示詞:
「請閱讀這份業務提案書(如下文字),摘要出客戶最可能關注的 3 個重點。[貼上提案書全文]」
Step 3:實務應用階段 — 與使用模型的方法相關的 8 個術語
13. 提示詞(Prompt)
一句話定義:給 AI 模型的問題或指示。
Before:「請整理營收資料」→ 結果:籠統的表格
After:「請將 2024 年第 3 季營收依部門分類,並以 % 標示與上一季相比的增減率,製成表格」→ 結果:可直接用於報告的表格
14. 提示詞工程(Prompt Engineering)
一句話定義:為了得到想要的結果,有系統地設計提示詞的技術。
3 項核心技巧:
角色設定:「您是一位擁有 10 年經驗的 B2B 業務策略專家」
指定結構:「以表格形式 / 分成 3 點 / 500 字以內」
提供範例:「請參照下列範例撰寫」
15. Few-shot / Zero-shot / One-shot
Zero-shot:不提供範例,直接提問。「幫我寫一封電子郵件草稿」
One-shot:提供 1 個範例。「請參考以下範例撰寫電子郵件 [1 個範例]」
Few-shot:提供 2〜5 個範例。
Before(Zero-shot):結果一致性 60% → After(Few-shot):結果一致性 90%
16. RAG(Retrieval-Augmented Generation,檢索增強生成)
一句話定義:LLM 在回答時,會先檢索外部資料庫並參考其內容,再生成回答的技術。
為什麼重要:LLM 並不知道訓練時間點之後的資訊。使用 RAG 就能依據公司內部最新文件來回答。
B2B 應用:將客戶的 1,000 頁手冊接上 RAG → 新進員工可立即獲得專家等級的解答
💡 常被問到「微調 vs RAG」的比較。微調是改變模型本身,RAG 則是保持模型不變,只串接參考資料。就成本與時間而言,RAG 輕量許多。
17. 微調(Fine-tuning)
一句話定義:讓預訓練模型以特定領域的資料進行額外訓練。
範例:通用 GPT → 以 10 萬件法律文件微調 → 法律專用 AI
費用概念:以 OpenAI GPT-4o mini 微調為例,訓練每 100 萬 Token 為 $3.00
18. 幻覺(Hallucination)
一句話定義:AI 生成看似合理但並非事實的資訊的現象。
實務風險:若在提案書中放入不存在的統計數據,信任度將蕩然無存。
💡 預防方法:① 在提示詞中要求提供出處 ② 善用 RAG ③ 將事實查核列為必要步驟
19. 嵌入(Embedding)
一句話定義:將文字、圖像轉換成數字向量(座標),讓 AI 能夠比較語意。
實務範例:將 1 萬件客戶詢問轉成嵌入向量 → 自動分類相似詢問 → 縮短 40% 的回應時間
20. API (Application Programming Interface)
一句話定義:讓外部程式能夠呼叫並使用 AI 模型功能的連接管道。
會議應用:「只要在自行開發的應用程式中串接 GPT-4o API,就不必另外打造 AI。」
Before:員工手動輸入 ChatGPT 視窗(每筆 3 分鐘)→ After:API 自動串接(每筆 0.5 秒)
實作提示詞:
「我是 B2B SaaS 業務人員。當客戶問『RAG 和微調該導入哪一個?』時,請以成本、速度、準確度三項標準製作比較表,並在各項目中加入具體的數字範例。」
Step 4:8 個 AI 服務 & 商業術語
21. ChatGPT
一句話定義:OpenAI 在 GPT 模型之上加上對話介面的服務名稱。
💡 GPT 是引擎,ChatGPT 是汽車。請不要混用。
22. Copilot
一句話定義:Microsoft 內建於 Office 365、Windows、GitHub 等產品中的 AI 助理品牌。
實務範例:在 Excel 中對 Copilot 輸入「請將這份資料的趨勢製作成圖表」
23. AI 代理(AI Agent)
一句話定義:無需人工介入,就能自行判斷並運用多種工具完成任務的 AI 系統。
範例:自動執行「每天蒐集競爭對手新聞 → 摘要 → 傳送到 Slack」
Before:承辦人每天耗時 1 小時 → After:由代理自動執行,人員只需審閱(10 分鐘)
24. 多模態(Multimodal)
一句話定義:能夠同時處理多種形式資料(文字、圖片、語音、影片等)的能力。
範例:將產品照片上傳到 GPT-4o,並要求「幫我歸納這項產品的 3 個銷售重點」
25. 地端部署(On-premise)vs 雲端(Cloud)
地端部署(On-premise):直接在自家伺服器上安裝並運作 AI 模型的方式。
雲端:透過 AWS、Azure 等外部伺服器使用 AI 的方式。
選擇標準:資安敏感資料(醫療、金融)→ 地端部署 / 需快速導入 → 雲端
成本比較:地端部署初期投資約 KRW 300,000,000 (≈ US$224,500)~500,000,000 vs 雲端每月 KRW 5,000,000 (≈ US$3,740)~20,000,000
26. 開源模型 (Open Source Model)
一句話定義:公開模型的權重(訓練成果),讓任何人都能下載、修改、散布的模型。
代表模型:Meta 的 LLaMA 3、Mistral、Falcon
💡 開源不等於免費。營運基礎設施(GPU 伺服器)的費用需另計。
27. Token 經濟(Token Economy / 計價體系)
一句話定義:使用 API 時,依輸入與輸出 Token 數量計費的費用結構。
比較(以 2024 年底為準):
GPT-4o:輸入 $2.50 / 輸出 $10.00(每 100 萬 Token)
Claude 3.5 Sonnet:輸入 $3.00 / 輸出 $15.00(每 100 萬 Token)
GPT-4o mini:輸入 $0.15 / 輸出 $0.60(每 100 萬 Token)
28. 護欄 (Guardrail)
一句話定義:為避免 AI 給出不當或危險的回答,而設定的安全機制。
B2B 的重要性:面向客戶的聊天機器人若未設定護欄,將帶來品牌風險
設定範例:「禁止回答中傷競爭對手的內容」、「禁止提供醫療・法律建議」、「禁止使用未經確認的數字」
Step 5:趨勢 & 策略術語最後 2 個
29. AGI(Artificial General Intelligence,通用人工智慧)
一句話定義:不侷限於特定任務,而是能像人類一樣執行各種智力工作的 AI。
目前狀態:尚未實現。目前的 GPT-4o、Claude 等仍屬於 ANI(特定領域智慧)階段。
會議應用:「目前的水準並非 AGI,而是專攻特定業務的 AI,因此必須明確界定導入範圍。」
30. AI 治理(AI Governance)
一句話定義:管理組織內 AI 使用的政策、倫理、資安與法規遵循的制度。
必備項目:資料隱私政策、AI 產出內容的查核流程、員工 AI 使用指引
Before:員工各自使用 AI → 資料外洩風險 → After:建立治理機制 → 資安事件 0 件
Step 6:30 個術語總整理 — 速查表
編號 | 術語 | 一分鐘讀懂 | 類別 |
|---|---|---|---|
1 | AI | 模仿人類智慧之技術的總稱 | 基礎 |
2 | ML | 從資料中學習規律的 AI | 基礎 |
3 | DL | 將神經網路堆疊得很深的 ML | 基礎 |
4 | 生成式 AI | 創造新內容的 AI | 基礎 |
5 | 基礎模型 | 大規模預訓練的通用模型 | 基礎 |
6 | LLM | 超大型語言模型 | 語言模型 |
7 | SLM | 輕量化專用語言模型 | 語言模型 |
8 | GPT | OpenAI 的生成式預訓練轉換器 | 語言模型 |
9 | Transformer | 現代 LLM 的核心架構 | 語言模型 |
10 | 參數 | 模型內部的可學習參數數量 | 語言模型 |
11 | Token | LLM 處理文字的最小單位 | 語言模型 |
12 | 上下文視窗 | 一次可處理的最大 Token 數 | 語言模型 |
13 | 提示詞 | 給 AI 的指示 | 應用 |
14 | 提示詞工程 | 系統化地設計提示詞 | 應用 |
15 | Few-shot/Zero-shot | 有無範例的提示詞方式 | 應用 |
16 | RAG | 檢索外部資料後生成回答 | 應用 |
17 | 微調(Fine-tuning) | 以特定領域資料進行追加訓練 | 應用 |
18 | AI 幻覺(Hallucination) | AI 生成虛假資訊的現象 | 應用 |
19 | 嵌入 | 將文字轉換為數值向量 | 應用 |
20 | API | AI 功能呼叫的連接通道 | 應用 |
21 | ChatGPT | OpenAI 的對話式 AI 服務 | 服務 |
22 | Copilot | Microsoft 的 AI 助理品牌 | 服務 |
23 | AI 代理(AI Agent) | 能自主執行任務的 AI | 服務 |
24 | 多模態 | 同時處理文字、圖像與語音 | 服務 |
25 | 地端部署/雲端 | AI 營運基礎架構模式 | 商業 |
26 | 開源模型 | 權重公開模型 | 商業 |
27 | Token 經濟 | 以 Token 為基礎的 API 計費機制 | 商業 |
28 | 護欄機制 | 設定 AI 安全防護 | 商業 |
29 | AGI | 達到人類水準的通用智慧(尚未實現) | 趨勢 |
30 | AI 治理 | 組織內的 AI 管理體系 | 趨勢 |
💡 請將這張表截圖或列印出來,貼在螢幕旁邊。開會時 3 秒內就能確認術語。
Step 7:實戰應用 — 今天就能派上用場的 3 個情境
情境 A:在業務會議中回答客戶的提問
客戶:「微調和 RAG,我們該選哪一個?」
建議回答架構:
「客戶您好,這兩者的目的不同。RAG 是維持模型不變,把公司內部文件連接為檢索來源,2〜4 週內即可快速導入。微調(Fine-tuning)則是改變模型本身,準確度較高,但資料準備需要 2〜3 個月。建議先以 RAG 打造 MVP,看到成效後再以微調進一步強化。」
情境 B:在公司內部報告中試算 AI 導入成本
輸入 ChatGPT:
「假設每月以 GPT-4o mini API 處理 10,000 件客戶詢問,每件詢問平均輸入 500 個 Token、輸出 300 個 Token,請計算每月的 API 費用。並製作一份比較表,列出改用 GPT-4o 處理時的費用。」
情境 C:製作團隊培訓教材
輸入 ChatGPT:
「請為我們團隊(行銷部門,10 人)製作 AI 術語測驗。針對 LLM、RAG、微調、幻覺、提示工程、Token、多模態這 7 個術語,各出一題四選一題目,並附上正確答案與解析。」
結語檢核表
今天的學習結束後,請確認以下項目:
能以口頭說明 AI → ML → DL → 生成式 AI → LLM 的層級結構
能從成本角度說明 LLM 與 SLM 的差異
能用比喻區分並說明 RAG 與微調(Fine-tuning)
理解 Token 的概念,並能概算 API 費用
能說明幻覺(Hallucination)的風險與3 種防範方法
已將速查表列印出來貼在螢幕旁邊
💡 最後提醒:「知道」術語與「在會議中自然運用」是兩回事。本週的會議中,請至少有意識地使用 3 個術語。只要說出口一次,它就成為您自己的語言。