專欄・連載文章

LLM、GPT、生成式 AI…一次整理讓人混淆的 AI 術語

2026-04-04

封面圖片

LLM、GPT、生成式 AI…一次整理讓人混淆的 AI 術語

您是否曾在會議上聽到「那個用 RAG 不就好了嗎?」而一時語塞?跟著這份指南整理 30 個核心 AI 術語,下次開會時,您就是負責說明的人。


為什麼需要整理 AI 術語

  • 在 B2B 業務會議中,當客戶說**「正在評估導入生成式 AI」**時,若您能說明 LLM 與 SLM 的差異,信任度將提升2 倍。

  • 在公司內部的 DX(數位轉型)會議中,正確使用術語可讓溝通失誤減少60% 以上。

Before:「AI 喔……用 ChatGPT 之類的不就好了嗎?」

After:「就我們的使用情境而言,以公司內部資料對 RAG 架構的 SLM 進行微調後導入,成本效益最高。」


Step 1:基礎中的基礎 — 理解 AI 層級結構的 5 個術語

這個階段要描繪 AI 世界的地圖。以下 5 個術語由上而下呈現「包含關係」。

1. AI(Artificial Intelligence,人工智慧)

  • 一句話定義:模仿人類智慧的所有技術之統稱。

  • 會議中的用法:「這在 AI 之中屬於哪個類別?」

  • 💡 AI 是最大的傘。所有下層術語都包含在 AI 之中。

2. ML(Machine Learning,機器學習)

  • 一句話定義:透過學習資料來找出規律的 AI 子領域。

  • 範例:垃圾郵件過濾器、客戶流失預測模型

  • Before/After:規則式過濾(準確率 70%)→ 機器學習式過濾(準確率 95%)

3. DL(Deep Learning,深度學習)

  • 一句話定義:堆疊多層人工神經網路進行學習的一種機器學習方法。

  • 重點:「深度」指的是神經網路的層數很深(deep)。

4. 生成式 AI(Generative AI)

  • 一句話定義:不只是分析既有資料,而是能創造新內容(文字、圖像、程式碼)的 AI。

  • 範例:ChatGPT(文字)、Midjourney(圖像)、Suno(音樂)

  • 💡 與「分析式 AI」對照說明,會更容易理解。分析式是「這位客戶流失機率為 80%」,生成式則是「請為這位客戶撰寫一封電子郵件草稿」。

5. Foundation Model(基礎模型)

  • 一句話定義:以大規模資料預先訓練的通用 AI 模型,可應用於各種任務的基礎模型。

  • 範例:GPT-4、Claude、Gemini、LLaMA

實作提示詞:請輸入到 ChatGPT 試試看:

「請用俄羅斯娃娃來比喻,讓小學生也能聽懂 AI、機器學習、深度學習、生成式 AI 與基礎模型之間的關係。」


Step 2:掌握 7 個語言模型核心術語

這個階段是實務上最常出現的環節。

6. LLM(Large Language Model,大型語言模型)

  • 一句話定義:以數十億至數兆筆文字資料訓練而成的超大型語言模型。

  • 代表模型:GPT-4(OpenAI)、Claude(Anthropic)、Gemini(Google)

  • 會議應用範例:「這項業務需要評估,是直接使用 LLM,還是透過 API 串接。」

7. SLM(Small Language Model,小型語言模型)

  • 一句話定義:參數量比 LLM 少,但針對特定任務最佳化的輕量模型。

  • 代表模型:Phi-3(Microsoft)、Gemma(Google)

  • Before/After:LLM API 費用每月 KRW 5,000,000 (≈ US$3,740) → 自行營運 SLM 後每月 KRW 800,000 (≈ US$600)

  • 💡 B2B 業務洽談時,若客戶擔心成本,可建議「SLM + 微調組合」作為替代方案。

8. GPT (Generative Pre-trained Transformer)

  • 一句話定義:OpenAI 所開發的 LLM 系列名稱,同時也指「預先訓練的生成式 Transformer」這種技術架構。

  • 重點:GPT 既是專有名詞(OpenAI 的產品),也是一種技術架構。說「GPT 系列模型」時,指的是後者。

9. Transformer(轉換器)

  • 一句話定義:Google 於 2017 年發表的深度學習架構,相當於目前幾乎所有 LLM 的引擎。

  • 為什麼重要:源自「Attention Is All You Need」這篇論文,改變了 AI 的發展歷程。

  • 💡 可以這樣比喻:Transformer 是汽車的引擎,GPT 則是用這具引擎打造出來的特定車款。

10. 參數(Parameter)

  • 一句話定義:AI 模型在訓練過程中調整的內部變數數量,常用來表示模型的「大小」。

  • 直覺理解:GPT-3 擁有 1,750 億個參數,GPT-4 約有 1.8 兆個參數(推估)。

  • 會議應用:「這個模型屬於 70B(700 億)參數等級,需要地端 GPU。」

11. Token

  • 一句話定義:LLM 處理文字的最小單位。以韓文為例,一個字通常約為 1〜2 個 Token。

  • 成本計算:以 GPT-4o 為例,每 100 萬輸入 Token 約 $2.50 → 一頁韓文 A4(約 1,500 字)≈ 2,000〜3,000 個 Token

  • 💡「Token 數 = 費用」,因此提示詞寫得精簡,就能節省 API 費用。

12. 上下文視窗(Context Window)

  • 一句話定義:模型一次能讀取並處理的最大 Token 數量。

  • 比較:GPT-3.5(4K Token)→ GPT-4o(128K Token)→ Claude 3.5(200K Token)

  • 實務意義:上下文視窗越大,就越能一次放入長篇文件進行分析。

實作提示詞:

「請閱讀這份業務提案書(如下文字),摘要出客戶最可能關注的 3 個重點。[貼上提案書全文]」


Step 3:實務應用階段 — 與使用模型的方法相關的 8 個術語

13. 提示詞(Prompt)

  • 一句話定義:給 AI 模型的問題或指示。

  • Before:「請整理營收資料」→ 結果:籠統的表格

  • After:「請將 2024 年第 3 季營收依部門分類,並以 % 標示與上一季相比的增減率,製成表格」→ 結果:可直接用於報告的表格

14. 提示詞工程(Prompt Engineering)

  • 一句話定義:為了得到想要的結果,有系統地設計提示詞的技術。

  • 3 項核心技巧:

    • 角色設定:「您是一位擁有 10 年經驗的 B2B 業務策略專家」

    • 指定結構:「以表格形式 / 分成 3 點 / 500 字以內」

    • 提供範例:「請參照下列範例撰寫」

15. Few-shot / Zero-shot / One-shot

  • Zero-shot:不提供範例,直接提問。「幫我寫一封電子郵件草稿」

  • One-shot:提供 1 個範例。「請參考以下範例撰寫電子郵件 [1 個範例]」

  • Few-shot:提供 2〜5 個範例。

  • Before(Zero-shot):結果一致性 60% → After(Few-shot):結果一致性 90%

16. RAG(Retrieval-Augmented Generation,檢索增強生成)

  • 一句話定義:LLM 在回答時,會先檢索外部資料庫並參考其內容,再生成回答的技術。

  • 為什麼重要:LLM 並不知道訓練時間點之後的資訊。使用 RAG 就能依據公司內部最新文件來回答。

  • B2B 應用:將客戶的 1,000 頁手冊接上 RAG → 新進員工可立即獲得專家等級的解答

  • 💡 常被問到「微調 vs RAG」的比較。微調是改變模型本身,RAG 則是保持模型不變,只串接參考資料。就成本與時間而言,RAG 輕量許多。

17. 微調(Fine-tuning)

  • 一句話定義:讓預訓練模型以特定領域的資料進行額外訓練。

  • 範例:通用 GPT → 以 10 萬件法律文件微調 → 法律專用 AI

  • 費用概念:以 OpenAI GPT-4o mini 微調為例,訓練每 100 萬 Token 為 $3.00

18. 幻覺(Hallucination)

  • 一句話定義:AI 生成看似合理但並非事實的資訊的現象。

  • 實務風險:若在提案書中放入不存在的統計數據,信任度將蕩然無存。

  • 💡 預防方法:① 在提示詞中要求提供出處 ② 善用 RAG ③ 將事實查核列為必要步驟

19. 嵌入(Embedding)

  • 一句話定義:將文字、圖像轉換成數字向量(座標),讓 AI 能夠比較語意。

  • 實務範例:將 1 萬件客戶詢問轉成嵌入向量 → 自動分類相似詢問 → 縮短 40% 的回應時間

20. API (Application Programming Interface)

  • 一句話定義:讓外部程式能夠呼叫並使用 AI 模型功能的連接管道。

  • 會議應用:「只要在自行開發的應用程式中串接 GPT-4o API,就不必另外打造 AI。」

  • Before:員工手動輸入 ChatGPT 視窗(每筆 3 分鐘)→ After:API 自動串接(每筆 0.5 秒)

實作提示詞:

「我是 B2B SaaS 業務人員。當客戶問『RAG 和微調該導入哪一個?』時,請以成本、速度、準確度三項標準製作比較表,並在各項目中加入具體的數字範例。」


Step 4:8 個 AI 服務 & 商業術語

21. ChatGPT

  • 一句話定義:OpenAI 在 GPT 模型之上加上對話介面的服務名稱。

  • 💡 GPT 是引擎,ChatGPT 是汽車。請不要混用。

22. Copilot

  • 一句話定義:Microsoft 內建於 Office 365、Windows、GitHub 等產品中的 AI 助理品牌。

  • 實務範例:在 Excel 中對 Copilot 輸入「請將這份資料的趨勢製作成圖表」

23. AI 代理(AI Agent)

  • 一句話定義:無需人工介入,就能自行判斷並運用多種工具完成任務的 AI 系統。

  • 範例:自動執行「每天蒐集競爭對手新聞 → 摘要 → 傳送到 Slack」

  • Before:承辦人每天耗時 1 小時 → After:由代理自動執行,人員只需審閱(10 分鐘)

24. 多模態(Multimodal)

  • 一句話定義:能夠同時處理多種形式資料(文字、圖片、語音、影片等)的能力。

  • 範例:將產品照片上傳到 GPT-4o,並要求「幫我歸納這項產品的 3 個銷售重點」

25. 地端部署(On-premise)vs 雲端(Cloud)

  • 地端部署(On-premise):直接在自家伺服器上安裝並運作 AI 模型的方式。

  • 雲端:透過 AWS、Azure 等外部伺服器使用 AI 的方式。

  • 選擇標準:資安敏感資料(醫療、金融)→ 地端部署 / 需快速導入 → 雲端

  • 成本比較:地端部署初期投資約 KRW 300,000,000 (≈ US$224,500)~500,000,000 vs 雲端每月 KRW 5,000,000 (≈ US$3,740)~20,000,000

26. 開源模型 (Open Source Model)

  • 一句話定義:公開模型的權重(訓練成果),讓任何人都能下載、修改、散布的模型。

  • 代表模型:Meta 的 LLaMA 3、Mistral、Falcon

  • 💡 開源不等於免費。營運基礎設施(GPU 伺服器)的費用需另計。

27. Token 經濟(Token Economy / 計價體系)

  • 一句話定義:使用 API 時,依輸入與輸出 Token 數量計費的費用結構。

  • 比較(以 2024 年底為準):

    • GPT-4o:輸入 $2.50 / 輸出 $10.00(每 100 萬 Token)

    • Claude 3.5 Sonnet:輸入 $3.00 / 輸出 $15.00(每 100 萬 Token)

    • GPT-4o mini:輸入 $0.15 / 輸出 $0.60(每 100 萬 Token)

28. 護欄 (Guardrail)

  • 一句話定義:為避免 AI 給出不當或危險的回答,而設定的安全機制。

  • B2B 的重要性:面向客戶的聊天機器人若未設定護欄,將帶來品牌風險

  • 設定範例:「禁止回答中傷競爭對手的內容」、「禁止提供醫療・法律建議」、「禁止使用未經確認的數字」


Step 5:趨勢 & 策略術語最後 2 個

29. AGI(Artificial General Intelligence,通用人工智慧)

  • 一句話定義:不侷限於特定任務,而是能像人類一樣執行各種智力工作的 AI。

  • 目前狀態:尚未實現。目前的 GPT-4o、Claude 等仍屬於 ANI(特定領域智慧)階段。

  • 會議應用:「目前的水準並非 AGI,而是專攻特定業務的 AI,因此必須明確界定導入範圍。」

30. AI 治理(AI Governance)

  • 一句話定義:管理組織內 AI 使用的政策、倫理、資安與法規遵循的制度。

  • 必備項目:資料隱私政策、AI 產出內容的查核流程、員工 AI 使用指引

  • Before:員工各自使用 AI → 資料外洩風險 → After:建立治理機制 → 資安事件 0 件


Step 6:30 個術語總整理 — 速查表

編號

術語

一分鐘讀懂

類別

1

AI

模仿人類智慧之技術的總稱

基礎

2

ML

從資料中學習規律的 AI

基礎

3

DL

將神經網路堆疊得很深的 ML

基礎

4

生成式 AI

創造新內容的 AI

基礎

5

基礎模型

大規模預訓練的通用模型

基礎

6

LLM

超大型語言模型

語言模型

7

SLM

輕量化專用語言模型

語言模型

8

GPT

OpenAI 的生成式預訓練轉換器

語言模型

9

Transformer

現代 LLM 的核心架構

語言模型

10

參數

模型內部的可學習參數數量

語言模型

11

Token

LLM 處理文字的最小單位

語言模型

12

上下文視窗

一次可處理的最大 Token 數

語言模型

13

提示詞

給 AI 的指示

應用

14

提示詞工程

系統化地設計提示詞

應用

15

Few-shot/Zero-shot

有無範例的提示詞方式

應用

16

RAG

檢索外部資料後生成回答

應用

17

微調(Fine-tuning)

以特定領域資料進行追加訓練

應用

18

AI 幻覺(Hallucination)

AI 生成虛假資訊的現象

應用

19

嵌入

將文字轉換為數值向量

應用

20

API

AI 功能呼叫的連接通道

應用

21

ChatGPT

OpenAI 的對話式 AI 服務

服務

22

Copilot

Microsoft 的 AI 助理品牌

服務

23

AI 代理(AI Agent)

能自主執行任務的 AI

服務

24

多模態

同時處理文字、圖像與語音

服務

25

地端部署/雲端

AI 營運基礎架構模式

商業

26

開源模型

權重公開模型

商業

27

Token 經濟

以 Token 為基礎的 API 計費機制

商業

28

護欄機制

設定 AI 安全防護

商業

29

AGI

達到人類水準的通用智慧(尚未實現)

趨勢

30

AI 治理

組織內的 AI 管理體系

趨勢

💡 請將這張表截圖或列印出來,貼在螢幕旁邊。開會時 3 秒內就能確認術語。


Step 7:實戰應用 — 今天就能派上用場的 3 個情境

情境 A:在業務會議中回答客戶的提問

客戶:「微調和 RAG,我們該選哪一個?」

建議回答架構:

「客戶您好,這兩者的目的不同。RAG 是維持模型不變,把公司內部文件連接為檢索來源,2〜4 週內即可快速導入。微調(Fine-tuning)則是改變模型本身,準確度較高,但資料準備需要 2〜3 個月。建議先以 RAG 打造 MVP,看到成效後再以微調進一步強化。」

情境 B:在公司內部報告中試算 AI 導入成本

輸入 ChatGPT:

「假設每月以 GPT-4o mini API 處理 10,000 件客戶詢問,每件詢問平均輸入 500 個 Token、輸出 300 個 Token,請計算每月的 API 費用。並製作一份比較表,列出改用 GPT-4o 處理時的費用。」

情境 C:製作團隊培訓教材

輸入 ChatGPT:

「請為我們團隊(行銷部門,10 人)製作 AI 術語測驗。針對 LLM、RAG、微調、幻覺、提示工程、Token、多模態這 7 個術語,各出一題四選一題目,並附上正確答案與解析。」


結語檢核表

今天的學習結束後,請確認以下項目:

  • 能以口頭說明 AI → ML → DL → 生成式 AI → LLM 的層級結構

  • 能從成本角度說明 LLM 與 SLM 的差異

  • 能用比喻區分並說明 RAG 與微調(Fine-tuning)

  • 理解 Token 的概念,並能概算 API 費用

  • 能說明幻覺(Hallucination)的風險與3 種防範方法

  • 已將速查表列印出來貼在螢幕旁邊

💡 最後提醒:「知道」術語與「在會議中自然運用」是兩回事。本週的會議中,請至少有意識地使用 3 個術語。只要說出口一次,它就成為您自己的語言。

您正在評估以此主題辦理企業內訓嗎?
📚 ChatGPT 與 AI 工具培訓 →📚 以 AI Agent 完成工作自動化實作 →全部培訓課程 →
← 專欄列表 洽詢企業內訓

專欄一覽

查看全部專欄 →

常見問題

  • 分類:basic
  • 發布日期:2026-04-04
  • 作者:金鍾赫 · Nanum 經營顧問

LLM、GPT、生成式 AI……令人混淆的 AI 術語一次整理 您是否曾在會議上聽到「那個用 RAG 不就好了嗎?」而一時語塞?跟著這份指南整理 30 個核心 AI 術語,下次開會時,您就是負責說明的人…

是的,Nanum 經營顧問開設與本文主題相關的客製化到府企業內訓與線上課程。我們會依學員對象與程度調整課程規劃。