專欄・連載文章

AI 模型的「參數」與「Token」是什麼?用數字讀懂 AI 效能的祕密

2026-04-05

封面圖片

AI 模型的「參數」與「Token」是什麼?用數字看懂 AI 效能的祕密

讀完這份指南,您會了解

  • 參數是什麼,以及為什麼數字越大費用越高

  • Token 是什麼,為什麼一次放入太長的文件會出錯

  • GPT-3.5 vs GPT-4 vs GPT-4o 費用差異的真正原因

  • 節省 Token,同時獲得更好結果的實用提示詞寫法


Step 1. 用上班族的語言理解「參數」

什麼是參數?

我們把 AI 模型比喻成人的大腦。大腦中約有 1,000 億個神經細胞(神經元),這些神經元彼此連結,儲存知識。AI 模型的 **參數(Parameter)** 就相當於神經元之間的連結。

  • 1 個參數 = AI 所學知識的最小單位(一個數字)

  • 參數越多 = 能記住更複雜的模式,生成更精細的回答

  • 參數少 = 輕巧快速,但處理複雜問題較弱

主要模型的參數量比較

模型

參數量

比喻

GPT-2 (2019)

15 億個

社區圖書館

GPT-3.5 (2022)

1,750 億個

大學中央圖書館

GPT-4 (2023)

約 1.8 兆個(推估)

韓國國立中央圖書館全部館藏

Llama 3 8B

80 億個

學習資料庫

Llama 3 70B

700 億個

市立圖書館

💡 實用小提醒:像業務郵件初稿這類簡單工作,用 GPT-3.5(參數 1,750 億)就已足夠。只有合約分析、多語翻譯這類需要精細處理的工作才用 GPT-4,成本最多可降到 二十分之一。

親自驗證看看(實作)

步驟 1:在瀏覽器中開啟 chat.openai.com。


第 2 步:點選畫面上方的模型選擇下拉選單,會顯示「GPT-4o」「GPT-4o mini」「GPT-3.5」等選項。


步驟 3:先選擇 GPT-4o mini,再輸入下方的提示詞。

請將下列句子翻譯成英文、日文、越南文,並在每個譯文之外,另提供一個修改為商務電子郵件語氣的版本:「我想在下週二下午 3 點安排產品展示會議。若您方便出席,煩請告知,不勝感激。」

第 4 步:將同一則提示詞改用 GPT-4o 再輸入一次。


Before(GPT-4o mini):雖然能完成翻譯,但商務語氣偏向直譯,日文敬語的程度有時也不穩定。


After(GPT-4o):會使用符合各語言商務慣例的表達方式,日文則會包含「お忙しいところ恐れ入りますが」這類自然的商務敬語。

這個差異正是來自參數數量的差異。參數越多 = 學到的語言模式越多 = 產出的內容越自然。


Step 2. 用上班族的語言理解「Token」

什麼是 Token?

Token 是 AI 處理文字的最小單位。人是以字或詞為單位閱讀文章,AI 則是以 Token 為單位閱讀。


以英文為例:

  • 「Hello」→ 1 個 Token

  • 「I don't know」→ 4 個 token

  • 英文 1 個單字 ≈ 平均 1.3 個 Token

以韓文為例:

  • 「您好」→ 2〜3 個 Token

  • 「產品展示會議」→ 4〜5 個 Token

  • 韓文 1 個字 ≈ 平均 2〜3 個 Token(Token 消耗比英文多!)

💡 實用小提醒:同樣的內容,韓文消耗的 token 比英文多約 1.5〜2 倍。如果您是透過 API 使用,可以用英文撰寫提示詞中的指示,再加上「請以韓文回答」,就能節省 token 費用。

親手計算 Token 數量(實作)

步驟 1:在瀏覽器中開啟 platform.openai.com/tokenizer。


第 2 步:將下列句子貼到左側的文字輸入框。

您好,我是 ABC 解決方案的業務負責人 Min-su Kim。想向您提出一項可能有助於貴公司物流系統提升效率的提案,因此與您聯繫。

步驟 3:查看右側顯示的 Token count。上方這句話約為 55〜65 個 token。


步驟 4:這次輸入意思相同的英文句子。

Hello, I'm Minsu Kim, a sales representative at ABC Solutions. I'm reaching out to share a proposal that could help improve your logistics system efficiency.

結果比較:

語言

句子長度

Token 數

韓文

約 70 字

約 60 個 Token

英文

約 140 字

約 30 個 Token

您可以親眼看到:韓文字數雖然較少,Token 消耗卻將近兩倍。


第 3 步:Token 上限(Context Window)對實務工作的影響

什麼是上下文視窗?

AI 模型在單次對話中能處理的最大 Token 數,稱為 **上下文視窗(Context Window)**。其中包含您送出的問題 + AI 的回答。

模型

上下文視窗

A4 紙張換算(以韓文計)

GPT-3.5

16,385 個 Token

約 8~10 頁

GPT-4

8,192 個 Token

約 4〜5 頁

GPT-4 Turbo

128,000 個 Token

約 65~80 頁

GPT-4o

128,000 個 Token

約 65~80 頁

Claude 3.5 Sonnet

200,000 Token

約 100〜120 頁

實務上遇到的 token 限制問題

情境 1:把 30 頁的 RFP(需求建議書)貼進 GPT-4(8K)會怎麼樣?

→ 只會讀到文件的前半部,後半部會被截斷。即使要求「幫我摘要」,也無法涵蓋全部內容。


情境 2:想分析業務會議的逐字稿(2 小時,約 15,000 字),該怎麼做?

→ 以韓文計算約 40,000〜50,000 個 Token。必須使用 GPT-4 Turbo 或 Claude 3.5。


💡 實用小提醒:處理長文件時,不要一次全部放入,而是依章節分段摘要,最後再彙整各段摘要,採用串接方式。這個方法對 token 上限較小的模型同樣有效。

實作:親身體驗 Token 上限

步驟 1:在 ChatGPT 中選擇 GPT-4o。


步驟 2:輸入下方提示詞。

請告訴我你目前的上下文視窗(Context Window)大小是多少,這段對話到目前為止大約用了多少 Token。另外,請估算我接下來大約還能使用多少 Token。

步驟 3:從 AI 的回應內容,您可以直覺感受目前這個模型的限制。


Step 4. 用數字看懂 GPT-4 為什麼貴

API 價格比較(2024 年基準,每 100 萬 token)

模型

輸入成本

輸出費用

相對成本

GPT-3.5 Turbo

$0.50

$1.50

1 倍(基準)

GPT-4o mini

$0.15

$0.60

0.3x

GPT-4o

$2.50

$10.00

5~7x

GPT-4 Turbo

$10.00

$30.00

20x

GPT-4 (8K)

$30.00

$60.00

40x

實際工作情境的費用試算

情境:假設一位 B2B 業務每天用 AI 撰寫 20 封開發信。

  • 每封電子郵件的提示詞(輸入):約 300 個 Token

  • 每封郵件的結果(輸出):約 500 個 Token

  • 以每天 20 封計算:輸入 6,000 Token + 輸出 10,000 Token

模型

每日費用

每月費用(22 天)

年度費用

GPT-4o mini

約 $0.007

$0.15

$1.8

GPT-4o

約 $0.12

$2.54

$30.5

GPT-4 Turbo

約 $0.36

$7.92

$95.0

💡 實用小提醒:撰寫電子郵件草稿這類重複性工作,使用 GPT-4o mini 就能得到足夠好的結果。只在複雜分析(競爭對手比較、合約審閱、策略擬定)時才使用 GPT-4o,即可將成本效益發揮到最大。光是這個做法,每年的 API 費用就能節省 90% 以上。


Step 5. 省 token 又能得到更好結果的提示詞寫法

Before/After 對照:浪費 Token 的提示詞 vs 高效率的提示詞

❌ Before(低效率的提示詞 — 約消耗 150 個 token):

您好 ChatGPT!我是 B2B SaaS 公司的業務人員,今天有一封開發信要寄出。對方公司是物流公司,我們的產品是庫存管理解決方案。可以請您幫我把這封信寫得好一點嗎?不要太長,也不要太短,請用商務語氣。啊,還有請加上 CTA!

✅ After(高效率提示詞:約消耗 80 個 Token):

角色:B2B SaaS 業務電子郵件文案撰稿人

目標:撰寫開發信

目標對象:物流公司營運主管

產品:庫存管理解決方案(即時庫存追蹤、自動叫貨)

條件:150 字以內、商務語氣、包含 CTA

CTA:提議 15 分鐘的產品展示會議

結果比較:

項目

Before

After

輸入 Token

~150

~80

輸出品質

籠統、方向不明確

具體明確,可直接使用

修改次數

需再追加 2~3 輪對話

0~1 次

總消耗 Token

約 800(對話累計)

~400

💡 實用小技巧:將提示詞結構化(拆成角色/目標/條件),可節省 50% 的 Token,成果品質反而更好。與其只說「幫我寫好一點」這種模糊的要求,明確列出條件,對 AI 來說才是清楚得多的指示。

實作:節省 Token 的提示詞範本

請複製下方範本,依照您的情況修改後使用。


步驟 1:開啟 ChatGPT,輸入下方結構化提示詞。

角色:[希望扮演的專家角色]

任務:[具體的任務內容]

輸入資訊:[簡要說明所需的背景資訊]

輸出格式:[表格、項目符號、電子郵件格式等]

限制條件:[字數、語氣、須包含/排除的內容]

步驟 2:確認結果後,只用簡短的追問提示詞補足不足的部分。

請將上方電子郵件的第一句改得更有衝擊力,並在 PS 加上限時優惠的文案。

這樣做比整份重寫可節省 70% 以上的 Token。


Step 6. 模型選擇決策指南

各類工作的推薦模型

工作類型

推薦模型

原因

電子郵件草稿撰寫

GPT-4o mini

簡單工作、將成本降到最低

整理會議筆記

GPT-4o mini

足以應付結構化輸出的效能

客戶提案初稿

GPT-4o

需要具備邏輯架構與說服力

合約/法律文件審閱

GPT-4o 或 Claude 3.5

長篇文件+需要高準確度

競爭對手分析報告

GPT-4o

需要多面向的分析能力

分析長篇錄音逐字稿/會議紀錄

Claude 3.5 Sonnet

以 200K Token 處理長篇文件

多語翻譯

GPT-4o

語意細節的準確度高

Excel 公式/程式碼生成

GPT-4o mini

程式碼生成,小型模型也很出色

實作:找出適合自己的模型

步驟 1:寫下過去一週您請 AI 處理的 5 項工作。


第 2 步:將每項工作對照上表,配對合適的模型。


步驟 3:在 ChatGPT 中使用以下提示詞,分析自己的使用模式。

我是 B2B 業務人員,使用 AI 主要用於以下用途:

  1. 撰寫開發信(每天 10 封)

  2. 會議後撰寫跟進郵件(每天 5 封)

  3. 每週業務報告初稿(每週 1 次)

  4. 客戶產業分析(每週 2 次)

  5. 撰寫提案書初稿(每月 3 次)

請針對每項工作推薦最具成本效益的 OpenAI 模型,並計算每月預估的 Token 用量與費用。

💡 實戰小撇步:不要只固守單一模型。光是養成依任務難度切換模型的習慣,同樣的預算就能讓 AI 多處理 2〜3 倍的工作。


Step 7. 核心概念整理 — 1 分鐘複習卡

概念

一句話定義

職場比喻

參數

代表 AI 模型所學知識量的數字

圖書館的藏書量

Token

AI 讀寫文字的最小單位

計程車跳錶的每 100 公尺

上下文視窗

單次對話可處理的最大 token 數

可同時攤在桌上的文件份數

輸入 token

我傳給 AI 的提問/指令所含的 Token 數

搭計程車出發前先說明目的地

輸出 Token

AI 所生成回答的 token 數

計程車實際行駛的距離


結語檢核表

如果下列項目您都能勾選,就代表已完全掌握這份指南的重點。

  • 已在 OpenAI Tokenizer 上親自確認韓文與英文的 Token 數差異

  • 已用 GPT-4o mini 與 GPT-4o 輸入相同提示詞,比較結果差異

  • 使用結構化的提示詞範本(角色/任務/條件)撰寫郵件

  • 已為我的 5 項主要工作配對適合的模型

  • 已計算 Token 費用,掌握每月預估的 AI 使用成本

💡 最後提醒:請用一句話記住今天學到的內容 — 「參數是 AI 的大腦大小,Token 是 AI 的計費單位。依工作選對模型、把提示詞結構化,成本就會下降、品質就會提升。」

本文提到的工具
ClaudeChatGPT
您正在評估以此主題辦理企業內訓嗎?
📚 以 AI Agent 完成個人工作自動化實作 →📚 AX 工作坊:以 AI Agent 開啟經營革新 →全部課程 →
← 專欄列表 洽詢企業內訓

專欄一覽

用 AI 製作簡報程式/NanumAI2026-11-02讓經銷商・合作夥伴站在我們這一邊的通路管理策略2026-08-09「萬一換了反而被罵怎麼辦」——如何掌握 B2B 採購承辦人的風險規避心理2026-07-11真正善用 AI 的人另有不同 — 關鍵不是提示詞,而是「交辦工作的能力」2026-07-03AI 時代擺脫苦工之路:用 Vibe Coding 在 2 週內整合分散的平台2026-07-02B2B 潛在客戶評分該如何設計?— 業務真正想要的 MQL 條件2026-06-15週報、會議紀錄、客戶郵件,交給 AI 處理,打造每天省下 2 小時的上班族日常2026-04-10選擇適合自己的 AI 付費方案:ChatGPT Plus vs Claude Pro vs Gemini Advanced 性價比完整比較2026-04-05AI 連圖像、影片、語音都能生成的時代,什麼是多模態 AI?2026-04-05打造專屬的 AI 工作助理:ChatGPT GPTs 與 Claude Projects 客製化設定完整指南2026-04-05AI「學習」是什麼意思?用上班族的角度看懂機器學習的核心2026-04-05B2B 業務人員專用提示詞範本 10 選:從開發信、提案書到會後紀錄2026-04-05AI 模型的「參數」與「Token」是什麼?用數字看懂 AI 效能的祕密2026-04-05提示工程入門:讓 AI 給出理想答案的 5 大核心原則2026-04-05角色賦予的技巧:為什麼為 AI 設定「角色」,產出結果就會不同2026-04-05從申請 OpenAI・Anthropic・Google API 金鑰到第一次呼叫,非開發人員也能跟著做的實戰指南2026-04-05AI 模型規模比較:GPT-4、Claude、Gemini、Llama… 差在哪裡、該用哪一個?2026-04-05一次比較測試 ChatGPT、Claude、Gemini 三大 AI 的工作空間設定方法2026-04-05從註冊 Claude 到 Pro 方案 200 美元的價值,完整設定指南2026-04-05讓 AI 分析資料:上傳 Excel・CSV 檔案後,擷取洞察的提示詞撰寫方法2026-04-05ChatGPT、Claude、Gemini Chrome 擴充功能與快捷鍵總整理:讓工作速度加倍的設定方法2026-04-05AI 幻覺(Hallucination)為什麼會發生?生成式 AI 的限制與正確使用方式2026-04-05在手機上也能全面活用 AI:從智慧型手機 AI 應用程式安裝到語音對話、照片分析設定2026-04-05從註冊 Gemini 到串接 Google Workspace,上班族專屬的設定指南2026-04-05什麼是 AI Agent?輕鬆理解聊天機器人與 Agent 的關鍵差異2026-04-05
查看全部專欄 →

常見問題

  • 分類:basic
  • 發布日期:2026-04-05
  • 作者:金鍾赫 · Nanum 經營顧問

AI 模型的 '參數' 與 'Token' 到底是什麼?用數字讀懂 AI 效能的秘密 讀完這份指南,您將了解 參數 是什麼,為什麼數字越大費用越高 Token 是什麼,為什麼一次放入長篇文件會…

是的,Nanum 經營顧問開設與本文主題相關的客製化到府企業內訓與線上課程。我們會依學員對象與程度調整課程規劃。