
AI 模型的「參數」與「Token」是什麼?用數字看懂 AI 效能的祕密
讀完這份指南,您會了解
參數是什麼,以及為什麼數字越大費用越高
Token 是什麼,為什麼一次放入太長的文件會出錯
GPT-3.5 vs GPT-4 vs GPT-4o 費用差異的真正原因
節省 Token,同時獲得更好結果的實用提示詞寫法
Step 1. 用上班族的語言理解「參數」
什麼是參數?
我們把 AI 模型比喻成人的大腦。大腦中約有 1,000 億個神經細胞(神經元),這些神經元彼此連結,儲存知識。AI 模型的 **參數(Parameter)** 就相當於神經元之間的連結。
1 個參數 = AI 所學知識的最小單位(一個數字)
參數越多 = 能記住更複雜的模式,生成更精細的回答
參數少 = 輕巧快速,但處理複雜問題較弱
主要模型的參數量比較
模型 | 參數量 | 比喻 |
|---|---|---|
GPT-2 (2019) | 15 億個 | 社區圖書館 |
GPT-3.5 (2022) | 1,750 億個 | 大學中央圖書館 |
GPT-4 (2023) | 約 1.8 兆個(推估) | 韓國國立中央圖書館全部館藏 |
Llama 3 8B | 80 億個 | 學習資料庫 |
Llama 3 70B | 700 億個 | 市立圖書館 |
💡 實用小提醒:像業務郵件初稿這類簡單工作,用 GPT-3.5(參數 1,750 億)就已足夠。只有合約分析、多語翻譯這類需要精細處理的工作才用 GPT-4,成本最多可降到 二十分之一。
親自驗證看看(實作)
步驟 1:在瀏覽器中開啟 chat.openai.com。
第 2 步:點選畫面上方的模型選擇下拉選單,會顯示「GPT-4o」「GPT-4o mini」「GPT-3.5」等選項。
步驟 3:先選擇 GPT-4o mini,再輸入下方的提示詞。
請將下列句子翻譯成英文、日文、越南文,並在每個譯文之外,另提供一個修改為商務電子郵件語氣的版本:「我想在下週二下午 3 點安排產品展示會議。若您方便出席,煩請告知,不勝感激。」
第 4 步:將同一則提示詞改用 GPT-4o 再輸入一次。
Before(GPT-4o mini):雖然能完成翻譯,但商務語氣偏向直譯,日文敬語的程度有時也不穩定。
After(GPT-4o):會使用符合各語言商務慣例的表達方式,日文則會包含「お忙しいところ恐れ入りますが」這類自然的商務敬語。
這個差異正是來自參數數量的差異。參數越多 = 學到的語言模式越多 = 產出的內容越自然。
Step 2. 用上班族的語言理解「Token」
什麼是 Token?
Token 是 AI 處理文字的最小單位。人是以字或詞為單位閱讀文章,AI 則是以 Token 為單位閱讀。
以英文為例:
「Hello」→ 1 個 Token
「I don't know」→ 4 個 token
英文 1 個單字 ≈ 平均 1.3 個 Token
以韓文為例:
「您好」→ 2〜3 個 Token
「產品展示會議」→ 4〜5 個 Token
韓文 1 個字 ≈ 平均 2〜3 個 Token(Token 消耗比英文多!)
💡 實用小提醒:同樣的內容,韓文消耗的 token 比英文多約 1.5〜2 倍。如果您是透過 API 使用,可以用英文撰寫提示詞中的指示,再加上「請以韓文回答」,就能節省 token 費用。
親手計算 Token 數量(實作)
步驟 1:在瀏覽器中開啟 platform.openai.com/tokenizer。
第 2 步:將下列句子貼到左側的文字輸入框。
您好,我是 ABC 解決方案的業務負責人 Min-su Kim。想向您提出一項可能有助於貴公司物流系統提升效率的提案,因此與您聯繫。
步驟 3:查看右側顯示的 Token count。上方這句話約為 55〜65 個 token。
步驟 4:這次輸入意思相同的英文句子。
Hello, I'm Minsu Kim, a sales representative at ABC Solutions. I'm reaching out to share a proposal that could help improve your logistics system efficiency.
結果比較:
語言 | 句子長度 | Token 數 |
|---|---|---|
韓文 | 約 70 字 | 約 60 個 Token |
英文 | 約 140 字 | 約 30 個 Token |
您可以親眼看到:韓文字數雖然較少,Token 消耗卻將近兩倍。
第 3 步:Token 上限(Context Window)對實務工作的影響
什麼是上下文視窗?
AI 模型在單次對話中能處理的最大 Token 數,稱為 **上下文視窗(Context Window)**。其中包含您送出的問題 + AI 的回答。
模型 | 上下文視窗 | A4 紙張換算(以韓文計) |
|---|---|---|
GPT-3.5 | 16,385 個 Token | 約 8~10 頁 |
GPT-4 | 8,192 個 Token | 約 4〜5 頁 |
GPT-4 Turbo | 128,000 個 Token | 約 65~80 頁 |
GPT-4o | 128,000 個 Token | 約 65~80 頁 |
Claude 3.5 Sonnet | 200,000 Token | 約 100〜120 頁 |
實務上遇到的 token 限制問題
情境 1:把 30 頁的 RFP(需求建議書)貼進 GPT-4(8K)會怎麼樣?
→ 只會讀到文件的前半部,後半部會被截斷。即使要求「幫我摘要」,也無法涵蓋全部內容。
情境 2:想分析業務會議的逐字稿(2 小時,約 15,000 字),該怎麼做?
→ 以韓文計算約 40,000〜50,000 個 Token。必須使用 GPT-4 Turbo 或 Claude 3.5。
💡 實用小提醒:處理長文件時,不要一次全部放入,而是依章節分段摘要,最後再彙整各段摘要,採用串接方式。這個方法對 token 上限較小的模型同樣有效。
實作:親身體驗 Token 上限
步驟 1:在 ChatGPT 中選擇 GPT-4o。
步驟 2:輸入下方提示詞。
請告訴我你目前的上下文視窗(Context Window)大小是多少,這段對話到目前為止大約用了多少 Token。另外,請估算我接下來大約還能使用多少 Token。
步驟 3:從 AI 的回應內容,您可以直覺感受目前這個模型的限制。
Step 4. 用數字看懂 GPT-4 為什麼貴
API 價格比較(2024 年基準,每 100 萬 token)
模型 | 輸入成本 | 輸出費用 | 相對成本 |
|---|---|---|---|
GPT-3.5 Turbo | $0.50 | $1.50 | 1 倍(基準) |
GPT-4o mini | $0.15 | $0.60 | 0.3x |
GPT-4o | $2.50 | $10.00 | 5~7x |
GPT-4 Turbo | $10.00 | $30.00 | 20x |
GPT-4 (8K) | $30.00 | $60.00 | 40x |
實際工作情境的費用試算
情境:假設一位 B2B 業務每天用 AI 撰寫 20 封開發信。
每封電子郵件的提示詞(輸入):約 300 個 Token
每封郵件的結果(輸出):約 500 個 Token
以每天 20 封計算:輸入 6,000 Token + 輸出 10,000 Token
模型 | 每日費用 | 每月費用(22 天) | 年度費用 |
|---|---|---|---|
GPT-4o mini | 約 $0.007 | $0.15 | $1.8 |
GPT-4o | 約 $0.12 | $2.54 | $30.5 |
GPT-4 Turbo | 約 $0.36 | $7.92 | $95.0 |
💡 實用小提醒:撰寫電子郵件草稿這類重複性工作,使用 GPT-4o mini 就能得到足夠好的結果。只在複雜分析(競爭對手比較、合約審閱、策略擬定)時才使用 GPT-4o,即可將成本效益發揮到最大。光是這個做法,每年的 API 費用就能節省 90% 以上。
Step 5. 省 token 又能得到更好結果的提示詞寫法
Before/After 對照:浪費 Token 的提示詞 vs 高效率的提示詞
❌ Before(低效率的提示詞 — 約消耗 150 個 token):
您好 ChatGPT!我是 B2B SaaS 公司的業務人員,今天有一封開發信要寄出。對方公司是物流公司,我們的產品是庫存管理解決方案。可以請您幫我把這封信寫得好一點嗎?不要太長,也不要太短,請用商務語氣。啊,還有請加上 CTA!
✅ After(高效率提示詞:約消耗 80 個 Token):
角色:B2B SaaS 業務電子郵件文案撰稿人
目標:撰寫開發信
目標對象:物流公司營運主管
產品:庫存管理解決方案(即時庫存追蹤、自動叫貨)
條件:150 字以內、商務語氣、包含 CTA
CTA:提議 15 分鐘的產品展示會議
結果比較:
項目 | Before | After |
|---|---|---|
輸入 Token | ~150 | ~80 |
輸出品質 | 籠統、方向不明確 | 具體明確,可直接使用 |
修改次數 | 需再追加 2~3 輪對話 | 0~1 次 |
總消耗 Token | 約 800(對話累計) | ~400 |
💡 實用小技巧:將提示詞結構化(拆成角色/目標/條件),可節省 50% 的 Token,成果品質反而更好。與其只說「幫我寫好一點」這種模糊的要求,明確列出條件,對 AI 來說才是清楚得多的指示。
實作:節省 Token 的提示詞範本
請複製下方範本,依照您的情況修改後使用。
步驟 1:開啟 ChatGPT,輸入下方結構化提示詞。
角色:[希望扮演的專家角色]
任務:[具體的任務內容]
輸入資訊:[簡要說明所需的背景資訊]
輸出格式:[表格、項目符號、電子郵件格式等]
限制條件:[字數、語氣、須包含/排除的內容]
步驟 2:確認結果後,只用簡短的追問提示詞補足不足的部分。
請將上方電子郵件的第一句改得更有衝擊力,並在 PS 加上限時優惠的文案。
這樣做比整份重寫可節省 70% 以上的 Token。
Step 6. 模型選擇決策指南
各類工作的推薦模型
工作類型 | 推薦模型 | 原因 |
|---|---|---|
電子郵件草稿撰寫 | GPT-4o mini | 簡單工作、將成本降到最低 |
整理會議筆記 | GPT-4o mini | 足以應付結構化輸出的效能 |
客戶提案初稿 | GPT-4o | 需要具備邏輯架構與說服力 |
合約/法律文件審閱 | GPT-4o 或 Claude 3.5 | 長篇文件+需要高準確度 |
競爭對手分析報告 | GPT-4o | 需要多面向的分析能力 |
分析長篇錄音逐字稿/會議紀錄 | Claude 3.5 Sonnet | 以 200K Token 處理長篇文件 |
多語翻譯 | GPT-4o | 語意細節的準確度高 |
Excel 公式/程式碼生成 | GPT-4o mini | 程式碼生成,小型模型也很出色 |
實作:找出適合自己的模型
步驟 1:寫下過去一週您請 AI 處理的 5 項工作。
第 2 步:將每項工作對照上表,配對合適的模型。
步驟 3:在 ChatGPT 中使用以下提示詞,分析自己的使用模式。
我是 B2B 業務人員,使用 AI 主要用於以下用途:
撰寫開發信(每天 10 封)
會議後撰寫跟進郵件(每天 5 封)
每週業務報告初稿(每週 1 次)
客戶產業分析(每週 2 次)
撰寫提案書初稿(每月 3 次)
請針對每項工作推薦最具成本效益的 OpenAI 模型,並計算每月預估的 Token 用量與費用。
💡 實戰小撇步:不要只固守單一模型。光是養成依任務難度切換模型的習慣,同樣的預算就能讓 AI 多處理 2〜3 倍的工作。
Step 7. 核心概念整理 — 1 分鐘複習卡
概念 | 一句話定義 | 職場比喻 |
|---|---|---|
參數 | 代表 AI 模型所學知識量的數字 | 圖書館的藏書量 |
Token | AI 讀寫文字的最小單位 | 計程車跳錶的每 100 公尺 |
上下文視窗 | 單次對話可處理的最大 token 數 | 可同時攤在桌上的文件份數 |
輸入 token | 我傳給 AI 的提問/指令所含的 Token 數 | 搭計程車出發前先說明目的地 |
輸出 Token | AI 所生成回答的 token 數 | 計程車實際行駛的距離 |
結語檢核表
如果下列項目您都能勾選,就代表已完全掌握這份指南的重點。
已在 OpenAI Tokenizer 上親自確認韓文與英文的 Token 數差異
已用 GPT-4o mini 與 GPT-4o 輸入相同提示詞,比較結果差異
使用結構化的提示詞範本(角色/任務/條件)撰寫郵件
已為我的 5 項主要工作配對適合的模型
已計算 Token 費用,掌握每月預估的 AI 使用成本
💡 最後提醒:請用一句話記住今天學到的內容 — 「參數是 AI 的大腦大小,Token 是 AI 的計費單位。依工作選對模型、把提示詞結構化,成本就會下降、品質就會提升。」