AI 導入成本 · Token 計費
AI Cost and Token Pricing
什麼是 AI 導入成本?
- 按人頭訂閱與用量計費兩大面向
- 輸入與輸出都計費,且輸出較貴
- 培訓、管理與驗證的工時容易被排除在預算之外
AI 成本的問題,已從「一個月要花多少」轉為「誰用來做什麼、怎麼用」。即使在同一個團隊裡,登入畫面潤飾報告的人,和接上系統每天自動處理數百筆業務的作業,成本增長曲線本來就不同。前者若不增加人力,預算大致固定;後者只要工作量增加,帳單也會跟著變大。沒有先區分使用方式的預算案,在財務審查時一定會被退回。簽呈的第一張表不是金額表,而是依使用類型列出的人數與處理件數表。
Token是模型切割文字後處理的片段。韓文比英文切得更碎,同樣分量會產生更多 token,因此在看單價表之前,先放入十件實際業務文件,量測每件的輸入與輸出 token 會比較快。輸入與輸出的單價不同,通常輸出較貴。影響成本差異的關鍵不在模型選擇,而在於每次整份塞進去的附件文件。每次都附上 40 頁的規章,得到同樣答案,成本卻成倍增加;只篩出需要的條款,成本就會等比減少。Token 費只是總成本的一部分,這點也必須一併考量。
簽呈上常被遺漏的項目,都在工具費用之外。初期教育與內部指南撰寫、負責管理帳號與權限的營運人員每月工時、由人工確認結果的審核時間,以及試用後放棄的嘗試成本,都要納入,數字才會對得上。成效則反過來從保守角度估算。節省的時間以人事成本單價換算,並採保守估計,同時註明何時、以何種方式重新衡量。單價與方案會按季變動,因此文件中應保留計算公式,而非特定金額。
現場最常出錯的,就是「Token 單價連一杯咖啡都不到,不用在意」這句話。一個人試用時確實如此,但一旦夜間批次開始跑、錯誤重試累加、搜尋結果被整段塞進去,一個月內金額的位數就會改變。也有相反方向的誤解。全體員工帳號一次買齊看似公平,但兩個月後打開登入紀錄,一半是空的,而那筆錢已綁在年約裡。帳號只給實際使用的人,用量則附上上限,這樣開始比較安全。
隨著語言模型 API 商用化,以 Token 為單位的計費成為標準。之後企業版訂閱方案問世,形成了畫面使用與系統串接分開計費的架構。
以下用假設案例說明。A 公司是一家汽車零件製造商,員工 520 人,年營收 KRW 130,000,000,000 (≈ US$97,301,000)。品質保證部門每月要撰寫 1,400 件海外客戶的客訴回覆,每件耗時 40 分鐘。經營企劃部門曾兩度提出 AI 導入簽呈,兩次都以「缺乏成本依據」為由遭駁回。
- 經營企劃部的朴次長花了兩週調查各部門的實際使用狀況,發現直接在畫面上操作的有 38 人,其餘 12 人則表示「只領了帳號,但沒在用」。
- IT 團隊的李課長實際用 API 跑了 100 件客訴回覆後重新測算,得出每件輸入 6,200 Token、輸出 900 Token;再乘以每月 1,400 件,就建立了用量預算的依據。
- 重新檢視的過程中發現,每次回覆都整份附上 40 頁的品質規範手冊。只把相關條款挑出來放進去後,輸入 Token 從每件 6,200 降到 1,800。
- 財務組金組長表示「只寫工具費用的簽呈無法送審」,因此另列一行,納入初期教育 2 天、營運負責人每月 16 小時,以及回覆審核所需的負責人時間。
- 我們將效益以「每件節省 25 分鐘(原為 40 分鐘)」的保守值估算,並附上「3 個月後以實際處理紀錄重新計算」的說明,第三次送簽呈時獲得核准。
- 導入三個月後,訂閱帳號維持在 38 個,實際請款金額約為編列預算的 78%,回覆撰寫時間則從每件 40 分鐘縮短為 14 分鐘。
金鍾赫
朴雪英