AI 代理
AI Agent
什麼是 AI 代理?
- 給定目標後自行規劃、使用工具
- 不只回答,更能「執行」
- 執行多步驟工作
導入 AI 代理時,最先改變的是工作指示書的格式。過去的自動化必須由人把流程一步步寫清楚(例如「開啟第 1 個畫面、複製第 2 個數值、貼到第 3 張試算表」)才能運作;代理則是以成果為標準下指令,例如「整理本週應收帳款現況,並把主管報告初稿也一併完成」。因此管理者的工作重心,也從監督流程轉向檢核成果與規劃權限範圍。
實務上,依自主程度區分較為實用。可分為:每個步驟都需由人按下核准鈕的輔助型、在既定範圍內自行運作、只回報結果的半自主型,以及連例外狀況都能自行判斷的全自主型。目前國內多數導入案例介於輔助型與半自主型之間。聊天機器人只完成一次提問與回答,RPA則依循固定的畫面與座標操作,而代理的關鍵差異在於能看懂情況後,自行挑選要使用的工具。
不過,並非任何業務都適合套用。目標系統必須開放 API,或至少開放可查詢的畫面;系統也必須留存紀錄,記下呼叫了哪些工具、各呼叫幾次;而且執行錯誤時必須能夠復原。與其一開始就接上十來個工具,從 3 至 5 個工具、5 至 10 個步驟左右起步,親自確認失敗的環節後再逐步擴大,會比較安全。
最常見的誤解是「反正它會自己做,所以可以少檢查」。即使每個步驟的準確率都有 95%,連續執行 10 個步驟,最終成功率仍會降到 60% 以下。再加上若寄信或修改庫存等寫入權限未經核准就開放,就可能發生像是錯誤單價的報價單被自動寄給二十家客戶的事故。若沒有先決定在哪個步驟由人工介入,大多數導入計畫在三個月內就會停擺。
| 比較 | 代理 | Copilot |
|---|---|---|
| 角色 | 自行執行多個步驟 | 在人旁協助 |
| 主導 | AI 主導 | 由人主導 |
| 是 | 自動調查與處理 | 協助撰寫文件與程式碼 |
它是在 LLM 結合「工具使用」與「逐步推理」的趨勢中(2022 年以後)興起的。像是交替進行推理與行動的 ReAct 等技術,是其中最具代表性的契機。
我們以一個虛構案例來說明。這是員工 180 人、年營收約 KRW 90,000,000,000 (≈ US$67,362,200) 的家電流通商 A 公司的故事。客服團隊 6 人每月要處理 3,200 件配送與退貨諮詢,因為要在訂單管理系統與物流業者查詢畫面之間來回切換,每件平均處理時間超過 7 分鐘。第三季旺季將至,客服主管提議「在招人之前,先試一次看看吧」,於是導入了 AI 代理。
- 客服團隊的朴副理將近三週共 9,600 筆諮詢紀錄依類型分類,用數字證明配送查詢、退貨受理、換貨說明這三類就佔了全部詢問的 68%。
- IT 團隊僅以唯讀權限串接訂單管理系統與物流業者 API,並設定退款執行與客戶郵件寄送必須由客服人員按下核准鈕才會送出。
- 當客戶詢問「昨天訂的商品什麼時候會到?」時,代理會依客戶編號找到訂單、查詢配送單狀態,再把回覆草稿顯示在客服人員的畫面上,自行執行這五個步驟。
- 前兩週錯誤率為 11%,朴副理於是加入例外規則:'預約配送與部分取消的案件一律交給人工處理',第三週錯誤率就降到 3% 上下。
- 三個月後,每件平均處理時間從 7 分 12 秒縮短為 2 分 40 秒,旺季原訂增聘的 3 名約聘人員也未招募,仍能處理每月 3,200 件。取而代之的是,一名客服人員轉任專職負責回覆審核。
金鍾赫
朴雪英