知識 · AI 基礎

人在迴路中 · HITL

Human-in-the-Loop

📂AI 基礎⏱閱讀 2 分鐘📊實務🔗相關 8

人在迴路中(HITL)是什麼?

一句話定義
在 AI 系統的運作過程中,刻意設計人工審核與批准節點的原則(Human-in-the-Loop)。風險越高的決策,越要加強人為介入。
將此主題帶入企業內訓📚 相關課程💬 教育諮詢
⚡ 3 行重點摘要
  • 在 AI 流程中設置人工審核與介入節點的設計
  • 錯誤與幻覺的最後防線,也是責任歸屬的依據
  • 決策風險越高,就越要加強人為介入

設計 HITL 之後,組織內的問題會開始改變。原本問「AI 有多準確」的地方,會出現 「出錯時,由誰、在什麼時間點發現?」這個問題。要把模型效能提升到 100% 是不可能的,但可以建立關卡,讓錯誤在真正執行前被攔下。HITL 的實質效果,就是讓討論從準確度的競爭,轉向控制點的設計。

介入方式通常分為三層。執行前必須由人核准才能進行的事前管控;執行由系統自動完成、但事後抽樣檢查紀錄的人在迴路上(HOTL);以及由人掌握系統啟動與停止權限本身的人在指揮中(HIC)。實務上會混合使用。例如模型信心度 90% 以上自動處理,70~90% 進入審核佇列,70% 以下自動退回。有一個需要注意的界線:人只是盯著畫面,並不等於 HITL。必須同時給予推翻結果的權限與判斷的時間,才能發揮控制點的功能。

現場最常崩潰的地方就是核准按鈕。當一位審核者一天被分配 300 件時,人就會傾向於照 AI 的判斷照單全收(自動化偏誤),稽核紀錄裡會全都是「人工核准」,但實際上的檢視幾乎等於零。在這種狀態下一旦出事,責任會落在最後按下按鈕的實務人員身上,HITL 就會淪為免責的擋箭牌。請同時設定審核件數上限、要求填寫一行核准理由,並監控退回率。如果退回率持續為 0%,就是審核沒有發揮作用的訊號。

會出現此術語的課程 · AI・DX
推薦課程 · 推薦講師 · 迷你報價
🧮 迷你報價 · 講師費基準
約 KRW 1,200,000 (≈ US$900)專題講座 2 小時 · 20 人以下 · 韓語
依此條件取得正式報價 →
💡 簡單來說
自動駕駛時也要把手放在方向盤上——遇到危險時刻,由人來接手。
為什麼在實務上很重要
當 AI 代理真正執行業務的時代來臨,「哪些交給 AI、哪些地方需要人工確認」就成了 AI 導入設計的核心問題。歐盟 AI 法等法規也要求高風險 AI 必須有人類監督。
由來與出處

源自控制系統與機器學習中的人為介入研究,隨著生成式 AI 與代理的普及,已成為 AI 治理的標準用語。

出處 · 控制系統與機器學習中的人為介入(Human-in-the-Loop)研究 · 查看原文
透過案例理解

以下以假設案例說明。全體員工 420 人規模的流通企業 A 公司,在下半年公開招募時導入 AI 履歷篩選。應徵者達 2,400 人,人資團隊審閱履歷的人力只有 3 人,甄選期間也只有兩週。導入第一週,就有應徵者來信質疑「連標準是什麼都不知道,就把人刷掉」,人資主管因此重新規劃了人工介入的節點。

  1. 人資主管縮減了 AI 的權限。只讓 AI 過濾工作年資、必備證照等可直接查證的不符條件,僅憑適配度分數淘汰應徵者則一律禁止。
  2. 前三週同時進行 AI 判定與負責人判定。針對 AI 淘汰的 310 件,由 2 名招募負責人全數重新審查,結果發現其中 17 件為誤淘汰,原因在於經歷欄位的格式不同。
  3. 在重新檢討會議上,一位負責人說:「這份履歷如果沒有人看過,就會直接被刷掉」,組長於是修改規則,把 60~75 分區間列為「保留」,全部交由人工處理。
  4. 審核畫面也一併調整。通過、淘汰按鈕都必須填寫一行理由,並將每位審核人員每日上限設為 120 筆,以防止機械式的連續點擊。
  5. 三個月後,誤淘汰從 17 件降到 2 件,書面審查所需時間從 11 天縮短為 4 天。應試者提出異議的件數則從每月 23 件降到 4 件。
相關術語
AI 代理人不只回答問題,而是接到目標後,自行規劃並運用工具,執行多步驟任務的 AI。護欄機制事先設下的安全機制與規則,防止 AI 給出危險、不當或違反規定的回答。即 AI 的'護欄'。幻覺・虛構AI 把不是事實的內容,寫得像事實一樣的現象。使用生成式 AI 時必須管理的風險。AI 治理・倫理為了安全、公平且負責任地使用 AI,訂定原則、政策與管控機制的組織管理體系。AI 基本法・歐盟 AI 法規範人工智慧開發與使用的國家層級基本法規。韓國的《人工智慧發展與建立可信賴基礎之基本法》與歐盟(European Union)的 AI Act 為代表,兩者的共同點是依風險等級施以不同義務的架構。AI PoC・試點計畫PoC(Proof of Concept,概念驗證)是小規模確認 AI 能否勝任該項工作的實驗;試點則是由部分部門實際用於業務,判斷是否擴大至全公司的試行運作。AI 代理平台比較・企業用代理建置工具選擇在不需寫程式的情況下,比較並挑選能建立企業內部業務用 AI 代理的企業級建置工具,並依公司的系統、資安與預算條件做決定。產品功能與價格經常變動,比較表是選擇的標準,不是標準答案。AI 工作手冊・AI 應用 SOP記錄各部門在哪些業務上,以什麼順序與條件使用哪些 AI 工具,以及由誰如何檢視結果的標準作業程序。全公司指引決定的是「可以做什麼」,SOP 則決定「要這樣做」。
包含此術語的學習路徑
與此術語相關的課程
📚AI 代理實務入門Nanum 經營顧問企業內訓 · 實體/線上查看課程 →
是否需要針對此主題進行企業內訓?
立即取得負責人為您量身打造的課程規劃與報價。
教育洽詢
最後修訂 2026年9月13日 · 監修 金鍾赫

常見問題

檢視比生成快得多。由 AI 完成 80%、人工確認 20% 的結構,仍然比全部由人工處理快上好幾倍。
'核准疲勞'是實際存在的風險。不要讓人檢視所有項目,而是只保留高風險項目、具體化確認項目,並搭配抽樣檢視,這是因應之道。
是的。歐盟 AI 法要求高風險 AI 系統必須有人類監督(human oversight);對於招募、信用評估等影響個人的重大決策,各國法規也日益傾向要求人為介入。
不同。in-the-loop(在迴路中)是必須經人工批准,才會進入下一步的方式;on-the-loop(在迴路上)則是 AI 自動執行,由人員監控、必要時再介入的方式。依風險程度選擇使用。