知識 · AI 基礎

可解釋 AI · XAI

Explainable Artificial Intelligence

📂AI 基礎⏱閱讀 2 分鐘📊實務🔗相關 6

什麼是可解釋 AI?

一句話定義
可解釋 AI(Explainable Artificial Intelligence)是指讓人能理解 AI「為何得出這個結論」的做法,是建立信任、責任歸屬與因應監管的核心。
本主題,以企業內訓方式進行📚 相關課程💬 教育洽詢
⚡ 3 行重點摘要
  • AI 如何說明其'為何這樣判斷'
  • 信任、責任與法規因應的核心
  • 打開黑箱

導入 XAI 後,AI 產出結果的樣貌會改變。原本只顯示「712 分,拒絕」一行字的畫面,會同時出現'影響此判斷最大的三個因素'。實務上真正改變的不是模型,而是簽核流程與紀錄。審查人員會先將自己的判斷與模型的依據對照,再按下核准鍵;客服人員則不會說'系統就是這樣跑出來的',而是說出具體的理由。若說明沒有留下紀錄,事後稽核與申訴處理都無法進行。

說明方式大致分為兩種。一種是決策樹或線性模型這類結構本身就能讀懂的本質可解釋模型;另一種則是對已經訓練完成的深度學習,額外加上 SHAP、LIME 等工具來推估依據的事後解釋。此外,「這個模型整體上最看重負債比率」這類全域解釋,與「這位客戶被拒的原因是這個」這類局部解釋,用途並不相同。若以韓國修正後的個人情報保護法中,對自動化決策的說明與拒絕要求權為前提,也就是以個人能就自身案件提出詢問的制度為基礎,那麼需要的就是局部解釋。

並非所有模型都需要加上 XAI。實務上會依判斷對人的影響程度來區分。像庫存需求預測這類即使出錯也能挽回的,以效能為主;而貸款、招募、保險核保等會左右個人機會的,則採用可解釋的結構,或逐案保存局部解釋。此外,還必須驗證解釋本身的品質。將模型提出的主要因素與現場專家的判斷對照,常會發現偏離的比例比預期高。

最常見的誤解,是認為解釋就等於真正的理由。事後解釋並非把模型內部原樣攤開,而是一種近似的推論,因此只要工具或基準資料改變,前幾大影響因素的排序也會跟著晃動。若同一位客戶上個月被告知「負債比率」、這個月卻被告知「交易期間」,當場就會引發爭議。讀起來像因果關係的措辭也很危險。若寫成「因負債比率偏高而被拒」,客戶會理解為「降低就會核准」,再次被拒後又會變成客訴。解釋不是公平性的證明,而是檢視的起點。

會出現此術語的課程 · AI・DX
推薦課程 · 推薦講師 · 迷你報價
🧮 迷你報價 · 講師費基準
約 KRW 1,200,000 (≈ US$900)專題講座 2 小時 · 20 人以下 · 韓語
依此條件取得正式報價 →
💡 簡單來說
就像醫師說明診斷依據一樣,AI 也必須說明「為何得出這個結論」,人們才能放心使用。
為什麼在實務上很重要
無法說明判斷依據的 AI,很難用於重要決策。它是建立信任、責任歸屬與因應法規的前提。
由來與出處

隨著深度學習的「黑箱」問題受到關注,XAI 研究在 2010 年代後半開始活躍,並伴隨 AI 監管與責任歸屬的討論,其重要性日益提升。

透過案例理解

我們用一個假設案例來看。A 公司是員工 240 人規模的信貸公司,兩年前導入信用貸款審核模型,每月自動審核 8,000 件。審核速度變快了,但被拒絕的客戶詢問原因時,只得到「綜合信用評等結果」這樣的回覆,每季因拒絕而產生的客訴累積 120 件。適逢金融監理機關例行檢查,於是決定用四個月的時程建立說明機制。

  1. 風險管理組的金部長親自閱讀 120 件客訴後歸納出:'客戶生氣不是因為被拒絕,而是因為不知道理由',並決定對所有拒絕案件都留下個別說明。
  2. 資料分析團隊以 SHAP 為每件案件擷取前三大影響因素,讓 12 位審核人員盲評 300 件,結果與審核人員判斷一致的比例僅 62%。
  3. 追查有問題的案件後發現,電信費逾期變數只在特定年齡層過度發揮作用。模型團隊於是移除此變數並重新訓練,將核准率的損失控制在 0.4 個百分點。
  4. 法務團隊的李主任指出,「因負債比率偏高而被拒」等同於「降低就會核准」的承諾,因此統一改為「這次判斷中影響最大的因素」的措辭。
  5. 在客服中心部署了 18 種依因素設計的應對話術,並訂定規則:審查人員若判斷結果與模型說明不同,每月一次必須提報至檢討會議。
  6. 四個月後,每季客訴從 120 件降至 41 件,拒絕原因諮詢的平均處理時間由 9 分鐘縮短到 3 分鐘多,檢查時說明紀錄的保存項目也未被指出任何缺失。
相關術語
與此術語相關的課程
📚AX 顧問培育課程Nanum 經營顧問 企業內訓 · 實體/線上查看課程 →
是否需要針對此主題進行企業內訓?
立即取得負責人為您量身打造的課程規劃與報價。
教育洽詢
最後修訂 2026年9月13日 · 監修 金鍾赫

常見問題

深度學習的運算錯綜複雜,很難用一句話說明「為什麼」(黑箱)。
特別適用於貸款、招募、醫療等結果會對個人產生重大影響的高風險領域。
深度學習是由無數數值交織而成的「黑箱」,很難用人話說明判斷依據。
在招募、貸款、醫療等決策會對人產生重大影響且受法規規範的領域,這是必備條件。