可解釋 AI · XAI
Explainable Artificial Intelligence
什麼是可解釋 AI?
- AI 如何說明其'為何這樣判斷'
- 信任、責任與法規因應的核心
- 打開黑箱
導入 XAI 後,AI 產出結果的樣貌會改變。原本只顯示「712 分,拒絕」一行字的畫面,會同時出現'影響此判斷最大的三個因素'。實務上真正改變的不是模型,而是簽核流程與紀錄。審查人員會先將自己的判斷與模型的依據對照,再按下核准鍵;客服人員則不會說'系統就是這樣跑出來的',而是說出具體的理由。若說明沒有留下紀錄,事後稽核與申訴處理都無法進行。
說明方式大致分為兩種。一種是決策樹或線性模型這類結構本身就能讀懂的本質可解釋模型;另一種則是對已經訓練完成的深度學習,額外加上 SHAP、LIME 等工具來推估依據的事後解釋。此外,「這個模型整體上最看重負債比率」這類全域解釋,與「這位客戶被拒的原因是這個」這類局部解釋,用途並不相同。若以韓國修正後的個人情報保護法中,對自動化決策的說明與拒絕要求權為前提,也就是以個人能就自身案件提出詢問的制度為基礎,那麼需要的就是局部解釋。
並非所有模型都需要加上 XAI。實務上會依判斷對人的影響程度來區分。像庫存需求預測這類即使出錯也能挽回的,以效能為主;而貸款、招募、保險核保等會左右個人機會的,則採用可解釋的結構,或逐案保存局部解釋。此外,還必須驗證解釋本身的品質。將模型提出的主要因素與現場專家的判斷對照,常會發現偏離的比例比預期高。
最常見的誤解,是認為解釋就等於真正的理由。事後解釋並非把模型內部原樣攤開,而是一種近似的推論,因此只要工具或基準資料改變,前幾大影響因素的排序也會跟著晃動。若同一位客戶上個月被告知「負債比率」、這個月卻被告知「交易期間」,當場就會引發爭議。讀起來像因果關係的措辭也很危險。若寫成「因負債比率偏高而被拒」,客戶會理解為「降低就會核准」,再次被拒後又會變成客訴。解釋不是公平性的證明,而是檢視的起點。
隨著深度學習的「黑箱」問題受到關注,XAI 研究在 2010 年代後半開始活躍,並伴隨 AI 監管與責任歸屬的討論,其重要性日益提升。
我們用一個假設案例來看。A 公司是員工 240 人規模的信貸公司,兩年前導入信用貸款審核模型,每月自動審核 8,000 件。審核速度變快了,但被拒絕的客戶詢問原因時,只得到「綜合信用評等結果」這樣的回覆,每季因拒絕而產生的客訴累積 120 件。適逢金融監理機關例行檢查,於是決定用四個月的時程建立說明機制。
- 風險管理組的金部長親自閱讀 120 件客訴後歸納出:'客戶生氣不是因為被拒絕,而是因為不知道理由',並決定對所有拒絕案件都留下個別說明。
- 資料分析團隊以 SHAP 為每件案件擷取前三大影響因素,讓 12 位審核人員盲評 300 件,結果與審核人員判斷一致的比例僅 62%。
- 追查有問題的案件後發現,電信費逾期變數只在特定年齡層過度發揮作用。模型團隊於是移除此變數並重新訓練,將核准率的損失控制在 0.4 個百分點。
- 法務團隊的李主任指出,「因負債比率偏高而被拒」等同於「降低就會核准」的承諾,因此統一改為「這次判斷中影響最大的因素」的措辭。
- 在客服中心部署了 18 種依因素設計的應對話術,並訂定規則:審查人員若判斷結果與模型說明不同,每月一次必須提報至檢討會議。
- 四個月後,每季客訴從 120 件降至 41 件,拒絕原因諮詢的平均處理時間由 9 分鐘縮短到 3 分鐘多,檢查時說明紀錄的保存項目也未被指出任何缺失。
金鍾赫
盧俊瑛