AI 倫理
AI Ethics
什麼是 AI 倫理?
- 公平・透明・安全・責任原則
- '能做'與'可以做'並不相同
- 導入時的必要考量事項
AI 倫理不是寫出漂亮的宣言,而是在建立與使用模型的各個流程中,埋入'可以停下來的節點'。資料從哪裡取得、哪些變數乾脆不放進去、部署前由誰簽核、出事時由誰關掉開關,只要把這些寫成文件,技術決策就會提升為經營決策。實務上最明顯的變化通常只有一個:不是「開發都做完了,請幫忙檢視」,而是從企劃會議就一起坐下來。
倫理與遵守法規有重疊,但並不相同。EU AI Act 將 AI 分為禁止、高風險、有限風險與最小風險四個層級,並對被歸類為高風險的用途(如招募、信用評分、醫療)強制要求資料品質管理、技術文件、紀錄保存與人為監督機制。法律是最低底線,倫理是在其之上的判斷。在法規尚未觸及的領域,例如把內部績效資料做成摘要報告,或對客戶通話進行情緒分析,即使合法,員工與客戶是否能接受又是另一回事。偏誤緩解技術與可解釋性(XAI)同樣需要區分清楚:它們是落實倫理的手段,本身並不等於倫理。
現場最常見的失敗,是把倫理憲章放在官網上就結束,其次是迷信委員會。若要求所有 AI 使用都提交審議,簽核會一拖就是兩個月,業務單位最後還是會用個人帳號偷偷使用。依風險等級設計不同的審核路徑,效果持久得多。實際爆發的事故也不驚天動地。例如把過去的錄取者資料原封不動拿來訓練的招募模型,即使沒有直接看性別與學歷,仍會透過社團名稱或求職空窗期等代理變數重現同樣的歧視;等稽核進來時,又沒有判斷依據的紀錄,連說明都做不到。那時付出的代價,比起罰鍰,更大的是「這家公司的 AI 不能信任」的聲譽損失。
隨著 AI 的社會影響日益擴大而受到關注的領域,各國、企業與國際組織正陸續建立 AI 倫理原則與指南。
我們以假設案例來看。資產規模 KRW 3 (≈ US$1) 兆的儲蓄銀行 A 公司(全體員工 320 人)在非面對面信用貸款審核中導入機器學習評分模型,已運作 8 個月。審核時間從兩天縮短到 20 分鐘,但詢問拒絕理由的客訴每月增加到 40 件。客服中心回報說:"客戶問為什麼被刷掉,我們也沒有話可以解釋。"
- 風險管理本部長從資料、合規監理與授信審查三個部門挑選 6 人,成立'AI 審議小組',並明訂單一模型通過審議的期限最長為 2 週。
- 資料科學組長重新檢視 18 個月的訓練資料後發現,郵遞區號與電信業者的資費方案被納入了變數,特定地區的拒絕率比平均高出 11 個百分點。
- "說沒有看過地區資料,結果其實是把它當成代理變數在看"這樣的質疑出現了,於是移除相關 4 個變數後重新訓練,確認核准率變化只有 0.8%p。
- 合規監理人員製作了自動列出拒絕原因前三大因素的提示文字,並調整流程,改為每月抽樣檢查 200 件,由審查人員做最終簽核。
- 客戶提出異議時,設置 48 小時內由人工重新審查的窗口,並將模型預測與人工判斷不一致的案件全部以紀錄保存 24 個月。
- 8 個月後,要求說明的客訴由每月 40 件降至 9 件,各地區的拒絕率落差也從 11 個百分點縮小到 3 個百分點,並且在金融監督院檢查時,三天內就提交了所要求的佐證資料。
金鍾赫
Seung-tae Park