AI 偏見
AI Bias
什麼是 AI 偏見?
- 因資料或設計偏誤而導致的不公平結果
- 資料有偏見,AI 也會有偏見
- 自動化歧視的風險
理解 AI 偏見之後,導入模型時會問的問題也會改變。不再先問「準確率是多少?」,而是先問「是對誰判錯?」。整體準確率只是多數群體的成績單。若應徵者中有 10% 屬於某特定群體,即使把該群體全部判錯,整體準確率仍會顯示 90%。因此審核的重點會轉為將效能指標依群體拆開來看。
偏誤並非來自單一管道,而是有不同的進入途徑。最典型的包括:過去的歧視性決策被固化為正確答案標籤的歷史偏誤、某些群體的樣本本來就少的抽樣偏誤、評估者的主觀判斷滲入標籤的標註偏誤,以及模型推薦的結果又回流成學習資料的回饋迴圈偏誤。更棘手的是,公平性的定義不只一種:讓各群體的錄取率相同,與讓各群體的誤判率相同,在數學上往往無法同時成立,因此要選擇哪一種公平性,最終是經營判斷。
偏誤必須與幻覺(hallucination)區分開來。幻覺是憑空捏造不存在事實的隨機錯誤,但偏誤的方向是固定的,而且會重複出現。同樣的條件輸入100次,就會有100次偏向同一邊。因此重複出現的錯誤,必須從資料與目標函數去找,而不是從提示詞去找。反過來說,統計上的差異也不全然都是不當歧視,因此必須逐案判斷這項差異能否以業務相關性來解釋。
現場最常見的誤解是「既然拿掉了性別、年齡欄位,就是公平的」。即使刪除敏感變數,居住地、畢業學校、職涯空窗、服兵役與否等代理變數(proxy)仍會原封不動地還原這些資訊。反而因為刪掉了變數,連偏見都無法測量,造成反效果。另一個常見誤解,是直接相信供應商的「已完成偏見驗證」說法。若不追問驗證是在哪個國家、以什麼群體組成進行的,套用到貴公司的應徵者分布時,結果可能完全不同。一旦沒經驗證就接上自動通過流程,歧視會以每秒數十件的速度被複製。
此問題源自機器學習對資料的依賴,多起實際歧視案例浮現後,已成為AI倫理的核心課題。
以假設案例來看。全體員工 1,400 人、年營收 KRW 320,000,000,000 (≈ US$239,510,200) 規模的流通企業A公司,每年要處理 12,000 件履歷,因此導入了書面篩選的AI系統。6 個月後,人事團隊的定期報告發現,女性應徵者的書面通過率從導入前的31%降至18%。討論就是從「模型準確率明明是89%,怎麼會出現這種數字」這個問題開始的。
- 人事企劃組金課長用來學習的近五年錄取者資料,打開一看,物流・MD 職群的錄取者中有82%是男性,AI便把這個比例本身學成了優秀人才的特徵。
- 開發商表示「性別欄位根本不在輸入值中」,但資料分析組的 Lee 責任抽出變數貢獻度後,發現超過 6 個月的職涯空窗與特定女子大學出身,都是扣分因素,實際上正在發揮作用。
- CHRO 指示「請不要只看準確率,改依群體拆開重新報告」,於是分別計算性別、年齡層的偽陽性率,結果發現群體間差距達 14 個百分點。
- 人資團隊將職涯空窗與出身學校變數排除於學習之外,並另外取得近兩年應徵者中女性樣本 4,000 筆,重新進行訓練。
- 同時加入規則:AI 分數僅作為參考指標,後 30% 區間一律由招募負責人重新審視;並在季報中固定納入各群體通過率差距項目。
- 三個月後,女性的履歷篩選通過率回升至29%,群體間的差距從14個百分點縮小至3個百分點,而入職者一年留任率反而上升了4個百分點。
金鍾赫
Seong-il Kim