📂AI 基礎⏱閱讀 2 分鐘📊入門🔗相關 6

什麼是 AI 偏見?

一句話定義
AI因學習資料或設計上的偏誤,對特定群體或觀點產生不公平結果的現象。
想將此主題做成企業內訓?📚 相關課程💬 教育洽詢
⚡ 3 行重點摘要
  • 因資料或設計偏誤而導致的不公平結果
  • 資料有偏見,AI 也會有偏見
  • 自動化歧視的風險

理解 AI 偏見之後,導入模型時會問的問題也會改變。不再先問「準確率是多少?」,而是先問「是對誰判錯?」。整體準確率只是多數群體的成績單。若應徵者中有 10% 屬於某特定群體,即使把該群體全部判錯,整體準確率仍會顯示 90%。因此審核的重點會轉為將效能指標依群體拆開來看。

偏誤並非來自單一管道,而是有不同的進入途徑。最典型的包括:過去的歧視性決策被固化為正確答案標籤的歷史偏誤、某些群體的樣本本來就少的抽樣偏誤、評估者的主觀判斷滲入標籤的標註偏誤,以及模型推薦的結果又回流成學習資料的回饋迴圈偏誤。更棘手的是,公平性的定義不只一種:讓各群體的錄取率相同,與讓各群體的誤判率相同,在數學上往往無法同時成立,因此要選擇哪一種公平性,最終是經營判斷。

偏誤必須與幻覺(hallucination)區分開來。幻覺是憑空捏造不存在事實的隨機錯誤,但偏誤的方向是固定的,而且會重複出現。同樣的條件輸入100次,就會有100次偏向同一邊。因此重複出現的錯誤,必須從資料與目標函數去找,而不是從提示詞去找。反過來說,統計上的差異也不全然都是不當歧視,因此必須逐案判斷這項差異能否以業務相關性來解釋。

現場最常見的誤解是「既然拿掉了性別、年齡欄位,就是公平的」。即使刪除敏感變數,居住地、畢業學校、職涯空窗、服兵役與否等代理變數(proxy)仍會原封不動地還原這些資訊。反而因為刪掉了變數,連偏見都無法測量,造成反效果。另一個常見誤解,是直接相信供應商的「已完成偏見驗證」說法。若不追問驗證是在哪個國家、以什麼群體組成進行的,套用到貴公司的應徵者分布時,結果可能完全不同。一旦沒經驗證就接上自動通過流程,歧視會以每秒數十件的速度被複製。

會出現此術語的課程 · AI・DX
推薦課程 · 推薦講師 · 迷你報價
🧮 迷你報價 · 講師費基準
約 KRW 1,200,000 (≈ US$900)專題講座 2 小時 · 20 人以下 · 韓語
依此條件取得正式報價 →
💡 簡單來說
就像鏡子歪了,映出的影像也會歪——用有偏見的資料學習的 AI,會原封不動地映照出偏見。
為什麼在實務上很重要
AI 會原封不動地反映並放大所學資料的偏見。若不了解偏見就使用,等於把歧視自動化。
由來與出處

此問題源自機器學習對資料的依賴,多起實際歧視案例浮現後,已成為AI倫理的核心課題。

透過案例理解

以假設案例來看。全體員工 1,400 人、年營收 KRW 320,000,000,000 (≈ US$239,510,200) 規模的流通企業A公司,每年要處理 12,000 件履歷,因此導入了書面篩選的AI系統。6 個月後,人事團隊的定期報告發現,女性應徵者的書面通過率從導入前的31%降至18%。討論就是從「模型準確率明明是89%,怎麼會出現這種數字」這個問題開始的。

  1. 人事企劃組金課長用來學習的近五年錄取者資料,打開一看,物流・MD 職群的錄取者中有82%是男性,AI便把這個比例本身學成了優秀人才的特徵。
  2. 開發商表示「性別欄位根本不在輸入值中」,但資料分析組的 Lee 責任抽出變數貢獻度後,發現超過 6 個月的職涯空窗與特定女子大學出身,都是扣分因素,實際上正在發揮作用。
  3. CHRO 指示「請不要只看準確率,改依群體拆開重新報告」,於是分別計算性別、年齡層的偽陽性率,結果發現群體間差距達 14 個百分點。
  4. 人資團隊將職涯空窗與出身學校變數排除於學習之外,並另外取得近兩年應徵者中女性樣本 4,000 筆,重新進行訓練。
  5. 同時加入規則:AI 分數僅作為參考指標,後 30% 區間一律由招募負責人重新審視;並在季報中固定納入各群體通過率差距項目。
  6. 三個月後,女性的履歷篩選通過率回升至29%,群體間的差距從14個百分點縮小至3個百分點,而入職者一年留任率反而上升了4個百分點。
相關術語
與此術語相關的課程
📚AX 顧問培育課程Nanum 經營顧問 企業內訓 · 實體/線上查看課程 →
是否需要針對此主題進行企業內訓?
立即取得負責人為您量身打造的課程規劃與報價。
教育洽詢
最後修訂 2026年9月13日 · 監修 金鍾赫

常見問題

不是。AI 會反映所學的資料。資料有偏見,AI 也會有偏見。
同時運用多元且具代表性的資料、偏見檢測、可解釋性與人為監督。
不是。AI 會反映所學的資料。資料有偏見,AI 也會有偏見。
同時運用多元且具代表性的資料、偏見檢測、可解釋性與人為監督。