📂AI 基礎⏱閱讀 2 分鐘📊入門🔗相關 5

什麼是 AI 倫理?

一句話定義
為了公平、透明、安全且負責任地開發與使用 AI 而訂定的原則與思考。'能做'與'可以做'並不相同。
想把這個主題做成企業內訓?📚 相關課程💬 教育諮詢
⚡ 3 行重點摘要
  • 公平・透明・安全・責任原則
  • '能做'與'可以做'並不相同
  • 導入時的必要考量事項

AI 倫理不是寫出漂亮的宣言,而是在建立與使用模型的各個流程中,埋入'可以停下來的節點'。資料從哪裡取得、哪些變數乾脆不放進去、部署前由誰簽核、出事時由誰關掉開關,只要把這些寫成文件,技術決策就會提升為經營決策。實務上最明顯的變化通常只有一個:不是「開發都做完了,請幫忙檢視」,而是從企劃會議就一起坐下來。

倫理與遵守法規有重疊,但並不相同。EU AI Act 將 AI 分為禁止、高風險、有限風險與最小風險四個層級,並對被歸類為高風險的用途(如招募、信用評分、醫療)強制要求資料品質管理、技術文件、紀錄保存與人為監督機制。法律是最低底線,倫理是在其之上的判斷。在法規尚未觸及的領域,例如把內部績效資料做成摘要報告,或對客戶通話進行情緒分析,即使合法,員工與客戶是否能接受又是另一回事。偏誤緩解技術與可解釋性(XAI)同樣需要區分清楚:它們是落實倫理的手段,本身並不等於倫理。

現場最常見的失敗,是把倫理憲章放在官網上就結束,其次是迷信委員會。若要求所有 AI 使用都提交審議,簽核會一拖就是兩個月,業務單位最後還是會用個人帳號偷偷使用。依風險等級設計不同的審核路徑,效果持久得多。實際爆發的事故也不驚天動地。例如把過去的錄取者資料原封不動拿來訓練的招募模型,即使沒有直接看性別與學歷,仍會透過社團名稱或求職空窗期等代理變數重現同樣的歧視;等稽核進來時,又沒有判斷依據的紀錄,連說明都做不到。那時付出的代價,比起罰鍰,更大的是「這家公司的 AI 不能信任」的聲譽損失。

會出現此術語的課程 · AI・DX
推薦課程 · 推薦講師 · 迷你報價
🧮 迷你報價 · 講師費基準
約 KRW 1,200,000 (≈ US$900)專題講座 2 小時 · 20 人以下 · 韓語
依此條件取得正式報價 →
💡 簡單來說
就像刀越利,安全守則越重要——AI 越強大,就越需要'正確使用'的原則。
為什麼在實務上很重要
AI 的力量越大,濫用與歧視的風險也越大。AI 倫理是讓技術變得'有益且值得信賴'的前提條件。
由來與出處

隨著 AI 的社會影響日益擴大而受到關注的領域,各國、企業與國際組織正陸續建立 AI 倫理原則與指南。

透過案例理解

我們以假設案例來看。資產規模 KRW 3 (≈ US$1) 兆的儲蓄銀行 A 公司(全體員工 320 人)在非面對面信用貸款審核中導入機器學習評分模型,已運作 8 個月。審核時間從兩天縮短到 20 分鐘,但詢問拒絕理由的客訴每月增加到 40 件。客服中心回報說:"客戶問為什麼被刷掉,我們也沒有話可以解釋。"

  1. 風險管理本部長從資料、合規監理與授信審查三個部門挑選 6 人,成立'AI 審議小組',並明訂單一模型通過審議的期限最長為 2 週。
  2. 資料科學組長重新檢視 18 個月的訓練資料後發現,郵遞區號與電信業者的資費方案被納入了變數,特定地區的拒絕率比平均高出 11 個百分點。
  3. "說沒有看過地區資料,結果其實是把它當成代理變數在看"這樣的質疑出現了,於是移除相關 4 個變數後重新訓練,確認核准率變化只有 0.8%p。
  4. 合規監理人員製作了自動列出拒絕原因前三大因素的提示文字,並調整流程,改為每月抽樣檢查 200 件,由審查人員做最終簽核。
  5. 客戶提出異議時,設置 48 小時內由人工重新審查的窗口,並將模型預測與人工判斷不一致的案件全部以紀錄保存 24 個月。
  6. 8 個月後,要求說明的客訴由每月 40 件降至 9 件,各地區的拒絕率落差也從 11 個百分點縮小到 3 個百分點,並且在金融監督院檢查時,三天內就提交了所要求的佐證資料。
相關術語
與此術語相關的課程
📚AX 顧問培育課程Nanum 經營顧問 企業內訓 · 實體/線上查看課程 →
是否需要針對此主題進行企業內訓?
立即取得負責人為您量身打造的課程規劃與報價。
教育洽詢
最後修訂 2026年9月13日 · 監修 金鍾赫

常見問題

歧視與濫用既是法律風險,也會損害信任。合乎倫理的 AI 既是因應監管的課題,也是品牌信任的問題。
AI 對齊重在'技術上符合人類意圖',AI 倫理重在'在社會與道德上正確運用',兩者緊密相連。
歧視與濫用既是法律風險,也會損害信任。倫理既是因應監管的課題,也是品牌信任的問題。
檢視公平性、透明性、隱私與責任歸屬,並以指引(治理框架)進行管理。