AI 治理 · 倫理
AI Governance / Ethics
什麼是 AI 治理?
- 安全且公平地使用 AI 的管理體系
- 制定原則、政策與控管機制
- 因應監管,也是建立信任
導入 AI 治理之後,組織裡會消失一件事:"這份資料可以放進 AI 嗎"這種由負責人憑感覺獨自判斷的時刻。因為哪些工作可以使用哪些工具、成果由誰驗證、出了問題又由誰負責,都會寫進文件與制度裡。它是把判斷的負擔從個人轉移到組織的機制,因此與其說是拖慢速度的管制,不如說是撐得住速度的支撐架。
設計通常從劃分風險等級開始。2024 年生效的歐盟 AI Act 將 AI 系統分為禁止、高風險、有限風險與最小風險四個等級,並依等級施加不同義務。像招聘審查或信用評估這類直接影響個人權利的用途,會被歸為高風險,須保存紀錄、確保可解釋性,並負有人為最終介入的義務。國內企業也借用這個框架,不對所有 AI 施以同樣的管控,而是依用途調整鬆緊。資訊安全政策關注的是'資料有沒有流到外部',AI 治理則更進一步,關注模型產出的結果由誰驗證、由誰負責,因此範圍不同。
現場最常見的失敗,是只訂出禁止清單卻不提供替代方案。即使封鎖公司帳號,工作量依舊,員工會改用個人手機與個人信箱。組織連存在都不知道的影子 AI(Shadow AI)使用增加後,不會留下紀錄與痕跡,外洩往往要等出事後才會被發現。反過來,很多企業也只是製作倫理宣言掛在官網就結束。宣言不是管控機制,而是序言,若沒有核准流程、使用紀錄與定期檢查,到了稽核時,它頂多只是一份可以拿出來的文件。
隨著 AI 普及,偏誤、安全與隱私問題受到關注,這個領域因而逐漸成形。近年在歐盟 AI Act 等監管以及企業「負責任的 AI(Responsible AI)」潮流下,其重要性日益提升。
以下以假設案例說明。員工 740 人、年營收 KRW 230,000,000,000 (≈ US$172,148,000) 的醫療器材製造商 A 公司,某次資安檢查發現,開發團隊員工疑似把產品控制原始碼的一部分貼進個人帳號的聊天機器人。進一步查證後,未經公司核准就使用外部 AI 服務的人員遍布各部門,執行長下令要在 3 個月內建立可以安心使用的體系。
- 資訊安全組長調出 4 週的代理伺服器紀錄後發現,外部 AI 連線嘗試平均每天 310 件,其中 68% 來自開發與企劃部門。
- CISO 與法務主管針對工作內容劃分為三個等級:涉及客戶個資與設計圖面的工作禁止使用;內部文件摘要僅限經核准的帳號使用;公開資料蒐集則可自由使用。
- 開發本部長說:「只叫大家不要用,大家還是會用手機。」公司於是先開通 120 個企業用帳號席次,並把禁止事項精簡到一張 A4 紙。
- 人資團隊開設 6 場、每場 1 小時的課程,把差點演變成實際外洩的公司內 3 則案例去識別化後,直接呈現給學員。
- 6 個月後,個人帳號的連線嘗試從每日 310 件降至 22 件,核准帳號的使用率達註冊人數的 84%,敏感資訊輸入的查獲則降為每季 0 件。
金鍾赫
Ara Lim