知識 · AI 基礎

AI 治理 · 倫理

AI Governance / Ethics

📂AI 基礎⏱閱讀 2 分鐘📊實務🔗相關 9

什麼是 AI 治理?

一句話定義
為了安全、公平且負責任地使用 AI,制定原則、政策與控管機制的組織管理體系。
想用內訓學習此主題?📚 相關課程💬 教育諮詢
⚡ 3 行重點摘要
  • 安全且公平地使用 AI 的管理體系
  • 制定原則、政策與控管機制
  • 因應監管,也是建立信任

導入 AI 治理之後,組織裡會消失一件事:"這份資料可以放進 AI 嗎"這種由負責人憑感覺獨自判斷的時刻。因為哪些工作可以使用哪些工具、成果由誰驗證、出了問題又由誰負責,都會寫進文件與制度裡。它是把判斷的負擔從個人轉移到組織的機制,因此與其說是拖慢速度的管制,不如說是撐得住速度的支撐架。

設計通常從劃分風險等級開始。2024 年生效的歐盟 AI Act 將 AI 系統分為禁止、高風險、有限風險與最小風險四個等級,並依等級施加不同義務。像招聘審查或信用評估這類直接影響個人權利的用途,會被歸為高風險,須保存紀錄、確保可解釋性,並負有人為最終介入的義務。國內企業也借用這個框架,不對所有 AI 施以同樣的管控,而是依用途調整鬆緊。資訊安全政策關注的是'資料有沒有流到外部',AI 治理則更進一步,關注模型產出的結果由誰驗證、由誰負責,因此範圍不同。

現場最常見的失敗,是只訂出禁止清單卻不提供替代方案。即使封鎖公司帳號,工作量依舊,員工會改用個人手機與個人信箱。組織連存在都不知道的影子 AI(Shadow AI)使用增加後,不會留下紀錄與痕跡,外洩往往要等出事後才會被發現。反過來,很多企業也只是製作倫理宣言掛在官網就結束。宣言不是管控機制,而是序言,若沒有核准流程、使用紀錄與定期檢查,到了稽核時,它頂多只是一份可以拿出來的文件。

會出現此術語的課程 · AI・DX
推薦課程 · 推薦講師 · 迷你報價
🧮 迷你報價 · 講師費基準
約 KRW 1,200,000 (≈ US$900)專題講座 2 小時 · 20 人以下 · 韓語
依此條件取得正式報價 →
💡 簡單來說
就像為 AI 設立交通規則與紅綠燈,是讓組織能負責任地駕馭 AI 的規則。
為什麼在實務上很重要
AI 導入得越快,事故風險也越大。若沒有治理,一次外洩或誤用都可能付出高昂代價。
由來與出處

隨著 AI 普及,偏誤、安全與隱私問題受到關注,這個領域因而逐漸成形。近年在歐盟 AI Act 等監管以及企業「負責任的 AI(Responsible AI)」潮流下,其重要性日益提升。

透過案例理解

以下以假設案例說明。員工 740 人、年營收 KRW 230,000,000,000 (≈ US$172,148,000) 的醫療器材製造商 A 公司,某次資安檢查發現,開發團隊員工疑似把產品控制原始碼的一部分貼進個人帳號的聊天機器人。進一步查證後,未經公司核准就使用外部 AI 服務的人員遍布各部門,執行長下令要在 3 個月內建立可以安心使用的體系。

  1. 資訊安全組長調出 4 週的代理伺服器紀錄後發現,外部 AI 連線嘗試平均每天 310 件,其中 68% 來自開發與企劃部門。
  2. CISO 與法務主管針對工作內容劃分為三個等級:涉及客戶個資與設計圖面的工作禁止使用;內部文件摘要僅限經核准的帳號使用;公開資料蒐集則可自由使用。
  3. 開發本部長說:「只叫大家不要用,大家還是會用手機。」公司於是先開通 120 個企業用帳號席次,並把禁止事項精簡到一張 A4 紙。
  4. 人資團隊開設 6 場、每場 1 小時的課程,把差點演變成實際外洩的公司內 3 則案例去識別化後,直接呈現給學員。
  5. 6 個月後,個人帳號的連線嘗試從每日 310 件降至 22 件,核准帳號的使用率達註冊人數的 84%,敏感資訊輸入的查獲則降為每季 0 件。
相關術語
AI 素養全體成員理解 AI 的運作原理與限制,能安全且有效地運用於工作上的基本能力。幻覺 · HallucinationAI 把不實內容說得煞有其事、彷彿事實的現象。是運用生成式 AI 時必須管控的風險。生成式 AI能產生文字、圖像、程式碼、語音等新內容的 AI。ChatGPT、Claude 等大型語言模型是其代表。DX · AXDX 是以數位科技從根本改變工作方式的數位轉型(Digital Transformation);AX 是下一階段,將 AI 內化到業務與事業中的轉型(AI Transformation)。AI 基本法 · EU AI Act規範人工智慧開發與使用的國家層級基本法。代表性的有韓國「人工智慧發展與建立信任基礎等相關基本法」與歐盟(European Union)的 AI Act,兩者的共通點是依風險等級施加不同義務。AI 生成物著作權涉及 AI 所產出成果的權利歸屬,以及學習資料是否合法的問題。目前包括韓國在內的主要國家,對於缺乏'人類創作貢獻'、由 AI 單獨生成的作品,不承認其著作權。AI CoE · AI 專責組織AI CoE(Center of Excellence,卓越中心)是統一負責全公司的 AI 導入標準、工具、教育與專案支援的專責組織,讓各部門不必各自摸索。經營層 AI 教育 · 高階主管 AI 素養這是讓高階主管與經營層親自操作 AI,並具備投資、組織與風險判斷所需理解力的教育。它不是員工教育的縮小版,而是專為決策者另行規劃的課程。CAIO · 最高 AI 負責人CAIO(Chief AI Officer,最高 AI 負責人)是統籌公司 AI 策略、導入、治理與能力發展的高階主管職位。由於與技術長(CTO)、資訊長(CIO)的職責常有重疊,各組織中的位階與權限並不相同。
包含此術語的學習路徑
與此術語相關的課程
📚AX 顧問培育課程Nanum 經營顧問 企業內訓 · 實體/線上查看課程 →
是否需要針對此主題進行企業內訓?
立即取得負責人為您量身打造的課程規劃與報價。
教育洽詢
最後修訂 2026年9月13日 · 監修 金鍾赫

常見問題

恰恰相反。有安全的護欄,成員才能更安心、更積極地運用。
務實的做法是從兩項基本指引開始:'哪些內容不能輸入'與'如何驗證結果'。
反而能安心地讓大家'更廣泛地使用'。沒有規則,因為擔心出事,導入就會退縮。
務實的做法是先訂定使用原則、禁止事項、核准流程與資料處理指引。