影子 AI
Shadow AI
什麼是影子 AI?
- 員工未經公司核准與管理、個別使用的 AI 工具
- 資訊外洩、資安與品質風險的盲點
- 解方不是禁止,而是「提供安全的官方管道」
一旦出現影子 AI,公司的安全防線就會從公司內部的伺服器,轉移到員工個人的瀏覽器分頁上。若是經核准的工具,誰輸入了什麼都會留下紀錄;但個人帳號的紀錄不屬於公司資產。因此即使出事,也無法還原外流的內容與規模,應變只能從推測開始。客戶單價表或人事資料之類一旦外流就無法挽回的文件,只要貼進對話視窗,公司就等於自己違反了合約中的保密條款。實務上更常發生的損失,其實不是外洩,而是未經驗證的產出原封不動地被放進報告裡。
影子 AI 通常分為三個層次。以個人帳號使用的通用聊天機器人、未經核准就安裝的會議紀錄摘要・翻譯擴充功能,以及開發人員隨意連接的 API 呼叫。組織最看不到的是第二層,因為它會附著在行事曆與視訊會議上自動運作,使用者本人甚至沒有意識到自己在用。與影子 IT 的關鍵差異在於資料的去向。未經核准的協作工具,資料會留在工具之內,但 AI 輸入的內容可能被用於學習或重新生成,因此「收回」這個概念本身就不成立。這就是為什麼必須先確認免費方案與企業方案的學習用途設定。
最常見的誤解是以封鎖網域來結束問題。若在公司網路上阻擋,員工就會改用私人手機翻拍螢幕畫面再輸入。這時連紀錄都不會留下,因此封鎖之後風險反而藏得更深。調查方式也有問題。若以稽核與懲處的框架來詢問,回報的使用率只會是個位數,管理層便會得到「我們很安全」的錯誤安心。只簽下企業版工具,卻不給出什麼資訊可以輸入的標準,員工就會回到順手的個人帳號。這是只有授權費用支出、風險依然存在的結構。
這個概念源自指稱未經 IT 部門核准即使用之軟體的「'影子 IT'」,自 2023 年起隨生成式 AI 普及,已成為資安產業的核心議題。
以下以假設案例說明。這是一家員工 420 人、年營收 KRW 180,000,000,000 (≈ US$134,724,500) 規模的汽車零件製造商 A 公司的故事。資安檢查發現,內部網路連到生成式 AI 服務的次數每月超過 3,000 次,但公司本身卻連一套官方 AI 工具都沒有提供。執行長下令必須在三個月內整頓。
- 資安主管明確表示'這不是查緝,而是現況調查',並進行匿名問卷;在 312 位回覆者中,68% 表示曾以個人帳號輸入過公司文件。
- 貼上最多的資料是會議紀錄與報價單。法務主管表示:'等於客戶的單價就這樣外流了',並將其中 3 件另行歸類為可能違反保密義務的案件。
- IT 團隊檢查員工電腦上的瀏覽器擴充功能共 14 個,封鎖其中 6 個開啟了輸入資料學習選項的擴充功能,並在兩個月內正式導入 200 個企業版 AI 帳號席次。
- 人資團隊辦了 12 場、每場 2 小時的實作教育,並把可輸入與絕對不可輸入的資訊整理成一張卡片,貼在全部門的辦公桌上。
- 三個月後,使用個人帳號的連線次數從每月 3,000 筆降到 210 筆,企業版帳號的週活躍使用者則增至 137 人。資安主管表示:'現在要用紀錄來看輸入了什麼'。
金鍾赫
朴雪英