シャドーAI
Shadow AI
シャドーAIとは?
- 会社の承認・管理なしに、社員が個別に使っているAIツール
- 情報漏えい、セキュリティ、品質リスクの死角
- 禁止ではなく「安全な公式ルートの提供」が解決策
シャドーAIが生まれると、会社のセキュリティ統制線が社内のサーバーではなく、社員個人のブラウザタブへ移ってしまいます。承認されたツールであれば誰が何を入力したかがログに残りますが、個人アカウントではその記録が会社の資産として残りません。そのため事故が起きても何がどれだけ出たのかを復元できず、対応は推測から始まります。取引先の単価表や人事資料のように一度出ると取り戻せない文書が対話画面に貼り付けられた瞬間、会社は契約上の秘密保持条項を自ら破った状態になります。実務でより頻繁に起きる損失は、情報漏えいよりも検証されていない成果物がそのまま報告書に載ってしまうことです。
シャドーAIは大きく三つの層に分けられます。個人アカウントで使う汎用のチャットボット、承認なしに入れた議事録要約・翻訳の拡張機能、開発者が勝手につないでおいたAPI呼び出しです。組織が最も見えていないのは二番目の層です。カレンダーやオンライン会議に組み込まれて自動的に動くため、本人すら使っている自覚がありません。シャドーITとの決定的な違いはデータの行き先です。未承認の協業ツールはデータがその中にとどまりますが、AIは入力した内容が学習や再生成に使われうるため、回収という概念そのものが成り立ちません。無料プランと企業プランの学習利用設定から確認すべき理由です。
最も多い誤解は、ドメインをブロックすれば問題が終わるという考えです。社内ネットワークで遮断すると、従業員はモニター画面を個人のスマートフォンで撮影して入力します。この場合はログすら残らないため、遮断した後にむしろリスクがより深く潜ります。調査の仕方も問題です。監査と懲戒の枠組みで尋ねると、利用率は一桁台と報告され、経営陣は「うちは安全だ」という誤った安心を得てしまいます。企業向けツールだけ契約しておき、どんな情報を入れてよいかの基準を示さないと、従業員は使い慣れた個人アカウントに戻ってしまいます。ライセンス費用だけが出ていき、リスクはそのまま残る構造です。
IT部門の承認なしに使われるソフトウェアを指す'シャドーIT'から派生した概念で、2023年以降の生成AIの普及とともに、セキュリティ業界の中核的な課題となりました。
仮想の事例で見てみましょう。役職員420名、年間売上高1,800億ウォン(約2,152,621万円)規模の自動車部品メーカーA社の話です。セキュリティ点検で、社内ネットワークから生成AIサービスへのアクセスが月3,000件を超えていることが判明しましたが、会社が提供する公式のAIツールは一つもありませんでした。代表は3か月以内に整理するよう指示しました。
- 情報セキュリティチーム長が「これは摘発ではなく実態調査だ」と明言して匿名アンケートを実施したところ、回答した312名のうち68%が個人アカウントで社内文書を入力してみたことがあると答えました。
- 最も多く貼り付けられた資料は議事録と見積書でした。法務チーム長は「取引先の単価がそのまま外に出たも同然」として、3件を秘密保持義務違反のおそれがある案件として別途分類しました。
- ITチームは役職員のPCにあるブラウザ拡張機能14個を点検し、入力データの学習オプションがオンになっていた6個をブロックしました。そして2か月で法人向けAIアカウント200席を正式に導入しました。
- 人事チームは2時間の実習研修を12回実施し、入力してよい情報と絶対に入力してはいけない情報を1枚にまとめたカードを、全部署の机に貼りました。
- 3か月後、個人アカウントへのアクセスは月3,000件から210件に減り、法人向けアカウントの週間アクティブユーザーは137名まで増えました。セキュリティチーム長は「今後は何を入力したかをログで確認する」と話しました。
金鍾赫(キム・ジョンヒョク)
パク・ソリョン