AIガバナンス・倫理
AI Governance / Ethics
AIガバナンスとは?
- AIを安全・公正に活用するための管理体制
- 原則・方針・統制の仕組みの整備
- 規制対応であり、信頼の土台
AIガバナンスが入ると、組織から一つ消えるものがあります。「この資料はAIに入れてもいいのか」を担当者が一人で勘で判断していた瞬間です。どの業務にどのツールを使えるのか、成果物を誰が検証し、問題が起きたら誰が責任を負うのかが、文書とシステムに定められるからです。判断の負担を個人から組織へ移す仕組みであり、だから速度を落とす規制というより、速度を支える土台に近いものです。
設計は通常、リスクの等級を分けることから始まります。2024年に発効したEU AI Actは、AIシステムを禁止・高リスク・限定的リスク・最小リスクの4等級に区分し、等級ごとに異なる義務を課しています。採用審査や信用評価のように人の権利に直接関わる用途は高リスクに分類され、記録の保管、説明可能性、人による最終的な関与の義務が付きます。国内企業もこの枠組みを借りて、すべてのAIに同じ統制をかけず、用途別に強弱を調整する方式をとっています。情報セキュリティ方針が「データが外部に出ていないか」を見るのに対し、AIガバナンスはモデルが出した結果を誰が検証し、責任を負うのかまで見る点で範囲が異なります。
現場で最も多い失敗は、禁止リストだけを作って代替策を示さないケースです。会社のアカウントを止めても業務量は変わらないため、社員は個人の携帯電話や個人メールに移ってしまいます。組織がその存在すら把握できないシャドーAI(Shadow AI)の利用が増えると、ログも痕跡も残らず、情報漏えいは事故が起きてから初めて明らかになります。逆に、倫理宣言文を作ってホームページに掲げるだけで終わるケースも多いです。宣言文は統制の仕組みではなく、その前書きにすぎないため、承認手続き・利用ログ・点検周期が伴わなければ、監査で提示できる書類一枚以上の意味を持ちません。
AIの普及とともに偏向・安全性・プライバシーの問題が浮上して確立された分野で、近年はEU AI Actなどの規制や、企業の責任あるAI(Responsible AI)の潮流の中で重要性が高まっています。
仮想の事例でご説明します。役職員740名、年間売上高2,300億ウォン(約2,750,571万円)規模の医療機器メーカーA社で、開発チームの社員が個人アカウントのチャットボットに製品制御のソースコードの一部を貼り付けた形跡が、セキュリティ点検で見つかりました。調べてみると、会社の承認なしに外部のAIサービスを使っていた社員が部署を問わず広がっており、代表は3か月以内に使える体制を作るよう指示しました。
- 情報セキュリティチーム長がプロキシログ4週間分を抽出したところ、外部AIへの接続試行は1日平均310件で、そのうち68%が開発・企画部門からのものでした。
- CISOと法務チーム長は業務を3段階に分けました — 顧客の個人情報や設計図面が関わる業務は禁止、社内文書の要約は承認アカウントのみ、公開資料の調査は自由に使えます。
- 「使うなと言うだけでは、みんな携帯電話で使ってしまいます」という開発本部長の言葉を受けて、会社は法人向けアカウント120席をまず開放し、禁止事項はA4一枚にまとめました。
- 人事チームは1時間の研修を6回実施し、実際に情報漏えいにつながりかけた社内事例3件を匿名化して、そのまま見せました。
- 6か月後、個人アカウントへの接続試行は1日310件から22件に減り、承認済みアカウントの利用率は登録人数の84%、機微情報の入力の検出は四半期ゼロ件になりました。
金鍾赫
イム・アラ