AI倫理
AI Ethics
AI倫理とは?
- 公正・透明・安全・責任の原則
- 「できる」と「してよい」は違う
- 導入時の必須検討事項
AI倫理は立派な宣言文を作ることではなく、モデルを作って使う手順のあちこちに「立ち止まれるポイント」を組み込むことです。データをどこから取得するか、どの変数を最初から入れないか、デプロイの前に誰が承認の署名をするか、事故が起きたら誰がスイッチを切るかを文書で定めておけば、技術の判断が経営の判断へと引き上げられます。実務で実感される変化は、たいてい一つです。「開発は終わったので確認してください」ではなく、企画会議の段階から一緒に席につくことです。
倫理は法規制の遵守と重なりますが、同じではありません。EU AI Actは、AIを禁止・高リスク・限定的リスク・最小リスクの4段階に分け、採用・与信評価・医療など高リスクに分類された用途には、データ品質管理、技術文書、ログ保存、人による監督の仕組みを義務として定めています。法は最低限の基準であり、倫理はその上で行う判断です。規制がまだ及んでいない領域、たとえば社内の業績データを要約レポートにまとめる、顧客の通話を感情分析するといったことは、適法であっても従業員や顧客が受け入れるかどうかは別問題です。バイアス緩和の技術や説明可能性(XAI)も、倫理を実行する手段であって、倫理そのものではないという点を区別する必要があります。
現場で最もよくある失敗は、倫理憲章をホームページに掲載しただけで終わらせることで、次に多いのが委員会への過信です。社内のすべてのAI利用を審議にかけると決裁が2か月ずつ遅れ、現場は結局、個人アカウントでこっそり使い始めます。リスクの等級ごとに承認経路を変える設計のほうが、ずっと長く機能します。実際に起きる事故も大げさなものではありません。過去の合格者データをそのまま学習させた採用モデルが、性別や学校を直接見なくても、サークル名や経歴の空白期間といった代理変数で同じ差別を再現し、監査が入ったときに判断根拠のログがなく、説明すらできないケースです。その際に払う代償は、課徴金よりも「あの会社のAIは信用できない」という評判のほうが大きいものです。
AIの社会的影響が大きくなるにつれて台頭した分野で、各国・企業・国際機関がAI倫理の原則やガイドラインを整えつつあります。
仮想の事例で見てみましょう。資産3兆ウォン規模の貯蓄銀行A社(役職員320名)は、非対面の個人信用ローン審査に機械学習のスコアリングモデルを導入し、8か月間運用してきました。審査時間は2日から20分に短縮されましたが、拒絶理由を問う苦情は月40件まで増えました。コールセンターからは「お客さまが『なぜ落ちたのか』と聞いてくるのに、私たちも説明できることがない」と報告がありました。
- リスク管理本部長が、データ・法令遵守・与信審査の3部門から6名を選んで「AI審議小委員会」を作り、モデル1つの通過期間を最長2週間と定めました。
- データサイエンス・チーム長が学習データ18か月分を改めて精査したところ、郵便番号と通信会社の料金プランが変数として組み込まれており、特定地域の拒絶率が平均より11%p高かったのです。
- 「地域は見ていないと言っていたのに、代理変数として見ていたことになる」という指摘が出ました。該当の変数4つを除いて再学習したところ、承認率の変化は0.8%ポイントにとどまることを確認しました。
- コンプライアンス担当者が、否決理由の上位3要因を自動で出力する案内文を作り、月200件を抽出して点検し、審査担当者が最終署名する手順に変えました。
- 顧客が異議を申し立てた場合は48時間以内に人が再審査する窓口を設け、モデルの予測と人の判断が食い違った案件はすべてログとして24か月間保管する仕組みにしました。
- 8か月後、説明要求の苦情は月40件から9件に、地域間の拒絶率の格差は11%pから3%pに縮小し、金融監督院の検査で求められた根拠資料を3日で提出しました。
金鍾赫
パク・スンテ