ヒューマン・イン・ザ・ループ · HITL
Human-in-the-Loop
ヒューマン・イン・ザ・ループとは?
- AIプロセスに人の確認・介入ポイントを置く設計
- 誤り・幻覚に対する最後の防衛線であり、責任の所在の基準
- リスクの高い判断ほど人の関与を強化
HITLを設計し始めると、組織内の問いが変わります。「AIがどれだけ正確か」を問うていた場所に、「間違えたとき、誰が、どの時点で気づくのか」という問いが入ってきます。モデルの性能を100%にすることは不可能ですが、誤りが実際の実行に移る前に引っかかる関門を作ることは可能です。精度競争ではなく統制ポイントの設計へ議論が移ることが、HITLの実質的な効果です。
介入の仕方は通常3つの層に分かれます。実行前に人の承認がなければ進まない事前統制、実行は自動で行いログを事後にサンプリング点検するヒューマン・オン・ザ・ループ(HOTL)、システムの稼働・停止の権限そのものを人が持つヒューマン・イン・コマンド(HIC)です。実務ではこれらを混ぜて使います。例えば、モデルの確信度90%以上は自動処理、70〜90%は審査待ちキュー、70%未満は自動差し戻し、と分ける方式です。注意すべき境界が一つあります。人が画面を見ているだけではHITLにはなりません。結果を覆す権限と判断する時間が一緒に与えられてはじめて、統制ポイントとして機能します。
現場で最も頻繁に崩れるのは承認ボタンです。審査者一人に1日300件が集中すると、人はAIの判断をそのまま追う方向に傾き(自動化バイアス)、監査ログには「人の承認」ばかりが並びますが、実際の審査は事実上ゼロに近づきます。この状態で事故が起きると責任は最後にクリックした実務者個人に降りかかり、HITLはアリバイ装置に転落します。審査件数の上限、承認理由の一行入力、差し戻し率のモニタリングを併せて設けてください。差し戻し率が常に0%なら、審査が機能していないというサインです。
制御システムと機械学習における人間の介入研究から発展し、生成AI・エージェントの普及とともにAIガバナンスの標準用語になりました。
仮想の事例で見てみましょう。役職員420名規模の流通企業A社は、下半期の定期採用にAIによる書類スクリーニングを導入しました。応募者は2,400名なのに、人事チームの書類審査要員は3名、選考期間はわずか2週間でした。導入初週に「基準も分からず落とされる」という応募者からの問い合わせが入り、人事チーム長は関与のポイントを組み直しました。
- 人事チーム長はAIの権限を切り分けました。経歴年数や必須資格のような事実確認型の不足だけをAIが除外し、適合度スコアだけで不合格にすることは禁止しました。
- 最初の3週間は、AIの判定と担当者の判定を並行して行いました。AIが不合格にした310件を採用担当者2名が全件再審査したところ、17件が誤不合格で、原因は経歴記載の形式の違いでした。
- 再検討会議で、ある担当者が「これは人が見なかったら、そのまま落ちていた履歴書です」と言い、チーム長は60〜75点の区間を「保留」として分け、すべて人に回すよう規則を変えました。
- 承認画面も手を入れました。合格・不合格ボタンには理由の一行入力を必須にし、審査者1人あたり1日120件を上限として、機械的な連続クリックを防ぎました。
- 3か月後、誤不合格は17件から2件に減り、書類選考の所要期間は11日から4日に短縮されました。応募者の異議申し立ては月23件から4件に下がりました。
金鍾赫(キム・ジョンヒョク)
パク・ソリョン