知識 · AI基礎

ヒューマン・イン・ザ・ループ · HITL

Human-in-the-Loop

📂AI基礎⏱読了2分📊実務🔗関連8

ヒューマン・イン・ザ・ループとは?

一行定義
AIシステムの動作過程に、人による確認・承認のポイントを意図的に組み込む原則(Human-in-the-Loop)。リスクが高い判断ほど、人の関与を強めます。
このテーマを社内研修で📚 関連研修💬 研修のお問い合わせ
⚡ 3行要約
  • AIプロセスに人の確認・介入ポイントを置く設計
  • 誤り・幻覚に対する最後の防衛線であり、責任の所在の基準
  • リスクの高い判断ほど人の関与を強化

HITLを設計し始めると、組織内の問いが変わります。「AIがどれだけ正確か」を問うていた場所に、「間違えたとき、誰が、どの時点で気づくのか」という問いが入ってきます。モデルの性能を100%にすることは不可能ですが、誤りが実際の実行に移る前に引っかかる関門を作ることは可能です。精度競争ではなく統制ポイントの設計へ議論が移ることが、HITLの実質的な効果です。

介入の仕方は通常3つの層に分かれます。実行前に人の承認がなければ進まない事前統制、実行は自動で行いログを事後にサンプリング点検するヒューマン・オン・ザ・ループ(HOTL)、システムの稼働・停止の権限そのものを人が持つヒューマン・イン・コマンド(HIC)です。実務ではこれらを混ぜて使います。例えば、モデルの確信度90%以上は自動処理、70〜90%は審査待ちキュー、70%未満は自動差し戻し、と分ける方式です。注意すべき境界が一つあります。人が画面を見ているだけではHITLにはなりません。結果を覆す権限と判断する時間が一緒に与えられてはじめて、統制ポイントとして機能します。

現場で最も頻繁に崩れるのは承認ボタンです。審査者一人に1日300件が集中すると、人はAIの判断をそのまま追う方向に傾き(自動化バイアス)、監査ログには「人の承認」ばかりが並びますが、実際の審査は事実上ゼロに近づきます。この状態で事故が起きると責任は最後にクリックした実務者個人に降りかかり、HITLはアリバイ装置に転落します。審査件数の上限、承認理由の一行入力、差し戻し率のモニタリングを併せて設けてください。差し戻し率が常に0%なら、審査が機能していないというサインです。

この用語が登場する研修 · AI・DX
おすすめ研修 · おすすめ講師 · 簡易見積もり
🧮 ミニ見積もり・講師料の基準
約120万ウォン(約14万円)特別講義 2時間 · 20名以下 · 韓国語
この条件で正式な見積もりを依頼 →
💡 かんたんに言うと
自動運転中もハンドルに手を置いておくこと。危険な瞬間には人が握ります。
実務でなぜ重要なのか
AIエージェントが実際の業務を実行する時代には、「どこまで任せ、どこで人が確認するか」がAI導入設計の核心の問いになります。EU AI法など規制も、高リスクAIに人の監督を求めています。
由来と出典

制御システムと機械学習における人間の介入研究から発展し、生成AI・エージェントの普及とともにAIガバナンスの標準用語になりました。

出典 · 制御システム・機械学習における人間の介入(Human-in-the-Loop)研究 · 原文を見る
事例で理解する

仮想の事例で見てみましょう。役職員420名規模の流通企業A社は、下半期の定期採用にAIによる書類スクリーニングを導入しました。応募者は2,400名なのに、人事チームの書類審査要員は3名、選考期間はわずか2週間でした。導入初週に「基準も分からず落とされる」という応募者からの問い合わせが入り、人事チーム長は関与のポイントを組み直しました。

  1. 人事チーム長はAIの権限を切り分けました。経歴年数や必須資格のような事実確認型の不足だけをAIが除外し、適合度スコアだけで不合格にすることは禁止しました。
  2. 最初の3週間は、AIの判定と担当者の判定を並行して行いました。AIが不合格にした310件を採用担当者2名が全件再審査したところ、17件が誤不合格で、原因は経歴記載の形式の違いでした。
  3. 再検討会議で、ある担当者が「これは人が見なかったら、そのまま落ちていた履歴書です」と言い、チーム長は60〜75点の区間を「保留」として分け、すべて人に回すよう規則を変えました。
  4. 承認画面も手を入れました。合格・不合格ボタンには理由の一行入力を必須にし、審査者1人あたり1日120件を上限として、機械的な連続クリックを防ぎました。
  5. 3か月後、誤不合格は17件から2件に減り、書類選考の所要期間は11日から4日に短縮されました。応募者の異議申し立ては月23件から4件に下がりました。
関連用語
AIエージェント単に答えるだけにとどまらず、目標を受け取ると自ら計画を立て、ツールを使って複数の段階の作業を実行するAI。ガードレールAIが危険・不適切・規程違反の回答をしないよう、あらかじめ設けておく安全装置・ルール。AIの「手すり」。ハルシネーション · 幻覚AIが事実でない内容を事実のようにもっともらしく作り出す現象。生成AI活用において必ず管理すべきリスク。AIガバナンス · 倫理AIを安全・公正・責任をもって使うため、原則・方針・統制の仕組みを整える組織の管理体系。AI基本法 · EU AI法人工知能の開発・利用に関する国家レベルの基本規律。韓国の「人工知能発展と信頼基盤造成等に関する基本法」とEUのAI Actが代表的で、リスクの水準に応じて義務を変える構造が共通点です。AI PoC · パイロットPoC(Proof of Concept、概念実証)は、そのAIが業務で機能するかを小さく確かめる実験であり、パイロットは一部の部署が実務で試し、全社展開の可否を判断する試験運用です。AIエージェント基盤の比較 · 企業向けエージェントビルダーの選定コーディングなしで社内業務用のAIエージェントを作れる企業向けビルダー製品を、自社のシステム・セキュリティ・予算の条件に合わせて比較し選ぶことです。製品の機能と価格は頻繁に変わるため、比較表は選定基準であり正解表ではありません。AI業務マニュアル · AI活用SOP部署ごとに、どの業務にどのAIツールをどの順序・条件で使い、結果を誰がどう確認するかを記した標準手順書です。全社ガイドラインが「やってよいこと」を定めるなら、SOPは「こうせよ」を定めます。
この用語を含む学習パス
この用語に関連する研修
📚エージェントAI実務入門ナヌム経営コンサルティング 企業研修 · 対面/オンラインコースを見る →
このテーマで社内研修が必要でしょうか?
ご担当者さま向けの研修プログラム・お見積もりを、すぐにご覧いただけます。
研修のお問い合わせ
最終更新 2026-09-13 · 監修 金鍾赫

よくある質問

確認は生成よりはるかに速いです。AIが80%を作り、人が20%を確認する構造は、全体を人が行うより今でも何倍も速いです。
'承認疲れ'は実際のリスクです。すべてを確認させるのではなく、高リスクのものだけを残すこと、確認項目を具体化すること、抽出確認を併用することが対策です。
はい。EU AI法は高リスクAIシステムに人間による監督(human oversight)を求めており、採用や与信評価など人に関わる重大な判断については、各国の規制でも人の関与を求める流れが強まっています。
異なります。イン・ザ・ループ(in-the-loop)は、人の承認がなければ次の段階へ進まない方式で、オン・ザ・ループ(on-the-loop)は、AIが自動で実行しつつ人が監視し、必要なときに介入する方式です。リスクに応じて使い分けます。