AIオーケストレーション
AI Orchestration
AIオーケストレーションとは?
- 複数のAI・ツール・データを流れとして調整
- 段階ごとに適したAIを割り当てる
- 実務自動化の骨組み
AIオーケストレーションが入ると、AI導入の単位が変わります。以前は「どのプロンプトを使うか」が悩みでしたが、今は「この業務を何段階に分け、各段階を誰に任せるか」が悩みになります。AIを使う単位が質問から業務の流れへ移るのです。そのため主導権も移ります。個人がプロンプトをうまく書く問題ではなく、業務手順を知る現場が設計の席に着くべき問題になります。
調整方式は大きく二つに分かれます。経路が固定されたパイプライン型は、「検索→要約→表作成→送信」のように順序が決まっているため結果が予測可能で、監査もしやすいです。エージェント型は、LLMが状況を見て次のツールを自分で選ぶ方式で柔軟ですが、同じ入力でも違う経路をたどることがあり、検証が難しくなります。大部分をパイプラインで固定し、判断が必要な一、二の段階だけをエージェントに任せる組み合わせが現実的です。モデルの割り当ても同じ原理で、分類・抽出のような単純な段階は小型モデル(sLM)に任せて費用と遅延を減らし、最終文の作成のように品質が目に見える段階にだけ大型モデルを付けます。
RPAや既存のワークフロー自動化とも区別する必要があります。RPAは決まった画面と規則どおりにクリックを繰り返す方式ですが、オーケストレーションは非定型の入力を解釈する段階が流れの中心に入る点で異なります。RAGやファインチューニングが一つの段階の性能を引き上げる技術だとすれば、オーケストレーションはそれらの段階をどの順序でつなぎ、失敗したらどこへ戻すかを設計することです。
最もよくある誤解は、ツールさえ入れれば流れが自動で回るという考えです。段階ごとの正確度が90%でも五つの段階をつなぐと全体の成功率は59%に下がり、前の段階で誤って読んだ数字が後の段階でもっともらしい文章に包まれて顧客に届きます。エラーが消えるのではなく、見えないところで積み重なります。段階ごとの入出力ログを残さないと、決裁直前に誤った数値を見つけても、どの段階が原因か特定できず最初から回し直すことになります。人が確認して流れを止める地点をフローの中にあらかじめ組み込むことが、自動化率を上げることより先です。
複数のAI・ツールを組み合わせて複雑な業務を自動化しようとするニーズから生まれた概念で、エージェントやワークフローツールの発展とともに確立されつつあります。
仮の事例で見てみましょう。従業員240名規模の産業用部品流通会社A社です。顧客企業からメールで届く見積もり問い合わせは1日平均180件で、CSチーム4名が添付ファイルを開いて品番を探し、ERPで在庫を照会してから見積書を作って送っていました。平均返信まで6時間かかり、繁忙期には三件に一件が翌日に持ち越されていました。
- CSチーム長が3週間分のメール420件を直接分類し、「品番が明確な案件68%、図面・写真だけが届いた案件22%、残りは相談が必要」という表を作りました。この比率が流れ設計の出発点になりました。
- 最初の段階では、小型モデルにメールを三つに分類させ、品番の抽出とERPの在庫照会は規則ベースのツールで固定しました。情報システム部の課長は「判断は最小限に、照会は確定的に」と線を引きました。
- 図面・写真だけが届いた案件は、大型モデルが仕様を推定します。ただし信頼度が低い場合は自動送信を止め、担当者の確認ボックスに回すようにしました。導入初期の2週間で確認ボックスに回った割合は31%でした。
- 初月に単価表の改定分が反映されていない見積もりが7件出てしまうと、営業本部長が「数字が間違っているのは自動化ではなく事故だ」と指摘し、単価照会の段階に改定日の検証と段階ごとのログを付けました。
- 3か月後、平均返信時間は6時間から40分に短縮され、自動送信の割合は61%になりました。CSチーム4名のうち2名は大量受注の相談業務に異動しました。
金鍾赫(キム・ジョンヒョク)
パク・ソリョン