関数呼び出し · ツール利用
Function Calling / Tool Use
関数呼び出しとは?
- AIが外部のツール・APIを自ら呼び出す
- 対話型を「実行型」へ拡張
- エージェントの手足
関数呼び出しを有効にすると、モデルが出力するものの性質そのものが変わります。普段のように文章を返す代わりに、「どの関数を、どの引数で呼んでほしい」という構造化された要求(多くはJSON)を出し、実際の実行はモデルの外側にあるシステムが担います。モデルが判断し、実行はアプリケーションが行うという分業が生まれ、実行結果をモデルに返してはじめて、人が読める回答が完成します。呼び出しの権限を最後まで握っているのは開発者であることが、この構造の出発点です。
設計で成否が分かれるポイントは三つあります。一つ目は関数の仕様で、名前・一行の説明・パラメーターの型をどれだけ明確に書いたかが、ツール選択の正確さを左右します。二つ目はツールの数です。候補が20〜30個を超えると似た関数同士の混同が増えるため、手前にルーティング段階を別途設けるほうが安全です。三つ目は読み取りと書き込みの区別です。照会・計算のように元に戻せる呼び出しと、注文登録・メール送信・決済のように元に戻せない呼び出しを同じ等級で扱ってはいけません。RAGと混同しやすい部分ですが、RAGは検索結果をあらかじめ入れておく方式であるのに対し、関数呼び出しは呼ぶかどうかをモデルがその都度決めるという点で異なります。
現場で最も頻繁に起きる事故は「どうにかなるだろう」という油断です。関数の説明が不十分だと、モデルは呼び出しを諦めるのではなく、引数をもっともらしく作り出してしまいます。存在しない品番や形式の誤った日付が、そのまま運用DBに入ってしまうケースです。呼び出しが失敗したときに同じリクエストを無限に繰り返してAPIの上限を使い切ったり、書き込み関数に承認手続きなしで権限を開放して取り消せない注文が出てしまったりすることもあります。すべての呼び出しに入力値検証・再試行の上限・実行ログを付け、金額が発生する作業や外部へ送信される作業は、人が最後のボタンを押すように残しておく必要があります。
大規模言語モデルに外部ツールを使う能力を与えようとする流れ(ReActなど、2022年)から発展し、AIが定められた関数を呼び出す機能が標準化されて、エージェントの基盤となりました。
仮の事例で見てみましょう。役職員140名、年間売上620億ウォン(約741,458万円)規模の産業資材流通会社A社です。営業支援チームは1日70件ほど「その品番の在庫はありますか、納期はいつになりますか」という電話を受けており、答えるたびにERP画面を2つ開く必要がありました。社内チャットボットを導入してみましたが、「詳細は担当者にお問い合わせください」を繰り返すだけで、3か月で利用率が底をつきました。
- ITチームのパク・チーム長が原因を指摘しました。チャットボットが製品マニュアルのPDFしか読んでいなかったため、毎時間変わるリアルタイムの在庫数は、そもそも参照する経路がありませんでした。
- そこで、ERPの在庫照会と納期計算の二つだけを読み取り専用の関数として公開しました。関数の説明欄には「品番は8桁の数字」と明記しておきました。
- 2週間のパイロットで、モデルが存在しない品番を作り出して照会する事例が週17件発生しました。手前に品番の検証関数を置き、形式が合わなければ「品番8桁を改めてお知らせください」と聞き返すように変えました。
- 注文登録の関数は金 営業部長が止めました。「金額が動く処理は人が押す」。結局AIは注文書の下書きを表示するだけにし、担当者が承認ボタンを押してはじめて送信されるようにしました。
- 3か月後、電話1件あたりの対応時間は平均4分30秒から55秒に短縮され、営業支援チーム4名が週あたり21時間を取り戻しました。誤答の報告は週17件から2件に減りました。
金鍾赫(キム・ジョンヒョク)
パク・ソリョン