基盤モデル
Foundation Model
基盤モデルとは?
- 一度大規模に事前学習させた汎用モデル
- 翻訳・要約・コーディングなど幅広く活用
- 現代AIの土台
基盤モデルが変えたのは性能ではなく、AIプロジェクトの出発点です。以前は問い合わせ分類器を一つ作るにも、データ収集とラベリング、学習、検証に半年と専任の人員が必要で、業務の基準が変われば最初からやり直しでした。今は学習済みのモデルをAPIで呼び出して使うため、企業が抱える問いが'どうやって学習させるか'からどのモデルを選び、自社データにどう組み込むかへと移っています。コストの性格も、一度に出ていく開発費から毎月かかる利用料へと変わり、チームに必要な力も、モデルを作る力より、選び、組み込み、検証する力へと移っています。
基盤モデルといっても、すべてが同じではありません。重みを公開せずAPIでのみ提供されるクローズド型と、ダウンロードして社内のサーバーに載せられるオープンウェイト型に分かれ、テキストだけを受け付けるモデルか、画像・音声も一緒に受け付けるマルチモーダルかでも分かれます。業務に組み込む方法も3つの層があり、プロンプト、RAG、ファインチューニングの順に、コストと難易度が上がります。通念とは違い、社内の知識を入れる作業はファインチューニングではなくRAGの役割であり、ファインチューニングは口調・出力形式・分類基準のように'解き方'を固定したいときに使います。この区別を見落とすと、数千万ウォンのファインチューニングをしたのに、きのう変わった単価表を読めないモデルが出来上がります。
現場で最もよく崩れるのは、'一度つなげれば終わり'という考えです。モデルは数か月単位でバージョンが上がり、古いバージョンには提供終了の予告が出ます。バージョンが変わると、うまく動いていたプロンプトが出力形式をわずかに変え、後段のシステムごと止まることが実際に起こります。モデルのバージョンを固定し、回帰テストのセットを備えたチームだけが、この切り替えを事故なく乗り越えます。もうひとつは'汎用だから、うちの業務も自然にやってくれるだろう'という期待です。社内規定や製品コード、きのう改定された単価表は学習データにないため、それらしい誤答が返ってきます。つながれていない基盤モデルは、賢い部外者にすぎません。
2021年、スタンフォード大学の人間中心AI研究所(HAI)が、このような大規模汎用モデルを'foundation model'と命名し、概念を確立しました。
仮想の事例で見てみましょう。役職員520名、年間売上高1,800億ウォン(約2,152,621万円)規模の産業用バルブメーカーA社です。海外のお取引先からの技術問い合わせが月700件届き、図面と仕様書を一つひとつ探して回答していたため、一次回答までに平均2.5日かかっていました。専用のAIモデルを作る案が上がりましたが、見積もりは8億ウォン(約9,567万円)、開発期間は12カ月でした。
- CTOのキム常務は見積書を差し戻し、"1年後にこれが商用モデルより優れていると断言できますか"と尋ね、代わりにまず2週間のモデル比較テストを行うよう指示しました。
- 技術営業チーム長が過去1年分の海外問い合わせ200件を抽出し、同じプロンプトで3つのモデルに実行させたところ、実務担当者の採点基準による正答率はそれぞれ71%、64%、58%と分かれました。
- 情報戦略チームは第1位のモデルに、図面仕様書と見積もり履歴1万4,000件をRAGで接続し、ファインチューニングは見送りました。"知識は検索で入れて、話し方だけプロンプトで整えよう"という判断でした。
- 法務チームは入力データを学習に使わない条項と処理リージョンを契約書に明記し、開発チームは モデルのバージョンを固定し、回帰テスト120問を作成して、アップデートのたびに実行することにしました。
- 3か月後、一次返信のリードタイムは平均2.5日から4時間に短縮され、月間トークン費用は240万ウォン(約29万円)と、当初見積もりの20分の1にも満たない額で運用しながら、未処理の問い合わせ残数は60%減少しました。
金鍾赫
キム・ソンイル