ファインチューニング
Fine-tuning
ファインチューニングとは?
- 学習済みモデルを特定の作業に追加で学習させること
- 話し方・分野に合わせる
- 少量のデータで特化
ファインチューニングをすると、毎回プロンプトに添えて送っていた指示文がモデルの中に取り込まれます。「1行目はお詫び、本文は3段落、最後に担当者の連絡先」のようなルールを、例を10個添えて呼び出すたびに送り続けていたものを、学習段階で一度刻み込んでおくようなものです。つまり変わるのは、モデルが知っている知識ではなく、答え方の「行動様式」です。プロンプトが短くなるため、呼び出しごとのトークンと応答の遅れが減り、担当者ごとにプロンプトを少しずつ書き換えて生じていた出力のばらつきも抑えられます。
方式は大きく3つに分かれます。モデル全体の重みを更新するフルファインチューニングは機材とコストの負担が大きく、一部のパラメータだけを載せるLoRA・アダプター系(PEFT)はGPU1枚でも動くため、国内の実務ではこちらがほとんどです。商用APIベンダーのチューニング機能を使うと、データファイルをアップロードするだけで済む代わりに、学習データが外部に出ます。必要な量は作業が狭いほど少なくて済み、文書分類や出力形式の固定なら数百件、話し方・文体の移植は通常1,000〜3,000件程度の「入力-正解」のペアから効果が見えてきます。境界は次のように考えると概ね合っています。頻繁に変わる事実(価格・規定・在庫)はRAG、あまり変わらない形式・話し方・判断基準はファインチューニングです。
現場で最もつまずきやすいのは、「社内文書を学習させればモデルがその内容を覚える」という期待です。マニュアルPDFを丸ごと入れてチューニングすると、モデルは内容を暗記するのではなく、その文書の文体を真似し、数字や条項をもっともらしく作り上げてしまいます。規定が変わったとき、RAGなら文書1枚を差し替えるだけで済みますが、ファインチューニングはデータを直して再学習が必要になり、ベースモデルを上位バージョンに上げた瞬間にチューニング結果も一緒に捨てられます。学習データに過去担当者の不自然な表現や、マスキングされていない顧客名が混ざっていると、そのまま再生産される点も見落としがちです。評価用の設問を200件ほど先に切り分けておかないと、最後は「以前より良くなった気がする」という感覚で結論づけることになります。
事前学習(pre-training)済みのモデルを特定の作業・データに合わせて追加学習させるという概念で、転移学習(transfer learning)研究の流れから発展し、大規模言語モデルの普及とともに実務で広く使われるようになりました。
架空の事例でご紹介します。役職員240名、年間売上約900億ウォン(約1,076,310万円)の家具製造・流通A社のカスタマーセンターの話です。1日平均400件のお問い合わせメールを相談員11名が処理していますが、生成AIで下書きを作って使い始めた後も、相談員が文章をほぼ書き直す作業が繰り返されていました。3か月間、ファインチューニング導入を検討した過程です。
- CXチームのキム・チーム長が下書き100件を抽出して確認したところ、62件は手直しが必要な水準でした。また「謝罪の文章がアメリカ式すぎて、お客さまには生意気に読まれる」という相談員の意見が繰り返し上がってきました。
- 3週間、プロンプトに模範回答の例12個を添えて実験しましたが、呼び出しごとのトークンが4倍に増え、応答が平均4.2秒まで遅れたため、忙しい時間帯には使いにくいという結論になりました。
- 直近2年の相談メール約3万件のうち、再問い合わせがなかった優良回答1,800件を抽出し、運営チーム2名が2週間かけて顧客名・注文番号・電話番号をマスキングして、質問と回答のペアに整理しました。
- AI導入担当のパク課長が、オープンソースの小型モデルにLoRA方式で3回再学習を行いましたが、総学習コストは60万ウォン(約7.2万円)台で済みました。一方、配送ポリシーや景品規定のように四半期ごとに変わる内容には手を加えず、RAGで管理しました。
- 公開前に評価用の設問200件で、話し方の適合度と規定の正確性を別々に採点したところ、1次学習版は話し方は合格でしたが、規定の数値を作り上げてしまう事例が9件出たため、該当するタイプはすべてRAGに回しました。
- 導入から2か月後、下書きの修正率は62%から21%に低下し、メール1件の作成時間は平均11分から4分に短縮されました。プロンプトが短くなったことで、月間のAPI費用も38%減りました。
金鍾赫
イム・アラ