オープンソースLLM・オープンウェイト
Open-Source Large Language Model / Open Weights
オープンソースLLMとは?
- 重みを公開し、自社インフラで実行できるLLM
- データ主権・コスト管理・カスタマイズが導入の動機
- 機密業務だけをプライベートで動かすハイブリッドが定石
重みファイルを手元に持つということは、AIをサービスの購読から資産の保有へ移すことを意味します。クローズドAPIは提供元がモデルを更新したり旧版を終了したりすると、昨日まで正しく動いていたプロンプトの出力が変わってしまいます。一方、ダウンロードしたモデルはバージョンを丸ごと固定できるため、一度取得した検証結果には有効期間が生まれます。モデルが変わるたびに再検証文書を求められる金融・医療では、出力の再現性が導入可否を分ける条件となり、インターネットが遮断された網分離環境でも同じ機能を動かせる点が、クローズド型との分かれ目になります。
'オープン'という一語には少なくとも3段階が混在しています。重みだけを公開したオープンウェイト、学習コードとデータ構成まで公開した完全公開、特定の条件でしか使えない制限公開がすべて「オープンモデル」と呼ばれます。Apache 2.0やMIT系は商用利用の条件が単純ですが、コミュニティライセンスを使うモデルには月間アクティブユーザーの上限、派生モデルの名称規定、出力物による他社モデル学習の禁止といった条項が付きます。法務検討なしにPoCを本サービスへ昇格させ、後から条項違反が見つかると、モデルを丸ごと入れ替え、ファインチューニングを最初からやり直すことになります。
サイズの選択は、そのままGPUの予算になります。8B級は4ビットGPUではなく4ビット量子化を使えばVRAM 24GBのカード1枚に載りますが、70B級はfp16基準で140GB前後が必要で、高性能GPUを複数枚つなぐ必要があります。そのため現実的な構成は「大きなモデル一つ」ではなく、要約・分類・抽出のように範囲の狭い業務を小さなモデルに分けて任せる方向に向かいます。損益分岐点はトークン単価ではなくGPUの稼働率で決まるため、一日に数十件程度の業務であれば、自前でサービングするほうがかえって高くつきます。
最もよくある誤解は、「オープンソースだから無料」というものです。GPUのレンタル料や電力、監視、夜間障害対応の人件費が毎月かかるため、稼働率が低いとAPIより高くつく区間が生まれます。二つ目は「ダウンロードしたから安全」という考えですが、ファインチューニングの学習データセットや推論ログを平文で蓄積しておくと、結局同じ漏えい経路が社内に再び作られてしまいます。三つ目は、リーダーボードの点数をそのまま信じることです。英語のベンチマークで上位のモデルが、自社の韓国語文書では重要な文の欠落や社内用語の誤訳を大量に出すことは珍しくありません。自社データ100件で実際に試すまでは、公開された数字を結論にしないでください。
2023年にMetaがLLaMAを研究用に公開し、続いて商用利用可能なLLaMA 2を発表したことで、オープンウェイトのエコシステムは急速に成長しました。その後、Mistral、Qwen、DeepSeekなどが性能差を縮め、「公開モデルでも十分な業務」の範囲を広げ続けています。
架空の事例で見てみましょう。従業員900名規模の国内損害保険会社A社は、コールセンターの相談録音を自動要約して苦情の種類を分類するパイプラインを、クローズド型APIで6か月間運用してきました。月間トークン費用は2,300万ウォン(約275万円)まで上がり、社内監査で顧客の氏名と契約番号が外部に出る構造だという指摘が2件つき、4か月の移行プロジェクトが始まりました。
- デジタルイノベーションチームのパク・チーム長が3か月分のトークン明細を出してCFOの前に置くと、「この金額ならGPUを借りた方がいいのでは」という一言が返ってきて、その場で移行検討が課題として設定されました。
- AIエンジニア2名が実際の相談録音200件で、8Bと32Bの公開モデル4種を比較したところ、32Bモデルは要約精度で既存APIの94%水準に達しました。
- 法務チームの検討で、第1候補のライセンスに「月間アクティブユーザー7億人」条項と派生モデルの名称規定が引っかかることが判明し、条件が単純なApache 2.0系へ順位を入れ替えました。
- インフラチームのキム課長は、サーバーを購入する代わりに自社VPCにL40S 2枚を借り、vLLMで立ち上げました。ところが最初の2週間は秒あたりの処理量が目標の半分にとどまり、バッチサイズと量子化の設定を3回組み直しました。
- パク・チーム長は、顧客情報を含む通話要約だけをプライベートモデルに任せ、プレスリリース草稿や議事録整理は既存のクローズド型APIに残して、2つの経路に分けて運用しました。
- 切り替えから4か月後、月間運用費はGPUレンタル料・人件費込みで2,300万ウォン(約275万円)から980万ウォン(約117万円)に下がり、顧客情報の外部送信は0件となって、監査指摘2件がいずれも解消されました。
金鍾赫
キム・ソンイル