🤖 AI・IT研修
Local LLM基盤のAI技術研修 — データが社外に出ない社内AI
クラウドAIにアップロードできない資料を、社内PC・サーバーのAIで扱う
⏱ 研修時間8時間
🏢 研修形式出張研修 · オーダーメイド設計
👤 担当講師キム・ソンイル
✅ 主な成果セキュリティ上の理由でAIを使えなかった業務に、社内AIをすぐに適用
試験・測定データ、設計資料、顧客の技術文書など、外部のクラウドAIにアップロードできない資料を扱う企業向けの Local LLM 実習研修です。オープンモデル(Gemma・Qwenなど)を社内のPCやサーバーで直接実行し、データが社外に出ないAI環境を構築したうえで、報告書の草案作成・測定結果の要約・技術文書の翻訳といった実際の業務に適用します。続いて、社内文書を連携するRAGとPython APIの連携まで1日で実習し、自社に合った導入の方向性を整理します。講師は、KAIST機械工学修士で、サムスン電子の主任研究員時代に騒音関連の研究開発を自ら手がけたキム・ソンイルが務め、エンジニアの業務の言葉で進めます。実習環境は、参加者のノートPCで直接実行する方式と、社内サーバーまたは講師持参のMac miniに接続する方式から、企業の状況に合わせてお選びいただけます。
💻 このテーマをオンライン講座で先に学ぶ →どんな方に向いていますか?
KAIST機械工学の学士・修士課程を修了後、サムスン電子の主任研究員として騒音関連の研究開発に従事したエンジニア出身です。現在はビズニケーション代表であり、科学技術情報通信部のテックスコア・インストラクターとしてAI自動化・AX研修を担当しています。
学べる内容
- 社内のPC・サーバーでオープンモデルを自分でインストール・実行し、データが外部に出ないAI利用環境を理解する
- 報告書の草案作成・測定結果の要約・技術文書の翻訳に Local LLM を適用し、数値・単位の誤りを検証する習慣を身につける
- RAGとAPI連携で社内文書・ソフトウェアとつなぐ構造を実習し、自社の導入方針を整理する
研修プログラム
モジュール1:Local LLM概要
- データセキュリティの観点から見る社内AI
- クラウドAIとLocal LLMの比較
- オープンモデルの現状(Gemma・Qwenなど)
- 社内AIサーバーの構成
モジュール2:実行環境の構築
- Ollama・LM Studioのインストール
- 小型モデルの選定と量子化
- (サーバー型)Ollamaサーバー・Open WebUI・ネットワーク接続
モジュール3:業務活用実習
- 報告書の草案作成
- 測定結果の要約
- 英文技術文書の翻訳
モジュール4:活用の高度化と限界
- プロンプト作成の原則
- 結果の検証
- 数値・単位の誤りチェック
- モデル規模別の品質比較
モジュール5:RAGの概念と構成
- RAGの構造
- 文書の分割とエンベディング
- 文書フォルダ・共有ストレージの接続
モジュール6:RAG実習
- モックアップ文書に基づく質疑応答
- 回答の出典確認
モジュール7:API連携の実習
- Ollama API
- Python連携
- 報告書生成の自動化
- 社内ソフトウェアとの連携
モジュール8:導入方針とまとめ
- 個人PCの活用範囲
- サーバースペックの算定
- アクセス・権限管理
- 段階的な導入計画
- 質疑応答
この研修で使うツール
期待される効果 / 修了後
- セキュリティ上の理由でAIを使えなかった業務に、社内AIをすぐに適用
- 研修の翌日から使える、個人PCまたは社内サーバーのAI環境を確保
- 社内AIサーバー構築時のスペック算定・権限管理・段階的導入の基準を習得
関連研修
おすすめのオンライン講座
オンライン講座で先に学ぶ
出張研修の導入前に、このテーマの要点をオンライン講座で先に体験してみてください。
よくあるご質問
試験・測定データ、設計資料、顧客向け技術文書など、外部のAIにアップロードしにくい資料を扱う製造・エンジニアリング・研究部門に適しています。主な対象はエンジニア・研究員・技術実務者で、開発経験があればAPI連携までより深く扱います。
2つの方式からお選びいただけます。第1案は、参加者のノートPCでモデルを直接実行する方式で、RAM 16GB以上(推奨32GB)・SSD空き容量30GBが必要です。第2案は、社内サーバーまたは講師が持ち込む Mac mini にモデルをインストールし、ノートPCのブラウザから接続する方式で、ノートPCのスペックに関係なく均一に実習できます。ノートPCのスペックにばらつきがある場合は第2案をおすすめします。
一般的なノートPCで実施できます。ただしGPUがない場合は応答速度が遅くなることがあるため、小型モデルで実習し、研修前の事前動作テストでスペックを確認します。
KAIST機械工学の学士・修士課程を修了後、サムスン電子の主任研究員として騒音関連の研究開発に従事したエンジニア出身です。現在はビズニケーション代表であり、科学技術情報通信部のテックスコア・インストラクターとしてAI自動化・AX研修を担当しています。

Local LLM基盤のAI技術研修 — データが社外に出ない社内AI
クラウドAIにアップロードできない資料を、社内PC・サーバーのAIで扱う
研修の目標
- 社内のPC・サーバーでオープンモデルを自分でインストール・実行し、データが外部に出ないAI利用環境を理解する
- 報告書の草案作成・測定結果の要約・技術文書の翻訳に Local LLM を適用し、数値・単位の誤りを検証する習慣を身につける
- RAGとAPI連携で社内文書・ソフトウェアとつなぐ構造を実習し、自社の導入方針を整理する
期待される効果
- セキュリティ上の理由でAIを使えなかった業務に、社内AIをすぐに適用
- 研修の翌日から使える、個人PCまたは社内サーバーのAI環境を確保
- 社内AIサーバー構築時のスペック算定・権限管理・段階的導入の基準を習得
研修プログラム
Module 1モジュール1:Local LLM概要
- データセキュリティの観点から見る社内AI
- クラウドAIとLocal LLMの比較
- オープンモデルの現状(Gemma・Qwenなど)
- 社内AIサーバーの構成
Module 2モジュール2:実行環境の構築
- Ollama・LM Studioのインストール
- 小型モデルの選定と量子化
- (サーバー型)Ollamaサーバー・Open WebUI・ネットワーク接続
Module 3モジュール3:業務活用実習
- 報告書の草案作成
- 測定結果の要約
- 英文技術文書の翻訳
Module 4モジュール4:活用の高度化と限界
- プロンプト作成の原則
- 結果の検証
- 数値・単位の誤りチェック
- モデル規模別の品質比較
Module 5モジュール5:RAGの概念と構成
- RAGの構造
- 文書の分割とエンベディング
- 文書フォルダ・共有ストレージの接続
Module 6モジュール6:RAG実習
- モックアップ文書に基づく質疑応答
- 回答の出典確認
Module 7モジュール7:API連携の実習
- Ollama API
- Python連携
- 報告書生成の自動化
- 社内ソフトウェアとの連携
Module 8モジュール8:導入方針とまとめ
- 個人PCの活用範囲
- サーバースペックの算定
- アクセス・権限管理
- 段階的な導入計画
- 質疑応答
講師紹介

キム・ソンイル講師
投資家を説得する技術を教える、グローバルIRピッチの専門家
学歴
ㆍKAIST 機械工学科 修士
ㆍKAIST 機械工学科 学士
経歴
ㆍ(現)ビジニケーション代表
ㆍ(現)科学技術情報通信部 テックスコア インストラクター
ㆍ(現)延世大学校大学院 起業講義
ㆍ(前)サムスン電子 主任研究員
ㆍ(前)KOICA ODA 起業専門家(セネガル、カンボジア、ラオス)
