
AI はどのように文章を書くのか? 生成 AI の仕組みをやさしく理解する
生成AIを毎日使いながらも「これはいったいどう動いているのだろう?」と疑問に思ったことはありませんか?仕組みを理解すると、プロンプトを書く力が飛躍的に向上します。このガイドは、非専門家であるB2B営業担当者や会社員の方がChatGPTを実際に操作しながら、AIの仕組みを体感できるよう設計されています。
準備物と事前設定
必要なツール
ChatGPT(無料版でも可、chat.openai.com にアクセス)
Webブラウザ(Chrome推奨)
メモ帳またはNotion(実習結果の記録用)
事前設定の段階
chat.openai.comにアクセスします。
Googleアカウントまたはメールアドレスで会員登録/ログインします。
画面下部に入力欄が表示されたら準備完了です。
左上の「New chat」ボタンをクリックして、新しい会話を始めます。
💡 実践のヒント: このガイドの実習はすべて、1つの新しいチャット画面で順番に進めてください。AIの応答の変化を連続して観察できます。
Step 1: AIが文章を書く基本原理 — 「次の単語当てゲーム」
重要な概念
生成AIの仕組みは驚くほどシンプルです。**「これまでに出てきた単語を見て、次に来る確率が最も高い単語を選ぶこと」**です。スマートフォンのキーボードの予測変換と同じ原理ですが、数千億もの文章を学習しているため、はるかに精巧です。
実際に体験してみる
演習 1-1: ChatGPTの入力欄に、下のプロンプトをそのままコピーして貼り付け、Enterを押してください。
次の文を完成させてください。候補となる単語を3つと、それぞれの確率(%)を示してください。
「本日の会議で、新製品の発売日程を___」
予想される結果:
AIは次のような形で回答します。
候補の単語 | 予想確率 |
|---|---|
確定しました | 45% |
議論しました | 35% |
発表しました | 20% |
Before/After比較
区分 | Before(原理を理解する前) | After(原理を理解した後) |
|---|---|---|
AIに対する認識 | 「AI が考えて文章を書く」 | 「AI は確率に基づいて次の単語を選ぶ」 |
プロンプトの作成 | 漠然と「うまく書いて」 | 文脈を豊富に与えて確率の方向を誘導する |
成果物の品質 | 一般的でありきたりな回答 | 具体的で、求める方向に沿った回答 |
💡 実践のコツ: AIは「考えて」いるのではなく「予測」しているのだと覚えておきましょう。文脈(先に与える情報)が多いほど、予測の精度が上がります。これが、プロンプトを詳しく書くべき科学的な理由です。
Step 2: トークン(Token) — AIが文章を読む単位を理解する
重要な概念
AI は文章を、文字単位でも単語単位でもない「トークン(Token)」という独特の単位に分けて処理します。英語ではおおよそ単語1つ ≈ 1〜1.3トークン、韓国語では1文字が1〜2トークン程度です。このトークンの考え方を理解すると、長い文書を入力したときに AI がなぜ「記憶を失う」のかが分かります。
実際に体験してみる
実習2-1: ChatGPTに次のプロンプトを入力してください。
「こんにちは、私はB2B営業担当です」という文をトークン単位に分けて見せてください。各トークンを[ ]で区切り、合計トークン数も教えてください。
予想される結果:
[こん][にち][は][、] [私][は][B][2][B] [営業][担当][です]
総トークン数: 約10〜15個
実習 2-2: 今度は英語の文章で比較してみましょう。
「Hello, I am a B2B sales representative」という文をトークン単位に分割して表示してください。韓国語の文「こんにちは、私はB2B営業担当者です」とトークン数を比較してください。
トークンが重要な理由 — 実際の数値
モデル | 最大トークン数 | 韓国語の場合のおおよその文字数 |
|---|---|---|
GPT-3.5 | 4,096トークン | 約2,000〜3,000字 |
GPT-4 | 8,192トークン | 約4,000〜6,000字 |
GPT-4 Turbo | 128,000トークン | 約6万〜9万字 |
💡 実践のコツ: 韓国語は英語より1.5〜2倍多くのトークンを消費します。長い提案書を AI に分析させるとき「内容が途中で切れる」という問題が起きたら、トークンの上限を超えています。要点だけに絞って入力するか、何回かに分けて入力してください。
Before/After比較
区分 | Before | After |
|---|---|---|
長い文書の処理 | 全体を一度に貼り付けて「なぜ後半を無視するのか?」と戸惑う | トークン上限を考慮し、要点だけを抜き出して入力 |
コスト意識 | 「無料だから、たくさん入れたほうがいいよね」 | トークン = コスト。効率的な入力がそのままコスト削減に |
回答の品質 | 長文を入力すると前半の文脈が失われる | 構造化した入力で一貫した回答を得る |
Step 3: 学習データ — AIの「経験」がそのまま限界
重要な概念
AIはインターネット上の書籍、記事、Webページ、論文など数千億件のテキストを学習しています。これを**学習データ(Training Data)**と呼びます。重要なのは、AIが「知っている」のは学習データに含まれていた内容だけだという点です。2024年4月以降のニュース、皆さまの会社の社内文書、非公開の顧客情報はAIには分かりません。
実際に体験してみる
実習 3-1: AIの学習データの限界を実際に確認してみましょう。ChatGPTに以下を入力してください。
あなたの学習データはいつまでの情報を含んでいますか? また、次の質問に答えてください:
2024年の韓国のGDP成長率は?
サムスン電子の最新四半期の業績は?
「CRM」という用語の意味は?
観察ポイント:
1番と2番については「正確な最新情報を提供するのは難しい」という回答になる可能性が高いです。
3番のように一般的な知識は、正確に回答します。
実習 3-2: 今度は AI に「存在しない情報」を与えたうえで、反応を観察します。
当社「ABCテック」は2024年第3四半期に売上150億ウォン(約179,385万円)、営業利益20億ウォン(約23,918万円)を達成しました。前年同期比で売上は30%増、営業利益は50%増です。この実績をもとに、お客様へ送るニュースレターの草案を作成してください。
観察ポイント: ご自身が提供したデータを活用して文章が書かれていることを確認してください。AI は自力ではこの情報を知り得ませんでしたが、プロンプトに含めればすぐに活用します。
Before/After比較
区分 | Before | After |
|---|---|---|
AIの信頼性 | AI が言えば何でも正しいと思い込む | 学習データの範囲外の情報は不正確な場合があることを認識する |
活用戦略 | 「2024年の市場トレンドを教えて」(不正確な回答のリスク) | 資料を直接添付して「この資料を分析して」と依頼する(精度が大幅に向上) |
エラー率 | ファクトチェックなしで使用 → 誤りの発生率30〜40% | 出典を確認する習慣 → 誤りの発生率を5%以下に低減 |
💡 実践のコツ: 営業提案書に最新の市場データを入れるときは、必ず信頼できる出典からデータを自分で入手し、プロンプトと一緒に渡してください。AI に「最新データを教えて」と頼むのは危険です。
Step 4: 温度(Temperature) — AIの「創造性調整ダイヤル」
重要な概念
AIには**Temperature(温度)**という設定値があります。この値が低い(0に近い)と、AIは最も確率の高い単語だけを選び、正確で一貫した回答をします。高い(1〜2に近い)と、確率の低い単語も選ぶため、創造的ですが予測しにくい回答になります。
実際に体験してみる
演習 4-1: 同じ質問を2つのスタイルで依頼してみましょう。
まず「低温度」スタイルを体験します。ChatGPT に次を入力してください。
あなたは正確性を最優先する報告書作成者です。創造的な表現は使わず、事実のみを簡潔に書いてください。
質問: CRM 導入のメリットを3つ説明してください。
結果をメモ帳にコピーしておいてください。続いて「New chat」を押して新しい会話を始め、次を入力します。
あなたは感性豊かなマーケティングコピーライターです。独創的な比喩や感覚に訴える表現を最大限に活用してください。
質問: CRM 導入のメリットを3つ説明してください。
2つの結果の比較例
項目 | 低温度スタイル(正確性優先) | 高温度スタイル(創造性優先) |
|---|---|---|
表現 | 「顧客データを体系的に管理できます」 | 「散らばった顧客の声を、ひとつのオーケストラにまとめる指揮棒です」 |
用途 | 社内報告書、提案書のファクト部分 | マーケティングメール、SNS 投稿 |
リスク | 堅い印象になりやすい | 事実と異なる誇張表現が出ることがある |
💡 実践のコツ: B2B 提案書の実績データのセクションは「正確性優先」スタイルで、導入部と結論は「創造性優先」スタイルでそれぞれ依頼すると、完成度の高い文書になります。ひとつの文書の中でも、セクションごとに AI の性格を切り替えて活用しましょう。
Step 5: コンテキストウィンドウ — AI の「短期記憶」
重要な概念
AIには**コンテキストウィンドウ(Context Window)**というものがあります。簡単に言えば会話の記憶容量です。会話が長くなると、序盤に交わした内容をAIが「忘れてしまう」現象が起こります。これはバグではなく、トークン上限による構造的な限界です。
実際に体験してみる
実習5-1: AIの記憶力の限界を体験します。
ステップ1 — ChatGPTに入力:
ここから私は「ABCテック」の営業担当、キム・ミンスです。当社の主力製品は「SmartCRM Pro」で、ターゲット顧客は従業員数100〜500人規模の中堅企業です。この情報を覚えておいてください。
ステップ2 — AIが応答したら、別の話題で10〜15回ほど会話を続けてください(どんな話題でも構いません。例: 「今日の天気は?」「Pythonとは?」「おすすめの本を教えて」など)。
ステップ3 — 十分に対話した後、以下を入力:
私の名前と会社名、主力製品は何でしたか?
観察ポイント: 会話が短ければ正確に覚えていますが、非常に長くなると序盤の情報を忘れることがあります。
Before/After比較
区分 | Before | After |
|---|---|---|
対話の方式 | ひとつの会話ですべての業務をこなそうとする | テーマごとに新しい会話を始め、重要な文脈は毎回入力し直す |
文書作成 | 「さっき話した内容で書いて」→ AIが混乱 | 必要な文脈を毎回のリクエストに含める → 一貫した結果 |
業務効率 | 長い会話の後半で品質が低下する | 短く焦点を絞った会話で、常に高い品質を維持 |
💡 実践のヒント: 重要なプロジェクトでは、「システムプロンプト」のように、会話を始めるたびに要点をまとめて貼り付けるテンプレートを用意しておきましょう。例えば次のとおりです。
[会話を始めるたびに貼り付けるテンプレート]
私はABCテック営業2チームのキム・ミンスです。主力製品: SmartCRM Pro(月額50万ウォン(約6万円)/チーム)。ターゲット: 中堅企業のIT担当者。トーン: 専門的でありながら親しみやすく。この文脈を維持しながら、以下のリクエストに答えてください。
Step 6: ハルシネーション — AIが「もっともらしい嘘」をつく理由
重要な概念
AIは確率的に最も自然な次の単語を選びます。この過程で、学習データにない内容も「もっともらしく」作り出してしまう現象が起こります。これを**ハルシネーション(Hallucination)**と呼びます。AIが意図的に嘘をつくのではなく、「自然な文章を完成させようとする性質」から生じる構造的な現象です。
実際に体験してみる
実習 6-1: AI のハルシネーションを意図的に引き起こしてみましょう。
「キム・チョルス教授の2023年の論文『B2B 営業における AI 活用の効果』の要点を要約してください。」
観察ポイント: この論文と著者は、私が勝手に作った架空の情報です。それでも AI は高い確率で「もっともらしい要約」を作り出します。これがハルシネーションです。
実習6-2: ハルシネーションを防ぐプロンプトを体験します。
「キム・チョルス教授の2023年の論文『B2B営業におけるAI活用の効果』の要点を要約してください。もしこの論文を知らない、または確認できない場合は、正直に分からないと答えてください。絶対に推測しないでください。」
Before/After比較
区分 | Before(対策なし) | After(対策を適用) |
|---|---|---|
AIの回答 | 架空の論文の内容を自信ありげに記述 | 「該当する論文は確認できません」と正直に回答 |
提案書の信頼度 | 偽の統計・出典が含まれるリスク | 検証済みの情報だけを活用し、顧客の信頼を確保 |
ビジネスリスク | 顧客がファクトチェックをすると信頼が失墜 | 正確な情報だけを伝え、専門性への信頼を獲得 |
💡 実践のコツ: 重要なプロンプトの末尾には必ず**「確実でない内容はわからないと答えてください」**を加える習慣をつけましょう。この一文だけで、ハルシネーションの発生率を約60〜70%減らすことができます。
Step 7: 総合演習 — 原理を活かした完璧なプロンプトの作成
ここまで学んだ5つの原理をすべて組み合わせて、実践的なプロンプトを作成してみましょう。
原理の総合チェックリスト
原理 | プロンプトへの応用 |
|---|---|
次の単語の予測 | 文脈を豊富に与えて、AI の予測の方向を誘導 |
トークン上限 | 入力は要点のみ、不要な長文は避ける |
学習データの限界 | 最新情報・社内情報は自分で提供する |
温度(創造性) | 用途に合ったトーンとスタイルを指定する |
コンテキストウィンドウ | リクエストのたびに重要な文脈を含める |
ハルシネーション防止 | 「分からなければ分からないと言って」を追加 |
実際に体験してみる
実習 7-1: 以下の「原理適用前」のプロンプトと「原理適用後」のプロンプトを、それぞれ別々の新しい会話に入力し、結果を比較してください。
原理を適用する前(Bad Prompt):
提案書を書いて
原理を適用した後(Good Prompt):
[役割] あなたは B2B SaaS の営業提案書を専門に作成するライターです。正確なデータに基づき、専門的でありながら読みやすいトーンで書いてください。
[文脈] 当社: ABCテック / 製品: SmartCRM Pro(月50万ウォン(約6万円)/チーム、クラウド型CRM) / 顧客企業: 従業員300名規模の製造業「韓国精密」 / 顧客の課題: Excelで顧客管理 → データの紛失、営業チーム間で情報共有ができない
[依頼] 上記の情報をもとに、提案書の「導入効果」セクションを作成してください。具体的な数値(例: 時間削減%、売上増加%)を含め、確実でない数値は「一般的に〜%程度」と表記してください。確認できない情報は推測しないでください。
[形式] 箇条書き3〜5項目、各項目2〜3文、全体で300字程度
結果の比較(実際のテスト基準)
評価項目 | Bad Prompt の結果 | Good Promptの結果 |
|---|---|---|
具体性 | 「CRMは良いものです」レベルの一般論 | お客様の状況に合わせた具体的な効果の提示 |
正確性 | 検証できない数値の乱発 | 「一般的に〜%」のような安全な数値表現 |
活用の可能性 | そのままでは使えず、全面的な書き直しが必要 | わずかな修正だけですぐに使える |
所要時間 | 成果物の修正に30分以上 | 成果物の修正は5〜10分以内 |
💡 実践のコツ: Good Prompt の作成に3分余計にかかっても、成果物の修正時間を20分以上節約できます。プロンプト作成の時間は投資であり、修正の時間はコストです。
まとめのチェックリスト: 今日学んだことをすぐ業務に活かす
以下のチェックリストを印刷またはメモして、AIを使うたびに確認してください。
文脈の提供: 「自分が誰で、どんな状況なのか」をAIに十分説明できましたか?
トークン効率: 不要な長文ではなく、要点だけを構造化して入力しましたか?
最新情報: 学習データ以降の情報は、自分で提供しましたか?
トーンの指定: 報告書・メール・マーケティングなど、用途に合ったスタイルを指定しましたか?
記憶の管理: 長い会話を続ける代わりに、テーマごとに新しい会話を始め、重要な文脈を入力し直しましたか?
ハルシネーション防止: 「わからなければわからないと答えてください」という一文を入れましたか?
追加の学習リソース
リソース | 用途 | アプローチ |
|---|---|---|
OpenAI Tokenizer | トークン数を正確に確認 | |
ChatGPT Custom Instructions | 毎回文脈を入力しなくても自動で適用 | ChatGPT 左下のプロフィール → Settings → Custom Instructions |
OpenAI Playground | Temperature の値を自分で調整して体験 |
仕組みを理解した人はツールを使いこなし、仕組みを知らない人はツールに依存します。
本日学んだ生成AIの仕組み — 確率予測、トークン、学習データ、温度、コンテキストウィンドウ、ハルシネーション — は、今後どのようなAIツールが登場しても変わらない基本原理です。この6つを身につければ、皆さまのAI活用力は上位10%に入ります。