コラム · 連載記事

AI はどのように文章を書くのか? 生成 AI の仕組みをやさしく理解する

2026-04-04

カバー画像

AI はどのように文章を書くのか? 生成 AI の仕組みをやさしく理解する

生成AIを毎日使いながらも「これはいったいどう動いているのだろう?」と疑問に思ったことはありませんか?仕組みを理解すると、プロンプトを書く力が飛躍的に向上します。このガイドは、非専門家であるB2B営業担当者や会社員の方がChatGPTを実際に操作しながら、AIの仕組みを体感できるよう設計されています。


準備物と事前設定

必要なツール

  • ChatGPT(無料版でも可、chat.openai.com にアクセス)

  • Webブラウザ(Chrome推奨)

  • メモ帳またはNotion(実習結果の記録用)

事前設定の段階

  1. chat.openai.comにアクセスします。

  2. Googleアカウントまたはメールアドレスで会員登録/ログインします。

  3. 画面下部に入力欄が表示されたら準備完了です。

  4. 左上の「New chat」ボタンをクリックして、新しい会話を始めます。

💡 実践のヒント: このガイドの実習はすべて、1つの新しいチャット画面で順番に進めてください。AIの応答の変化を連続して観察できます。


Step 1: AIが文章を書く基本原理 — 「次の単語当てゲーム」

重要な概念

生成AIの仕組みは驚くほどシンプルです。**「これまでに出てきた単語を見て、次に来る確率が最も高い単語を選ぶこと」**です。スマートフォンのキーボードの予測変換と同じ原理ですが、数千億もの文章を学習しているため、はるかに精巧です。

実際に体験してみる

演習 1-1: ChatGPTの入力欄に、下のプロンプトをそのままコピーして貼り付け、Enterを押してください。

次の文を完成させてください。候補となる単語を3つと、それぞれの確率(%)を示してください。

「本日の会議で、新製品の発売日程を___」

予想される結果:


AIは次のような形で回答します。

候補の単語

予想確率

確定しました

45%

議論しました

35%

発表しました

20%

Before/After比較

区分

Before(原理を理解する前)

After(原理を理解した後)

AIに対する認識

「AI が考えて文章を書く」

「AI は確率に基づいて次の単語を選ぶ」

プロンプトの作成

漠然と「うまく書いて」

文脈を豊富に与えて確率の方向を誘導する

成果物の品質

一般的でありきたりな回答

具体的で、求める方向に沿った回答

💡 実践のコツ: AIは「考えて」いるのではなく「予測」しているのだと覚えておきましょう。文脈(先に与える情報)が多いほど、予測の精度が上がります。これが、プロンプトを詳しく書くべき科学的な理由です。


Step 2: トークン(Token) — AIが文章を読む単位を理解する

重要な概念

AI は文章を、文字単位でも単語単位でもない「トークン(Token)」という独特の単位に分けて処理します。英語ではおおよそ単語1つ ≈ 1〜1.3トークン、韓国語では1文字が1〜2トークン程度です。このトークンの考え方を理解すると、長い文書を入力したときに AI がなぜ「記憶を失う」のかが分かります。

実際に体験してみる

実習2-1: ChatGPTに次のプロンプトを入力してください。

「こんにちは、私はB2B営業担当です」という文をトークン単位に分けて見せてください。各トークンを[ ]で区切り、合計トークン数も教えてください。

予想される結果:


[こん][にち][は][、] [私][は][B][2][B] [営業][担当][です]

総トークン数: 約10〜15個

実習 2-2: 今度は英語の文章で比較してみましょう。

「Hello, I am a B2B sales representative」という文をトークン単位に分割して表示してください。韓国語の文「こんにちは、私はB2B営業担当者です」とトークン数を比較してください。

トークンが重要な理由 — 実際の数値

モデル

最大トークン数

韓国語の場合のおおよその文字数

GPT-3.5

4,096トークン

約2,000〜3,000字

GPT-4

8,192トークン

約4,000〜6,000字

GPT-4 Turbo

128,000トークン

約6万〜9万字

💡 実践のコツ: 韓国語は英語より1.5〜2倍多くのトークンを消費します。長い提案書を AI に分析させるとき「内容が途中で切れる」という問題が起きたら、トークンの上限を超えています。要点だけに絞って入力するか、何回かに分けて入力してください。

Before/After比較

区分

Before

After

長い文書の処理

全体を一度に貼り付けて「なぜ後半を無視するのか?」と戸惑う

トークン上限を考慮し、要点だけを抜き出して入力

コスト意識

「無料だから、たくさん入れたほうがいいよね」

トークン = コスト。効率的な入力がそのままコスト削減に

回答の品質

長文を入力すると前半の文脈が失われる

構造化した入力で一貫した回答を得る


Step 3: 学習データ — AIの「経験」がそのまま限界

重要な概念

AIはインターネット上の書籍、記事、Webページ、論文など数千億件のテキストを学習しています。これを**学習データ(Training Data)**と呼びます。重要なのは、AIが「知っている」のは学習データに含まれていた内容だけだという点です。2024年4月以降のニュース、皆さまの会社の社内文書、非公開の顧客情報はAIには分かりません。

実際に体験してみる

実習 3-1: AIの学習データの限界を実際に確認してみましょう。ChatGPTに以下を入力してください。

あなたの学習データはいつまでの情報を含んでいますか? また、次の質問に答えてください:

  1. 2024年の韓国のGDP成長率は?

  2. サムスン電子の最新四半期の業績は?

  3. 「CRM」という用語の意味は?

観察ポイント:

  • 1番と2番については「正確な最新情報を提供するのは難しい」という回答になる可能性が高いです。

  • 3番のように一般的な知識は、正確に回答します。

実習 3-2: 今度は AI に「存在しない情報」を与えたうえで、反応を観察します。

当社「ABCテック」は2024年第3四半期に売上150億ウォン(約179,385万円)、営業利益20億ウォン(約23,918万円)を達成しました。前年同期比で売上は30%増、営業利益は50%増です。この実績をもとに、お客様へ送るニュースレターの草案を作成してください。

観察ポイント: ご自身が提供したデータを活用して文章が書かれていることを確認してください。AI は自力ではこの情報を知り得ませんでしたが、プロンプトに含めればすぐに活用します。

Before/After比較

区分

Before

After

AIの信頼性

AI が言えば何でも正しいと思い込む

学習データの範囲外の情報は不正確な場合があることを認識する

活用戦略

「2024年の市場トレンドを教えて」(不正確な回答のリスク)

資料を直接添付して「この資料を分析して」と依頼する(精度が大幅に向上)

エラー率

ファクトチェックなしで使用 → 誤りの発生率30〜40%

出典を確認する習慣 → 誤りの発生率を5%以下に低減

💡 実践のコツ: 営業提案書に最新の市場データを入れるときは、必ず信頼できる出典からデータを自分で入手し、プロンプトと一緒に渡してください。AI に「最新データを教えて」と頼むのは危険です。


Step 4: 温度(Temperature) — AIの「創造性調整ダイヤル」

重要な概念

AIには**Temperature(温度)**という設定値があります。この値が低い(0に近い)と、AIは最も確率の高い単語だけを選び、正確で一貫した回答をします。高い(1〜2に近い)と、確率の低い単語も選ぶため、創造的ですが予測しにくい回答になります。

実際に体験してみる

演習 4-1: 同じ質問を2つのスタイルで依頼してみましょう。


まず「低温度」スタイルを体験します。ChatGPT に次を入力してください。

あなたは正確性を最優先する報告書作成者です。創造的な表現は使わず、事実のみを簡潔に書いてください。

質問: CRM 導入のメリットを3つ説明してください。

結果をメモ帳にコピーしておいてください。続いて「New chat」を押して新しい会話を始め、次を入力します。

あなたは感性豊かなマーケティングコピーライターです。独創的な比喩や感覚に訴える表現を最大限に活用してください。

質問: CRM 導入のメリットを3つ説明してください。

2つの結果の比較例

項目

低温度スタイル(正確性優先)

高温度スタイル(創造性優先)

表現

「顧客データを体系的に管理できます」

「散らばった顧客の声を、ひとつのオーケストラにまとめる指揮棒です」

用途

社内報告書、提案書のファクト部分

マーケティングメール、SNS 投稿

リスク

堅い印象になりやすい

事実と異なる誇張表現が出ることがある

💡 実践のコツ: B2B 提案書の実績データのセクションは「正確性優先」スタイルで、導入部と結論は「創造性優先」スタイルでそれぞれ依頼すると、完成度の高い文書になります。ひとつの文書の中でも、セクションごとに AI の性格を切り替えて活用しましょう。


Step 5: コンテキストウィンドウ — AI の「短期記憶」

重要な概念

AIには**コンテキストウィンドウ(Context Window)**というものがあります。簡単に言えば会話の記憶容量です。会話が長くなると、序盤に交わした内容をAIが「忘れてしまう」現象が起こります。これはバグではなく、トークン上限による構造的な限界です。

実際に体験してみる

実習5-1: AIの記憶力の限界を体験します。


ステップ1 — ChatGPTに入力:

ここから私は「ABCテック」の営業担当、キム・ミンスです。当社の主力製品は「SmartCRM Pro」で、ターゲット顧客は従業員数100〜500人規模の中堅企業です。この情報を覚えておいてください。

ステップ2 — AIが応答したら、別の話題で10〜15回ほど会話を続けてください(どんな話題でも構いません。例: 「今日の天気は?」「Pythonとは?」「おすすめの本を教えて」など)。


ステップ3 — 十分に対話した後、以下を入力:

私の名前と会社名、主力製品は何でしたか?

観察ポイント: 会話が短ければ正確に覚えていますが、非常に長くなると序盤の情報を忘れることがあります。

Before/After比較

区分

Before

After

対話の方式

ひとつの会話ですべての業務をこなそうとする

テーマごとに新しい会話を始め、重要な文脈は毎回入力し直す

文書作成

「さっき話した内容で書いて」→ AIが混乱

必要な文脈を毎回のリクエストに含める → 一貫した結果

業務効率

長い会話の後半で品質が低下する

短く焦点を絞った会話で、常に高い品質を維持

💡 実践のヒント: 重要なプロジェクトでは、「システムプロンプト」のように、会話を始めるたびに要点をまとめて貼り付けるテンプレートを用意しておきましょう。例えば次のとおりです。

[会話を始めるたびに貼り付けるテンプレート]

私はABCテック営業2チームのキム・ミンスです。主力製品: SmartCRM Pro(月額50万ウォン(約6万円)/チーム)。ターゲット: 中堅企業のIT担当者。トーン: 専門的でありながら親しみやすく。この文脈を維持しながら、以下のリクエストに答えてください。


Step 6: ハルシネーション — AIが「もっともらしい嘘」をつく理由

重要な概念

AIは確率的に最も自然な次の単語を選びます。この過程で、学習データにない内容も「もっともらしく」作り出してしまう現象が起こります。これを**ハルシネーション(Hallucination)**と呼びます。AIが意図的に嘘をつくのではなく、「自然な文章を完成させようとする性質」から生じる構造的な現象です。

実際に体験してみる

実習 6-1: AI のハルシネーションを意図的に引き起こしてみましょう。

「キム・チョルス教授の2023年の論文『B2B 営業における AI 活用の効果』の要点を要約してください。」

観察ポイント: この論文と著者は、私が勝手に作った架空の情報です。それでも AI は高い確率で「もっともらしい要約」を作り出します。これがハルシネーションです。


実習6-2: ハルシネーションを防ぐプロンプトを体験します。

「キム・チョルス教授の2023年の論文『B2B営業におけるAI活用の効果』の要点を要約してください。もしこの論文を知らない、または確認できない場合は、正直に分からないと答えてください。絶対に推測しないでください。」

Before/After比較

区分

Before(対策なし)

After(対策を適用)

AIの回答

架空の論文の内容を自信ありげに記述

「該当する論文は確認できません」と正直に回答

提案書の信頼度

偽の統計・出典が含まれるリスク

検証済みの情報だけを活用し、顧客の信頼を確保

ビジネスリスク

顧客がファクトチェックをすると信頼が失墜

正確な情報だけを伝え、専門性への信頼を獲得

💡 実践のコツ: 重要なプロンプトの末尾には必ず**「確実でない内容はわからないと答えてください」**を加える習慣をつけましょう。この一文だけで、ハルシネーションの発生率を約60〜70%減らすことができます。


Step 7: 総合演習 — 原理を活かした完璧なプロンプトの作成

ここまで学んだ5つの原理をすべて組み合わせて、実践的なプロンプトを作成してみましょう。

原理の総合チェックリスト

原理

プロンプトへの応用

次の単語の予測

文脈を豊富に与えて、AI の予測の方向を誘導

トークン上限

入力は要点のみ、不要な長文は避ける

学習データの限界

最新情報・社内情報は自分で提供する

温度(創造性)

用途に合ったトーンとスタイルを指定する

コンテキストウィンドウ

リクエストのたびに重要な文脈を含める

ハルシネーション防止

「分からなければ分からないと言って」を追加

実際に体験してみる

実習 7-1: 以下の「原理適用前」のプロンプトと「原理適用後」のプロンプトを、それぞれ別々の新しい会話に入力し、結果を比較してください。


原理を適用する前(Bad Prompt):

提案書を書いて

原理を適用した後(Good Prompt):

[役割] あなたは B2B SaaS の営業提案書を専門に作成するライターです。正確なデータに基づき、専門的でありながら読みやすいトーンで書いてください。


[文脈] 当社: ABCテック / 製品: SmartCRM Pro(月50万ウォン(約6万円)/チーム、クラウド型CRM) / 顧客企業: 従業員300名規模の製造業「韓国精密」 / 顧客の課題: Excelで顧客管理 → データの紛失、営業チーム間で情報共有ができない


[依頼] 上記の情報をもとに、提案書の「導入効果」セクションを作成してください。具体的な数値(例: 時間削減%、売上増加%)を含め、確実でない数値は「一般的に〜%程度」と表記してください。確認できない情報は推測しないでください。


[形式] 箇条書き3〜5項目、各項目2〜3文、全体で300字程度

結果の比較(実際のテスト基準)

評価項目

Bad Prompt の結果

Good Promptの結果

具体性

「CRMは良いものです」レベルの一般論

お客様の状況に合わせた具体的な効果の提示

正確性

検証できない数値の乱発

「一般的に〜%」のような安全な数値表現

活用の可能性

そのままでは使えず、全面的な書き直しが必要

わずかな修正だけですぐに使える

所要時間

成果物の修正に30分以上

成果物の修正は5〜10分以内

💡 実践のコツ: Good Prompt の作成に3分余計にかかっても、成果物の修正時間を20分以上節約できます。プロンプト作成の時間は投資であり、修正の時間はコストです。


まとめのチェックリスト: 今日学んだことをすぐ業務に活かす

以下のチェックリストを印刷またはメモして、AIを使うたびに確認してください。

  • 文脈の提供: 「自分が誰で、どんな状況なのか」をAIに十分説明できましたか?

  • トークン効率: 不要な長文ではなく、要点だけを構造化して入力しましたか?

  • 最新情報: 学習データ以降の情報は、自分で提供しましたか?

  • トーンの指定: 報告書・メール・マーケティングなど、用途に合ったスタイルを指定しましたか?

  • 記憶の管理: 長い会話を続ける代わりに、テーマごとに新しい会話を始め、重要な文脈を入力し直しましたか?

  • ハルシネーション防止: 「わからなければわからないと答えてください」という一文を入れましたか?


追加の学習リソース

リソース

用途

アプローチ

OpenAI Tokenizer

トークン数を正確に確認

platform.openai.com/tokenizerにアクセス

ChatGPT Custom Instructions

毎回文脈を入力しなくても自動で適用

ChatGPT 左下のプロフィール → Settings → Custom Instructions

OpenAI Playground

Temperature の値を自分で調整して体験

platform.openai.com/playground にアクセス

仕組みを理解した人はツールを使いこなし、仕組みを知らない人はツールに依存します。

本日学んだ生成AIの仕組み — 確率予測、トークン、学習データ、温度、コンテキストウィンドウ、ハルシネーション — は、今後どのようなAIツールが登場しても変わらない基本原理です。この6つを身につければ、皆さまのAI活用力は上位10%に入ります。

この記事に登場するツール
ChatGPT
このテーマで社内研修をご検討中ですか?
📚 やさしく学ぶ半導体 – 要点を押さえる! →📚 AIエージェントで完成させる業務自動化実習 →全研修プログラム →
← コラム一覧 研修のお問い合わせ

コラム一覧

OpenAI・Anthropic・GoogleのAPIキー取得から最初の呼び出しまで、非開発者でも実践できるガイド2026-04-05AIモデルのサイズ比較:GPT-4、Claude、Gemini、Llama… 何が違い、どれを使うべき?2026-04-05ChatGPT、Claude、Geminiの3大AIを一度に比較テストできるワークスペースの設定方法2026-04-05Claudeの登録からProプラン200ドルの価値まで、完全セットアップガイド2026-04-05AIにデータ分析を任せる:ExcelやCSVファイルをアップロードしてインサイトを引き出すプロンプトの書き方2026-04-05ChatGPT、Claude、Gemini の Chrome 拡張機能&ショートカット総まとめ:業務スピードを2倍にする設定方法2026-04-05AIのハルシネーション(幻覚)はなぜ起きるのか?生成AIの限界と正しい活用法2026-04-05モバイルでもAIをフル活用: スマートフォンのAIアプリのインストールから音声対話・写真分析の設定まで2026-04-05Geminiの登録からGoogle Workspace連携まで、会社員向けセットアップガイド2026-04-05AIエージェントとは?チャットボットとエージェントの決定的な違いをやさしく解説2026-04-05Perplexity・NotebookLM・Sider、業務用AI補助ツール3種のセットアップガイド2026-04-05Slack・Teams・NotionにAIボットを連携する:コラボレーションツール別AI統合セットアップガイド2026-04-05AI はどのように文章を書くのか? 生成 AI の仕組みをやさしく理解する2026-04-04ChatGPTの登録から有料課金まで、10分で完了する完全セットアップガイド2026-04-04AIとは?会社員が知っておくべきAI基礎概念まとめ2026-04-04LLM、GPT、生成AI… 紛らわしいAI用語をひとまとめに解説2026-04-04AIは私の仕事を奪うのか?会社員が本当に心配すべきことと、そうでないこと2026-04-04
コラムをすべて見る →

よくあるご質問

  • 分類: basic
  • 作成日: 2026-04-04
  • 著者: 金鍾赫(キム・ジョンヒョク) · ナヌム経営コンサルティング

AIはどのように文章を書くのか?生成AIの仕組みをやさしく理解する 生成AIを毎日使いながらも、"これはいったいどういう仕組みで動いているのだろう?"と疑問に思ったことはありませんか?仕組みを理解すると、プロンプトを書く力が…

はい、ナヌム経営コンサルティングでは、この記事のテーマに関連するオーダーメイド出張研修とオンライン研修を運営しています。対象者やレベルに合わせて研修プログラムを調整して実施します。