專欄・連載文章

AI 是如何寫文章的?輕鬆理解生成式 AI 的運作原理

2026-04-04

封面圖片

AI 是如何寫文章的?輕鬆理解生成式 AI 的運作原理

您每天都在使用生成式 AI,是否也曾好奇「這到底是怎麼運作的?」理解原理後,撰寫提示詞的能力會大幅提升。本指南專為非本科背景的 B2B 業務人員與上班族設計,讓您一邊親自操作 ChatGPT,一邊體會 AI 的運作原理。


準備事項與事前設定

所需工具

  • ChatGPT(免費版也可使用,前往 chat.openai.com)

  • 網頁瀏覽器(建議使用 Chrome)

  • 記事本或 Notion(用於記錄實作結果)

事前設定階段

  1. 連線至 chat.openai.com。

  2. 使用 Google 帳號或電子郵件註冊會員/登入。

  3. 看到畫面下方的輸入框,就表示準備完成了。

  4. 點選左上角的 「New chat」 按鈕,開始新的對話。

💡 實戰小提醒:本指南的所有練習,請在同一個新對話視窗中依序進行,這樣就能連續觀察 AI 回應的變化。


Step 1:AI 寫文章的基本原理 —「猜下一個詞的遊戲」

核心概念

生成式 AI 的運作原理簡單得令人驚訝。**「根據前面出現的詞,選出接下來機率最高的詞」**。這和智慧型手機鍵盤的自動完成功能原理相同,但因為學習了數千億個句子,所以精準得多。

親身體驗

實作 1-1:請將下方提示詞原封不動複製並貼到 ChatGPT 輸入框,然後按下 Enter。

請完成下面這個句子,並列出 3 個可能的候選詞,以及各自的機率(%)。

「今天的會議中,新產品的上市時程 ___」

預期結果:


AI 會以如下形式回應。

候選字詞

預估機率

已確定

45%

討論過了

35%

發表了

20%

Before/After 比較

類別

Before(尚未理解原理)

After(理解原理後)

對 AI 的認知

「AI 會思考後再寫文章」

「AI 會以機率方式選出下一個字詞」

撰寫提示詞

只籠統地說「幫我寫好一點」

提供豐富的背景,引導機率走向

成果品質

籠統又老套的回答

具體且符合期望方向的回答

💡 實用小提醒:請記住,AI 不是在「思考」,而是在「預測」。前面提供的脈絡(資訊)越多,預測的準確度就越高。這正是提示詞必須寫得詳細的科學理由。


Step 2:Token — 了解 AI 閱讀文字的單位

核心概念

AI 處理文字時,既不是以字元為單位,也不是以單字為單位,而是切分成名為「Token(詞元)」的獨特單位。英文大約 1 個單字 ≈ 1〜1.3 個 Token,中文與韓文則大約 1 個字佔 1〜2 個 Token。理解 Token 的概念,就能明白為什麼輸入很長的文件時,AI 會「失去記憶」。

親身體驗

實作 2-1:請在 ChatGPT 中輸入以下提示詞。

請將「您好,我是 B2B 業務人員」這句話依 Token 單位拆開顯示。每個 Token 用 [ ] 括號區分,並告訴我總 Token 數。

預期結果:


[您好][,][我是][ B][2][B][ 業務][人員]

總 Token 數:約 10〜15 個

實作 2-2:這次我們用英文句子來比較。

請將「Hello, I am a B2B sales representative」這句話依 Token 單位拆開顯示。並與中文句子「您好,我是 B2B 業務人員」比較 Token 數。

Token 為何重要 — 實際數據

模型

最大 token 數

以中文計算的大約字數

GPT-3.5

4,096 個 Token

約 2,000〜3,000 字

GPT-4

8,192 個 Token

約 4,000〜6,000 字

GPT-4 Turbo

128,000 個 Token

約 60,000〜90,000 字

💡 實戰技巧:韓文消耗的 Token 是英文的 1.5〜2 倍。請 AI 分析很長的提案書時,若出現「內容被截斷」的問題,就是超過了 Token 上限。請只擷取核心內容輸入,或分成多次輸入。

Before/After 比較

類別

Before

After

處理長篇文件

一次貼上全部內容,卻困惑「為什麼會忽略後半段?」

考量 Token 上限,只擷取重點後輸入

成本意識

「反正免費,放越多越好吧」

Token = 成本,有效率地輸入就是節省成本

回應品質

輸入內容過長時,前面的背景會遺失

以結構化輸入確保回應一致


Step 3:訓練資料 — AI 的「經驗」就是它的極限

核心概念

AI 學習了網路上的書籍、新聞、網頁、論文等數千億筆文字,這些稱為**訓練資料(Training Data)**。重點在於,AI「知道」的只有訓練資料裡出現過的內容。2024 年 4 月以後的新聞、貴公司的內部文件、未公開的客戶資訊,AI 都無從得知。

親身體驗

實作 3-1:讓我們親自確認 AI 訓練資料的限制。請在 ChatGPT 中輸入以下內容。

您的訓練資料涵蓋到什麼時候的資訊?另外,請回答下列問題:

  1. 2024 年韓國的 GDP 成長率是多少?

  2. 三星電子最新一季的業績如何?

  3. 「CRM」這個詞的意思是?

觀察重點:

  • 針對第 1 題與第 2 題,很可能會得到「難以提供準確的最新資訊」的回答。

  • 如第 3 題這類一般常識,AI 能正確回答。

實作 3-2:這次請提供 AI「它不知道的資訊」,再觀察它的反應。

我們公司「ABC 科技」在 2024 年第 3 季達成營收 KRW 15,000,000,000 (≈ US$11,227,000)、營業利益 KRW 2,000,000,000 (≈ US$1,496,900),較去年同期營收成長 30%、營業利益成長 50%。請根據這份業績,撰寫要寄給客戶的電子報初稿。

觀察重點:請確認 AI 會運用您親自提供的資料來撰寫文章。AI 原本無從得知這些資訊,但只要放進提示詞中,它就會立即加以運用。

Before/After 比較

類別

Before

After

AI 可信度

以為 AI 說的全都正確

了解訓練資料範圍以外的資訊可能不準確

運用策略

「告訴我 2024 年的市場趨勢」(有回答不準確的風險)

直接附上資料並說「請分析這份資料」(準確度大幅提升)

錯誤率

未經事實查核就使用 → 錯誤發生率 30〜40%

養成確認出處的習慣 → 錯誤發生率降至 5% 以下

💡 實戰技巧:在銷售提案書中放入最新市場資料時,務必先從可信賴的來源直接取得資料,再連同提示詞一併提供給 AI。要求 AI「告訴我最新資料」是有風險的。


Step 4:溫度(Temperature)——AI 的「創意調節旋鈕」

核心概念

AI 有一個稱為 **Temperature(溫度)** 的設定值。數值較低(接近 0)時,AI 只會選擇機率最高的字詞,給出準確且一致的回答;數值較高(接近 1〜2)時,也會選擇機率較低的字詞,給出有創意但難以預測的回答。

親身體驗

實作 4-1:讓我們以兩種風格請 AI 回答同一個問題。


首先體驗「低溫度」風格。請在 ChatGPT 中輸入:

您是一位以準確性為最高優先的報告撰寫者。請不要使用創意性的修辭,只簡潔地寫出事實。

問題:請說明導入 CRM 的 3 項優點。

請將結果複製到記事本。接著點選「New chat」開啟新對話,並輸入以下內容:

您是一位感性的行銷文案寫手。請盡量運用獨創的比喻與富有感官的表達。

問題:請說明導入 CRM 的 3 項優點。

兩種結果比較範例

項目

低溫風格(準確性優先)

高溫度風格(創意優先)

表達

「可以有系統地管理客戶資料」

「它是一支指揮棒,將零散的客戶聲音匯聚成一首交響樂」

用途

內部報告、提案書的事實章節

行銷電子郵件、社群媒體貼文

風險

可能過於生硬

可能出現與事實不符的誇大說法

💡 實戰技巧:B2B 提案書的實績資料章節請採用「準確優先」風格,開場與結論則採用「創意優先」風格,分別提出要求,就能完成完成度高的文件。即使在同一份文件中,也請依章節切換 AI 的性格來運用。


Step 5:上下文視窗 — AI 的「短期記憶」

核心概念

AI 有所謂的**上下文視窗(Context Window)**。簡單來說,就是對話的記憶容量。對話一拉長,AI 就會出現「忘記」前面內容的現象。這不是程式錯誤,而是受 token 上限限制的結構性限制。

親身體驗

實作 5-1:體驗 AI 的記憶力極限。


第 1 步 — 在 ChatGPT 輸入:

從現在開始,我是「ABC Tech」的業務人員金民秀。我們公司的主力產品是「SmartCRM Pro」,目標客戶是員工人數 100〜500 人的中堅企業。請記住這些資訊。

第 2 步 — AI 回覆後,請換其他主題繼續對話約 10〜15 次(任何主題都可以。例如:「今天天氣如何?」「Python 是什麼?」「推薦一本好書」等)。


第 3 步 — 充分對話後,輸入以下內容:

我的名字、公司名稱和主力產品是什麼來著?

觀察重點:對話較短時能正確記住內容,但對話變得非常長時,可能會忘記開頭的資訊。

Before/After 比較

類別

Before

After

對話方式

試圖在同一個對話中處理所有工作

依主題開啟新對話,核心背景每次重新輸入

文件撰寫

「用剛才說的那些內容來寫」→ AI 會混淆

每次請求都附上必要背景 → 結果更一致

工作效率

長對話後段品質下降

以簡短而聚焦的對話,始終維持高品質

💡 實戰小技巧:重要的專案請建立一份類似「系統提示詞」的範本,在每次對話開始時,將核心資訊摘要後貼上。例如:

[每次開始對話時貼上的範本]

我是 ABC Tech 業務二組的 Min-su Kim。主力產品:SmartCRM Pro(每月訂閱費 KRW 500,000 (≈ US$375)/每組)。目標客群:中堅企業的 IT 負責人。語氣:專業但親切。請維持這個脈絡,回答以下需求。


Step 6:幻覺(Hallucination)— AI 為何會「一本正經地說謊」

核心概念

AI 會選出機率上最自然的下一個詞。在這個過程中,即使是訓練資料裡沒有的內容,也會被「煞有其事地」編造出來。這種現象稱為**幻覺(Hallucination)**。這並非 AI 刻意說謊,而是「想完成通順句子的本能」所造成的結構性現象。

親身體驗

實作 6-1:讓我們刻意誘發 AI 的幻覺(Hallucination)。

「請摘要金哲秀教授 2023 年論文『AI 在 B2B 銷售中的應用成效』的核心內容。」

觀察重點:這篇論文與作者是我隨意捏造的虛構資訊。但 AI 很可能會產生「看似合理的摘要」。這就是幻覺(Hallucination)。


實作 6-2:體驗能防止幻覺的提示詞。

「請摘要金哲秀教授 2023 年論文《AI 在 B2B 銷售中的成效》的核心內容。如果您不知道這篇論文或無法確認,請老實說不知道。絕對不要推測。」

Before/After 比較

類別

Before(沒有防範措施)

After(套用防範措施後)

AI 回應

自信滿滿地描述虛構的論文內容

誠實回覆「無法確認該篇論文」

提案書可信度

可能包含虛假的統計數據或出處

只使用經過查證的資訊,贏得客戶信任

商業風險

客戶一查證,信任度就崩盤

只傳達準確的資訊,贏得專業認可

💡 實戰小技巧:請養成習慣,在每則重要提示詞的結尾加上 **「不確定的內容請直接說不知道」**。光是這一句話,就能將幻覺發生率降低約 60〜70%。


Step 7:綜合實作 — 運用原理撰寫完美的提示詞

現在請綜合目前學到的 5 項原理,實際撰寫一則實戰提示詞。

原理綜合檢查表

原理

提示詞應用方法

預測下一個詞

提供豐富的脈絡,引導 AI 的預測方向

Token 上限

輸入只放重點,避免冗長內容

訓練資料的限制

最新資訊與內部資訊要自行提供

溫度(創意度)

依用途指定語氣與風格

上下文視窗

每次請求都附上核心背景

防止幻覺

加上「不知道就說不知道」

親身體驗

實作 7-1:請將下方「套用原理前」與「套用原理後」的提示詞,分別輸入各自獨立的新對話,並比較結果。


套用原理前(Bad Prompt):

幫我寫提案書

套用原理後(Good Prompt):

[角色] 您是 B2B SaaS 銷售提案書的專業撰寫人。請以正確的資料為基礎,用專業又易讀的語氣撰寫。


[背景] 我們公司:ABC 科技 / 產品:SmartCRM Pro(每月每組 KRW 500,000 (≈ US$375),雲端 CRM)/ 客戶:員工 300 人規模的製造業者「韓國精密」/ 客戶痛點:以 Excel 管理客戶 → 資料遺失、業務團隊之間無法共享資訊


[需求] 請根據以上資訊撰寫提案書的「導入效益」章節。請包含具體數字(例如:節省時間 %、營收成長 %),但不確定的數字請標註為「一般約為 ~% 的水準」。無法確認的資訊請不要推測。


[格式] 條列項目 3〜5 點,每點 2〜3 句,總計約 300 字

結果比較(以實際測試為準)

評估項目

Bad Prompt 的結果

Good Prompt 結果

具體性

「CRM 很好用」這種空泛的泛論

依合作企業的實際情況,提出具體成效

準確性

濫用無法驗證的數字

使用「一般約 ~%」這類較安全的數字表達

應用可能性

無法直接使用,需要全面重寫

只需稍作修改即可直接使用

所需時間

修改成果需 30 分鐘以上

修改成果 5〜10 分鐘內完成

💡 實戰技巧:撰寫優質提示詞(Good Prompt)也許多花 3 分鐘,卻能省下 20 分鐘以上的成果修改時間。撰寫提示詞的時間是投資,修改的時間則是成本。


收尾檢查表:將今天所學立即應用於工作

請將下方檢查表列印或記下來,每次使用 AI 時對照確認。

  • 提供背景:是否已向 AI 充分說明「我是誰、情況是什麼」?

  • Token 效率:是否捨棄冗長內容,只以結構化方式輸入核心資訊?

  • 最新資訊:訓練資料之後的資訊,是否由我親自提供?

  • 指定語氣:是否依用途(報告、電子郵件、行銷等)指定了合適的風格?

  • 記憶管理:是否改以依主題開啟新對話取代冗長的對話,並重新輸入關鍵脈絡?

  • 防止幻覺:是否加入「不知道就說不知道」這句話?


延伸學習資源

資源

用途

做法

OpenAI Tokenizer

精確確認 Token 數

前往 platform.openai.com/tokenizer

ChatGPT Custom Instructions

無須每次重新輸入背景,自動套用

ChatGPT 左下角個人頭像 → Settings → Custom Instructions

OpenAI Playground

親自調整 Temperature 數值

前往 platform.openai.com/playground

理解原理的人能駕馭工具,不懂原理的人只能依賴工具。

今天學到的生成式 AI 運作原理 — 機率預測、token、訓練資料、溫度、上下文視窗、幻覺 — 無論日後出現什麼 AI 工具,都是不會改變的基本原理。掌握這 6 項,您的 AI 應用能力就能躋身前 10%。

本文提到的工具
ChatGPT
您正在評估以此主題辦理企業內訓嗎?
📚 輕鬆學半導體 – only 重點精華!→📚 以 AI Agent 完成我的工作自動化實作 →全部課程 →
← 專欄列表 洽詢企業內訓

專欄一覽

從申請 OpenAI・Anthropic・Google API 金鑰到第一次呼叫,非開發人員也能跟著做的實戰指南2026-04-05AI 模型規模比較:GPT-4、Claude、Gemini、Llama… 差在哪裡、該用哪一個?2026-04-05一次比較測試 ChatGPT、Claude、Gemini 三大 AI 的工作空間設定方法2026-04-05從註冊 Claude 到 Pro 方案 200 美元的價值,完整設定指南2026-04-05讓 AI 分析資料:上傳 Excel・CSV 檔案後,擷取洞察的提示詞撰寫方法2026-04-05ChatGPT、Claude、Gemini Chrome 擴充功能與快捷鍵總整理:讓工作速度加倍的設定方法2026-04-05AI 幻覺(Hallucination)為什麼會發生?生成式 AI 的限制與正確使用方式2026-04-05在手機上也能全面活用 AI:從智慧型手機 AI 應用程式安裝到語音對話、照片分析設定2026-04-05從註冊 Gemini 到串接 Google Workspace,上班族專屬的設定指南2026-04-05什麼是 AI Agent?輕鬆理解聊天機器人與 Agent 的關鍵差異2026-04-05Perplexity・NotebookLM・Sider,三款工作用 AI 輔助工具設定指南2026-04-05將 AI 機器人串接到 Slack・Teams・Notion:各協作工具的 AI 整合設定指南2026-04-05AI 是如何寫文章的?輕鬆理解生成式 AI 的運作原理2026-04-04ChatGPT 從註冊到付費訂閱,10 分鐘完整設定指南2026-04-04什麼是 AI?上班族必知的 AI 基礎概念總整理2026-04-04LLM、GPT、生成式 AI…一次整理讓人混淆的 AI 術語2026-04-04AI 會搶走我的工作嗎?上班族真正該擔心與不必擔心的事2026-04-04
查看全部專欄 →

常見問題

  • 分類:basic
  • 發布日期:2026-04-04
  • 作者:金鍾赫 · Nanum 經營顧問

AI 是如何寫出文章的?輕鬆了解生成式 AI 的運作原理 每天都在使用生成式 AI,您是否也曾好奇「這到底是怎麼運作的?」理解原理之後,撰寫提示詞的能力…

是的,Nanum 經營顧問開設與本文主題相關的客製化到府企業內訓與線上課程。我們會依學員對象與程度調整課程規劃。