
AI 是如何寫文章的?輕鬆理解生成式 AI 的運作原理
您每天都在使用生成式 AI,是否也曾好奇「這到底是怎麼運作的?」理解原理後,撰寫提示詞的能力會大幅提升。本指南專為非本科背景的 B2B 業務人員與上班族設計,讓您一邊親自操作 ChatGPT,一邊體會 AI 的運作原理。
準備事項與事前設定
所需工具
ChatGPT(免費版也可使用,前往 chat.openai.com)
網頁瀏覽器(建議使用 Chrome)
記事本或 Notion(用於記錄實作結果)
事前設定階段
連線至 chat.openai.com。
使用 Google 帳號或電子郵件註冊會員/登入。
看到畫面下方的輸入框,就表示準備完成了。
點選左上角的 「New chat」 按鈕,開始新的對話。
💡 實戰小提醒:本指南的所有練習,請在同一個新對話視窗中依序進行,這樣就能連續觀察 AI 回應的變化。
Step 1:AI 寫文章的基本原理 —「猜下一個詞的遊戲」
核心概念
生成式 AI 的運作原理簡單得令人驚訝。**「根據前面出現的詞,選出接下來機率最高的詞」**。這和智慧型手機鍵盤的自動完成功能原理相同,但因為學習了數千億個句子,所以精準得多。
親身體驗
實作 1-1:請將下方提示詞原封不動複製並貼到 ChatGPT 輸入框,然後按下 Enter。
請完成下面這個句子,並列出 3 個可能的候選詞,以及各自的機率(%)。
「今天的會議中,新產品的上市時程 ___」
預期結果:
AI 會以如下形式回應。
候選字詞 | 預估機率 |
|---|---|
已確定 | 45% |
討論過了 | 35% |
發表了 | 20% |
Before/After 比較
類別 | Before(尚未理解原理) | After(理解原理後) |
|---|---|---|
對 AI 的認知 | 「AI 會思考後再寫文章」 | 「AI 會以機率方式選出下一個字詞」 |
撰寫提示詞 | 只籠統地說「幫我寫好一點」 | 提供豐富的背景,引導機率走向 |
成果品質 | 籠統又老套的回答 | 具體且符合期望方向的回答 |
💡 實用小提醒:請記住,AI 不是在「思考」,而是在「預測」。前面提供的脈絡(資訊)越多,預測的準確度就越高。這正是提示詞必須寫得詳細的科學理由。
Step 2:Token — 了解 AI 閱讀文字的單位
核心概念
AI 處理文字時,既不是以字元為單位,也不是以單字為單位,而是切分成名為「Token(詞元)」的獨特單位。英文大約 1 個單字 ≈ 1〜1.3 個 Token,中文與韓文則大約 1 個字佔 1〜2 個 Token。理解 Token 的概念,就能明白為什麼輸入很長的文件時,AI 會「失去記憶」。
親身體驗
實作 2-1:請在 ChatGPT 中輸入以下提示詞。
請將「您好,我是 B2B 業務人員」這句話依 Token 單位拆開顯示。每個 Token 用 [ ] 括號區分,並告訴我總 Token 數。
預期結果:
[您好][,][我是][ B][2][B][ 業務][人員]
總 Token 數:約 10〜15 個
實作 2-2:這次我們用英文句子來比較。
請將「Hello, I am a B2B sales representative」這句話依 Token 單位拆開顯示。並與中文句子「您好,我是 B2B 業務人員」比較 Token 數。
Token 為何重要 — 實際數據
模型 | 最大 token 數 | 以中文計算的大約字數 |
|---|---|---|
GPT-3.5 | 4,096 個 Token | 約 2,000〜3,000 字 |
GPT-4 | 8,192 個 Token | 約 4,000〜6,000 字 |
GPT-4 Turbo | 128,000 個 Token | 約 60,000〜90,000 字 |
💡 實戰技巧:韓文消耗的 Token 是英文的 1.5〜2 倍。請 AI 分析很長的提案書時,若出現「內容被截斷」的問題,就是超過了 Token 上限。請只擷取核心內容輸入,或分成多次輸入。
Before/After 比較
類別 | Before | After |
|---|---|---|
處理長篇文件 | 一次貼上全部內容,卻困惑「為什麼會忽略後半段?」 | 考量 Token 上限,只擷取重點後輸入 |
成本意識 | 「反正免費,放越多越好吧」 | Token = 成本,有效率地輸入就是節省成本 |
回應品質 | 輸入內容過長時,前面的背景會遺失 | 以結構化輸入確保回應一致 |
Step 3:訓練資料 — AI 的「經驗」就是它的極限
核心概念
AI 學習了網路上的書籍、新聞、網頁、論文等數千億筆文字,這些稱為**訓練資料(Training Data)**。重點在於,AI「知道」的只有訓練資料裡出現過的內容。2024 年 4 月以後的新聞、貴公司的內部文件、未公開的客戶資訊,AI 都無從得知。
親身體驗
實作 3-1:讓我們親自確認 AI 訓練資料的限制。請在 ChatGPT 中輸入以下內容。
您的訓練資料涵蓋到什麼時候的資訊?另外,請回答下列問題:
2024 年韓國的 GDP 成長率是多少?
三星電子最新一季的業績如何?
「CRM」這個詞的意思是?
觀察重點:
針對第 1 題與第 2 題,很可能會得到「難以提供準確的最新資訊」的回答。
如第 3 題這類一般常識,AI 能正確回答。
實作 3-2:這次請提供 AI「它不知道的資訊」,再觀察它的反應。
我們公司「ABC 科技」在 2024 年第 3 季達成營收 KRW 15,000,000,000 (≈ US$11,227,000)、營業利益 KRW 2,000,000,000 (≈ US$1,496,900),較去年同期營收成長 30%、營業利益成長 50%。請根據這份業績,撰寫要寄給客戶的電子報初稿。
觀察重點:請確認 AI 會運用您親自提供的資料來撰寫文章。AI 原本無從得知這些資訊,但只要放進提示詞中,它就會立即加以運用。
Before/After 比較
類別 | Before | After |
|---|---|---|
AI 可信度 | 以為 AI 說的全都正確 | 了解訓練資料範圍以外的資訊可能不準確 |
運用策略 | 「告訴我 2024 年的市場趨勢」(有回答不準確的風險) | 直接附上資料並說「請分析這份資料」(準確度大幅提升) |
錯誤率 | 未經事實查核就使用 → 錯誤發生率 30〜40% | 養成確認出處的習慣 → 錯誤發生率降至 5% 以下 |
💡 實戰技巧:在銷售提案書中放入最新市場資料時,務必先從可信賴的來源直接取得資料,再連同提示詞一併提供給 AI。要求 AI「告訴我最新資料」是有風險的。
Step 4:溫度(Temperature)——AI 的「創意調節旋鈕」
核心概念
AI 有一個稱為 **Temperature(溫度)** 的設定值。數值較低(接近 0)時,AI 只會選擇機率最高的字詞,給出準確且一致的回答;數值較高(接近 1〜2)時,也會選擇機率較低的字詞,給出有創意但難以預測的回答。
親身體驗
實作 4-1:讓我們以兩種風格請 AI 回答同一個問題。
首先體驗「低溫度」風格。請在 ChatGPT 中輸入:
您是一位以準確性為最高優先的報告撰寫者。請不要使用創意性的修辭,只簡潔地寫出事實。
問題:請說明導入 CRM 的 3 項優點。
請將結果複製到記事本。接著點選「New chat」開啟新對話,並輸入以下內容:
您是一位感性的行銷文案寫手。請盡量運用獨創的比喻與富有感官的表達。
問題:請說明導入 CRM 的 3 項優點。
兩種結果比較範例
項目 | 低溫風格(準確性優先) | 高溫度風格(創意優先) |
|---|---|---|
表達 | 「可以有系統地管理客戶資料」 | 「它是一支指揮棒,將零散的客戶聲音匯聚成一首交響樂」 |
用途 | 內部報告、提案書的事實章節 | 行銷電子郵件、社群媒體貼文 |
風險 | 可能過於生硬 | 可能出現與事實不符的誇大說法 |
💡 實戰技巧:B2B 提案書的實績資料章節請採用「準確優先」風格,開場與結論則採用「創意優先」風格,分別提出要求,就能完成完成度高的文件。即使在同一份文件中,也請依章節切換 AI 的性格來運用。
Step 5:上下文視窗 — AI 的「短期記憶」
核心概念
AI 有所謂的**上下文視窗(Context Window)**。簡單來說,就是對話的記憶容量。對話一拉長,AI 就會出現「忘記」前面內容的現象。這不是程式錯誤,而是受 token 上限限制的結構性限制。
親身體驗
實作 5-1:體驗 AI 的記憶力極限。
第 1 步 — 在 ChatGPT 輸入:
從現在開始,我是「ABC Tech」的業務人員金民秀。我們公司的主力產品是「SmartCRM Pro」,目標客戶是員工人數 100〜500 人的中堅企業。請記住這些資訊。
第 2 步 — AI 回覆後,請換其他主題繼續對話約 10〜15 次(任何主題都可以。例如:「今天天氣如何?」「Python 是什麼?」「推薦一本好書」等)。
第 3 步 — 充分對話後,輸入以下內容:
我的名字、公司名稱和主力產品是什麼來著?
觀察重點:對話較短時能正確記住內容,但對話變得非常長時,可能會忘記開頭的資訊。
Before/After 比較
類別 | Before | After |
|---|---|---|
對話方式 | 試圖在同一個對話中處理所有工作 | 依主題開啟新對話,核心背景每次重新輸入 |
文件撰寫 | 「用剛才說的那些內容來寫」→ AI 會混淆 | 每次請求都附上必要背景 → 結果更一致 |
工作效率 | 長對話後段品質下降 | 以簡短而聚焦的對話,始終維持高品質 |
💡 實戰小技巧:重要的專案請建立一份類似「系統提示詞」的範本,在每次對話開始時,將核心資訊摘要後貼上。例如:
[每次開始對話時貼上的範本]
我是 ABC Tech 業務二組的 Min-su Kim。主力產品:SmartCRM Pro(每月訂閱費 KRW 500,000 (≈ US$375)/每組)。目標客群:中堅企業的 IT 負責人。語氣:專業但親切。請維持這個脈絡,回答以下需求。
Step 6:幻覺(Hallucination)— AI 為何會「一本正經地說謊」
核心概念
AI 會選出機率上最自然的下一個詞。在這個過程中,即使是訓練資料裡沒有的內容,也會被「煞有其事地」編造出來。這種現象稱為**幻覺(Hallucination)**。這並非 AI 刻意說謊,而是「想完成通順句子的本能」所造成的結構性現象。
親身體驗
實作 6-1:讓我們刻意誘發 AI 的幻覺(Hallucination)。
「請摘要金哲秀教授 2023 年論文『AI 在 B2B 銷售中的應用成效』的核心內容。」
觀察重點:這篇論文與作者是我隨意捏造的虛構資訊。但 AI 很可能會產生「看似合理的摘要」。這就是幻覺(Hallucination)。
實作 6-2:體驗能防止幻覺的提示詞。
「請摘要金哲秀教授 2023 年論文《AI 在 B2B 銷售中的成效》的核心內容。如果您不知道這篇論文或無法確認,請老實說不知道。絕對不要推測。」
Before/After 比較
類別 | Before(沒有防範措施) | After(套用防範措施後) |
|---|---|---|
AI 回應 | 自信滿滿地描述虛構的論文內容 | 誠實回覆「無法確認該篇論文」 |
提案書可信度 | 可能包含虛假的統計數據或出處 | 只使用經過查證的資訊,贏得客戶信任 |
商業風險 | 客戶一查證,信任度就崩盤 | 只傳達準確的資訊,贏得專業認可 |
💡 實戰小技巧:請養成習慣,在每則重要提示詞的結尾加上 **「不確定的內容請直接說不知道」**。光是這一句話,就能將幻覺發生率降低約 60〜70%。
Step 7:綜合實作 — 運用原理撰寫完美的提示詞
現在請綜合目前學到的 5 項原理,實際撰寫一則實戰提示詞。
原理綜合檢查表
原理 | 提示詞應用方法 |
|---|---|
預測下一個詞 | 提供豐富的脈絡,引導 AI 的預測方向 |
Token 上限 | 輸入只放重點,避免冗長內容 |
訓練資料的限制 | 最新資訊與內部資訊要自行提供 |
溫度(創意度) | 依用途指定語氣與風格 |
上下文視窗 | 每次請求都附上核心背景 |
防止幻覺 | 加上「不知道就說不知道」 |
親身體驗
實作 7-1:請將下方「套用原理前」與「套用原理後」的提示詞,分別輸入各自獨立的新對話,並比較結果。
套用原理前(Bad Prompt):
幫我寫提案書
套用原理後(Good Prompt):
[角色] 您是 B2B SaaS 銷售提案書的專業撰寫人。請以正確的資料為基礎,用專業又易讀的語氣撰寫。
[背景] 我們公司:ABC 科技 / 產品:SmartCRM Pro(每月每組 KRW 500,000 (≈ US$375),雲端 CRM)/ 客戶:員工 300 人規模的製造業者「韓國精密」/ 客戶痛點:以 Excel 管理客戶 → 資料遺失、業務團隊之間無法共享資訊
[需求] 請根據以上資訊撰寫提案書的「導入效益」章節。請包含具體數字(例如:節省時間 %、營收成長 %),但不確定的數字請標註為「一般約為 ~% 的水準」。無法確認的資訊請不要推測。
[格式] 條列項目 3〜5 點,每點 2〜3 句,總計約 300 字
結果比較(以實際測試為準)
評估項目 | Bad Prompt 的結果 | Good Prompt 結果 |
|---|---|---|
具體性 | 「CRM 很好用」這種空泛的泛論 | 依合作企業的實際情況,提出具體成效 |
準確性 | 濫用無法驗證的數字 | 使用「一般約 ~%」這類較安全的數字表達 |
應用可能性 | 無法直接使用,需要全面重寫 | 只需稍作修改即可直接使用 |
所需時間 | 修改成果需 30 分鐘以上 | 修改成果 5〜10 分鐘內完成 |
💡 實戰技巧:撰寫優質提示詞(Good Prompt)也許多花 3 分鐘,卻能省下 20 分鐘以上的成果修改時間。撰寫提示詞的時間是投資,修改的時間則是成本。
收尾檢查表:將今天所學立即應用於工作
請將下方檢查表列印或記下來,每次使用 AI 時對照確認。
提供背景:是否已向 AI 充分說明「我是誰、情況是什麼」?
Token 效率:是否捨棄冗長內容,只以結構化方式輸入核心資訊?
最新資訊:訓練資料之後的資訊,是否由我親自提供?
指定語氣:是否依用途(報告、電子郵件、行銷等)指定了合適的風格?
記憶管理:是否改以依主題開啟新對話取代冗長的對話,並重新輸入關鍵脈絡?
防止幻覺:是否加入「不知道就說不知道」這句話?
延伸學習資源
資源 | 用途 | 做法 |
|---|---|---|
OpenAI Tokenizer | 精確確認 Token 數 | |
ChatGPT Custom Instructions | 無須每次重新輸入背景,自動套用 | ChatGPT 左下角個人頭像 → Settings → Custom Instructions |
OpenAI Playground | 親自調整 Temperature 數值 |
理解原理的人能駕馭工具,不懂原理的人只能依賴工具。
今天學到的生成式 AI 運作原理 — 機率預測、token、訓練資料、溫度、上下文視窗、幻覺 — 無論日後出現什麼 AI 工具,都是不會改變的基本原理。掌握這 6 項,您的 AI 應用能力就能躋身前 10%。