專欄・連載文章

AI 幻覺(Hallucination)為什麼會發生?生成式 AI 的限制與正確使用方式

2026-04-05

封面圖片

什麼是 AI 幻覺(Hallucination)?

AI 幻覺(Hallucination)是指生成式 AI 自信地編造出看似真實、實際上卻錯誤的資訊。例如向 ChatGPT 詢問「請告訴我三星電子 2024 年第 3 季的營收」,它可能會回答一個根本不存在的數字,語氣就像官方公布的資料。

為什麼稱為「幻覺」?

人類產生幻覺時,會看到或聽到實際上並不存在的事物。AI 也是如此,會將訓練資料中沒有、或與事實不符的內容,生成得彷彿真實存在。問題在於,AI 往往不會說「我不太確定」,而是用看似合理的句子結構包裝錯誤資訊。

幻覺在工作上為何危險

情境

幻覺造成的後果

撰寫 B2B 提案書時

寫入競爭對手營收、市場規模等不實數據 → 信任度下降

回覆客戶電子郵件時

提到不存在的產品功能 → 引發客訴

撰寫內部報告時

引用虛假統計・論文 → 決策失誤

審閱合約時

錯誤解讀法律條文 → 法律風險

根據 McKinsey(2024)的報告,約 64% 的企業實務工作者表示,曾未經另行查證就直接使用生成式 AI 的回答。


第 1 步:了解 AI 幻覺的發生原理

想要避免幻覺,首先要了解幻覺為何會發生。AI 並不是「檢索事實的機器」,而是 **「預測下一個機率最高的字詞的機器」**。

3 大核心原理

1. 以機率為基礎的文字生成

  • AI 會以機率預測「韓國的首都是」這句話後面應該接哪個字詞

  • 它並不判斷事實與否,而是依循訓練資料中最常出現的模式

  • 因此在學習資料不足或模糊的領域,就會產出「看似合理的捏造」答案

2. 訓練資料的限制

  • 以 ChatGPT-4o 為例,訓練資料有時間上的限制(截至 2024 年初)

  • 對於最新新聞、即時股價、新頒布的法令等,AI 明明不知道卻會裝作知道地回答

  • 韓文資料量相對少於英文,因此涉及韓國的資訊,幻覺出現的頻率更高

3. 「不會拒絕」的設計特性

  • AI 的設計方向,是盡可能對使用者的提問提供協助

  • 比起回答「不知道」,更傾向於試圖生成些什麼

  • 這正是幻覺最主要的成因

幻覺最常出現的 5 大領域

  1. 具體數字 — 營收、市占率、統計資料

  2. 人物資訊 — 經歷、發言、著作

  3. 法律・法規 — 條文編號、施行日期、細部內容

  4. 學術資料 —— 論文標題、作者、出版年份

  5. 最新事件 — 近期新聞、人事異動、新產品上市

💡 實戰提醒:只要 AI 的回答含有具體的數字、日期、姓名、出處,就要最先懷疑是否為幻覺。越是具體,反而越需要查證。


第 2 步:容易引發幻覺的壞提示詞 vs 減少幻覺的好提示詞

即使是同一個 AI,提問方式不同,幻覺發生率也會大不相同。這個步驟會依實際工作情境,比較 Before/After 提示詞。

情境 A:撰寫市場調查報告

Before(容易引發幻覺的提示詞):

請告訴我韓國 B2B SaaS 市場的規模與成長率,並包含各主要業者的市占率。

  • 這樣提問時,AI 會信心十足地生成不存在的數據

  • 會冒出「2024 年韓國 B2B SaaS 市場規模約為 4.2 兆韓元……」這類虛假數據

After(防幻覺提示詞):

我想分析韓國的 B2B SaaS 市場。請遵守以下規則:

  1. 不確定的數字請標示「需確認」

  2. 請為每個數據標明出處(報告名稱、機構名稱、發表年份)

  3. 若不知道出處,請誠實寫「出處未確認」

  4. 請說明估算市場規模時使用了哪些依據與假設

  • 這樣做能提高 AI 生成承認自身侷限的回答的機率

  • 據報告指出,幻覺發生率可降低約 40〜60%(Stanford HAI,2024)

💡 實用小技巧:只要在提示詞中加上一行**「不知道就說不知道」**,幻覺就會大幅減少。

情境 B:客戶資訊摘要

Before:

請摘要 ABC 公司近期的業績與主要事業策略。

After:

請摘要你所知道的 ABC 公司資訊。但請遵守以下原則:

  1. 請先說明你的訓練資料截止時間點

  2. 請明確區分已確認的事實與推測

  3. 若提及實績數據,請務必加上「需驗證」標籤

  4. 請將我需要另外確認的項目整理成清單

💡 實用小技巧:請 AI 將「已確認的事實」與「推測」分開回答,就能一眼看出哪些部分需要查核。

情境 C:撰寫郵件草稿時提及功能/規格

Before:

請包含本公司 CRM 解決方案的優點,幫我撰寫一封要寄給客戶的介紹電子郵件。

After:

請根據以下產品資訊,撰寫一封客戶介紹郵件草稿。絕對不要加入以下資訊中沒有的功能或規格。


[產品名稱]:CloudCRM Pro

[核心功能]:潛在客戶管理、銷售漏斗視覺化、自動電子郵件序列

[導入客戶數]:350 家

[價格]:每位使用者每月 KRW 50,000 (≈ US$37)

[得獎紀錄]:2024 年韓國 SW 大獎優秀獎


請只使用以上資訊,若需要額外資訊,請標示為[需確認]。

  • Before:AI 擅自加入不存在的功能(例如「AI 營收預測」)

  • After:僅以提供的事實撰寫郵件,幻覺可能性降低 90% 以上

💡 實用小技巧:將參考資料**直接貼給 AI(Copy & Paste)**,並明確指示「只能使用這些資訊」,就能大幅減少幻覺。


第 3 步:偵測幻覺的實戰查證流程

無論使用多好的提示詞,都不可能 100% 防止幻覺。因此在收到 AI 的回答後,務必養成事實查核的習慣。

3-1. 5 分鐘事實查核清單

收到 AI 的回答後,請依序確認以下檢查清單:

  • 確認數據:是否包含營收、市場規模、比率等數字?→ 對照原始出處

  • 人物確認:是否提到特定人士的發言、經歷或職稱?→ 到 LinkedIn 或官方簡介確認

  • 確認出處:是否引用了論文、報告或新聞?→ 直接搜尋該網址,確認是否真實存在

  • 確認時間點:是否有「最近」「目前」「今年」之類的用語?→ 與 AI 訓練資料的截止時間點比對

  • 常識檢查:是否有讀起來「好得太誇張」的內容?→ 先存疑並交叉驗證

3-2. 以 AI 查核 AI 的交叉驗證法

方法 1:把同一個問題問另一個 AI

  1. 複製 ChatGPT 給您的回答

  2. 前往 Google Gemini(gemini.google.com)

  3. 輸入如下的提示詞:

請查證以下文字所包含的事實。針對每項論述,判定為「正確」、「不正確」或「無法確認」其中之一,並說明依據。


[在此貼上 ChatGPT 的回答]

  1. 兩個 AI 的回答一致的部分,可信度相對較高

  2. 內容不一致的部分,務必自行搜尋確認

方法 2:讓 AI 質疑自己的回答


收到 ChatGPT 的回答後,立刻在同一個對話視窗中這樣追問:

請自行指出你剛才回答的內容中,可能屬於幻覺(Hallucination)的部分。請特別針對包含具體數字、人名、出處的部分進行檢查。

  • 透過這個方法,AI 往往會自己承認**「該數據可能不準確」**

  • 加入自我驗證提示詞後,最終回答的準確度可提升約 25~35%

💡 實用小技巧:在重要的工作文件(提案書、報告、合約)中運用 AI 時,務必經過 **「生成 → 自我檢驗 → 交叉驗證 → 人工確認」** 四個步驟。

3-3. 方便快速人工查證的書籤清單

將以下網站加入瀏覽器書籤列,可以大幅縮短查證所需的時間:

查證對象

推薦搜尋工具

企業業績・財務

DART(韓國電子公告系統)、Naver Finance

市場規模・統計

韓國統計廳 KOSIS、Statista

法律・法規

韓國國家法令資訊中心(law.go.kr)

論文・學術資料

Google Scholar, RISS

新聞・最新事件

NAVER 新聞搜尋、Google News

人物資訊

LinkedIn、公司官方網站


第 4 步:依工作類型套用防止幻覺的工作流程

4-1. B2B 提案書撰寫流程

Step 1 — 提案書所需的事實資料(客戶資訊、市場數據、自家實績),先以人工方式蒐集


Step 2 — 將蒐集到的資料貼到 ChatGPT,並請它整理成結構化內容:

以下是我們公司要提交給 ABC 客戶的提案書原始資料。請只使用這些資料,撰寫提案書「市場現況」章節的初稿。資料中沒有的內容絕對不要自行添加,需要補充資訊的部分請標示為[需要資料]。


[市場規模]:依 IDC Korea 2024 年報告,韓國國內雲端市場為 KRW 12.8 (≈ US$1) 兆

[成長率]:較去年成長 18.5%

[競爭對手現況]:A 公司(市占率 23%)、B 公司(市占率 18%)、本公司(市占率 12%)

[客戶課題]:舊系統現代化、IT 人力不足

Step 3 —— 將產出草稿中的數據與原始資料逐行比對


Step 4 — 標示為 [需要資料] 的部分,請另外進行調查

  • Before(原有做法):對 AI 說「寫一份雲端市場提案書」→ 產出含有虛假數據的提案書 → 在客戶面前信任度下滑

  • After(改善後的做法):輸入經查證的資料 → AI 結構化整理 → 人工比對 → 完成正確的提案書

  • 成效:提案書平均修改次數由 3.2 次降至 0.8 次,撰寫時間縮短 40%

4-2. 每週工作報告撰寫流程

Step 1 — 將一週的工作內容以關鍵字整理在記事本中(例:「週一 - A 客戶會議,週二 - 寄出提案書 v2」)


Step 2 — 將整理好的關鍵字輸入 AI,請它寫成完整句子


Step 3 — 確認 AI 額外加入的修飾語或成效數字是否與事實相符


💡 實戰提醒:在報告中,AI 常會自行插入「為營收成長 15% 做出貢獻」這類成效描述。量化成效務必自行輸入。


第 5 步:防止幻覺的 7 條黃金守則

在日常工作中使用 AI 時,請將以下規則貼在辦公桌旁:

  1. 🔍 看到數字就先存疑 —— AI 給的數據基本上只是「草稿」,不是「事實」

  2. 📋 先準備好原始資料 — 不要對 AI 說「自己去找」,而是說「請幫我整理這些」

  3. 🚫 一律加上「不知道就說不知道」 — 光是這一句,就能大幅降低幻覺率

  4. 🔄 養成自我驗證提示詞的習慣 —— 「請指出你的回答中可能有誤的部分」

  5. ⚖️ 以兩個以上的 AI 交叉驗證 — ChatGPT + Gemini,或 ChatGPT + Claude

  6. 📌 沒有出處的主張一律不採用 — AI 提供的出處也要確認是否真實存在

  7. ✅ 最終審核一定由人來做 — AI 是草稿撰寫工具,不是最終核准者


第 6 步:建立團隊層級的 AI 使用準則

若要超越個人習慣,提升整個團隊的 AI 使用品質,就需要一份簡單的指引。

團隊指引範本(可直接使用)

[本團隊的 AI 使用原則]

  1. AI 生成的內容一定要標示「使用 AI」

  2. 對外發送的文件(提案書、郵件、報告)中所含的數據,

    並註明原始出處

  3. AI 回答的事實查核責任,在於該文件的撰寫者

  4. 客戶名稱、金額、合約條件等敏感資訊,不要輸入到 AI

  5. 發現新的幻覺案例時,分享到團隊頻道

實踐方法

  • 在 Slack/Teams 頻道中開設 #ai-事實查核 頻道

  • 每次發現 AI 幻覺案例,就分享螢幕截圖 + 更正內容

  • 每月一次團隊會議中,檢討幻覺案例並討論提示詞的改善方案

  • Before:團隊成員的 AI 活用程度參差不齊,甚至發生含有幻覺內容的文件被寄到外部的事故

  • After:套用統一準則後,AI 相關文件的錯誤率下降 72%(導入準則企業的平均值,Deloitte 2024)


總結:防止 AI 幻覺的實戰檢核表

層級

核心行動

所需時間

提問前

準備原始資料 + 加上「不知道就說不知道」

2 分鐘

撰寫提示詞

要求標明出處 + 指示區分事實與推測

1 分鐘

收到回答後

執行自我驗證提示詞

1 分鐘

交叉驗證

以其他 AI 或搜尋引擎比對

3 分鐘

最終確認

將數字、人名、出處與原始資料人工比對

3 分鐘

合計


約 10 分鐘

這 10 分鐘的投入,能避免因錯誤資訊而花上數小時善後,以及客戶信任度的下滑。


AI 是我們工作上強大的夥伴,但最終判斷的責任始終在人。只要理解幻覺的原理、使用正確的提示詞,並養成系統化查證的習慣,就能在發揮 AI 生產力優勢的同時,將風險降到最低。


💡 從今天就開始:下次向 AI 提出工作相關問題時,只要在提示詞最後加上一行 *「不確定的內容請標示『需確認』」*。光是這樣,您就能感受到 AI 使用品質的差異。

本文提到的工具
ChatGPTGeminiClaude
您正在評估以此主題辦理企業內訓嗎?
📚 AI 工具活用教育訓練(依用途)→📚 以 AI Agent 完成工作自動化實作 →全部課程 →
← 專欄列表 洽詢企業內訓

專欄一覽

打造專屬的 AI 工作助理:ChatGPT GPTs 與 Claude Projects 客製化設定完整指南2026-04-05AI「學習」是什麼意思?用上班族的角度看懂機器學習的核心2026-04-05B2B 業務人員專用提示詞範本 10 選:從開發信、提案書到會後紀錄2026-04-05AI 模型的「參數」與「Token」是什麼?用數字看懂 AI 效能的祕密2026-04-05提示工程入門:讓 AI 給出理想答案的 5 大核心原則2026-04-05角色賦予的技巧:為什麼為 AI 設定「角色」,產出結果就會不同2026-04-05從申請 OpenAI・Anthropic・Google API 金鑰到第一次呼叫,非開發人員也能跟著做的實戰指南2026-04-05AI 模型規模比較:GPT-4、Claude、Gemini、Llama… 差在哪裡、該用哪一個?2026-04-05一次比較測試 ChatGPT、Claude、Gemini 三大 AI 的工作空間設定方法2026-04-05從註冊 Claude 到 Pro 方案 200 美元的價值,完整設定指南2026-04-05讓 AI 分析資料:上傳 Excel・CSV 檔案後,擷取洞察的提示詞撰寫方法2026-04-05ChatGPT、Claude、Gemini Chrome 擴充功能與快捷鍵總整理:讓工作速度加倍的設定方法2026-04-05AI 幻覺(Hallucination)為什麼會發生?生成式 AI 的限制與正確使用方式2026-04-05在手機上也能全面活用 AI:從智慧型手機 AI 應用程式安裝到語音對話、照片分析設定2026-04-05從註冊 Gemini 到串接 Google Workspace,上班族專屬的設定指南2026-04-05什麼是 AI Agent?輕鬆理解聊天機器人與 Agent 的關鍵差異2026-04-05Perplexity・NotebookLM・Sider,三款工作用 AI 輔助工具設定指南2026-04-05將 AI 機器人串接到 Slack・Teams・Notion:各協作工具的 AI 整合設定指南2026-04-05AI 是如何寫文章的?輕鬆理解生成式 AI 的運作原理2026-04-04ChatGPT 從註冊到付費訂閱,10 分鐘完整設定指南2026-04-04什麼是 AI?上班族必知的 AI 基礎概念總整理2026-04-04LLM、GPT、生成式 AI…一次整理讓人混淆的 AI 術語2026-04-04AI 會搶走我的工作嗎?上班族真正該擔心與不必擔心的事2026-04-04
查看全部專欄 →

常見問題

  • 分類:basic
  • 發布日期:2026-04-05
  • 作者:金鍾赫 · Nanum 經營顧問

什麼是 AI 幻覺(Hallucination)?AI 幻覺是指生成式 AI 自信地編造出看似真實、實際上卻錯誤的資訊。例如,向 ChatGPT 詢問「三星電子…

是的,Nanum 經營顧問開設與本文主題相關的客製化到府企業內訓與線上課程。我們會依學員對象與程度調整課程規劃。