知識 · AI 基礎

嵌入・向量資料庫

Embedding / Vector Database

📂AI 基礎⏱閱讀 2 分鐘📊進階🔗相關 4

什麼是嵌入?

一句話定義
把文字的「意義」轉換成數字向量,就是嵌入(embedding);把這些向量存起來、快速找出意義相近內容的儲存庫,就是向量資料庫。是 RAG 的核心零件。
這個主題,也能開企業內訓📚 相關課程💬 教育洽詢
⚡ 3 行重點摘要
  • 將語意轉換為數字向量(嵌入)
  • 快速找出相似內容的向量資料庫
  • RAG 的核心零件

加入嵌入後,改變的不是搜尋結果的畫面,而是營運負責人所做工作的種類。過去的關鍵字搜尋,文件裡必須真的有「年假」這兩個字才會命中,所以負責人得花好幾年手動累積「休假=年假=有薪休假」這類同義詞規則。現在員工照自己的問法直接輸入,就能搜到。代價是很難解釋這份文件為什麼排在第一名,因為排序的依據不是人寫的規則,而是座標之間的距離。

以數字來掌握的話是這樣:嵌入維度通常為 768~3,072 維,文件則以 300~800 字為單位切割,並讓前後重疊 10~15%,避免句子被切斷而讓語意中斷。實務上很少只單獨使用向量搜尋,多半採用混合搜尋,也就是與關鍵字搜尋(BM25)同時執行後再合併結果,已接近預設做法。原因在於產品代碼、合約編號、條文號碼等必須完全吻合的值,向量搜尋反而較弱。此外,常會再加上部門、年份等中繼資料過濾,並把前 20 筆結果以重新排序模型(reranker)篩到 5 筆後,才交給 AI,這是常見的架構。

最常見的誤解是「只要架好向量資料庫,搜尋就會變聰明」。向量資料庫的結構是即使與問題無關,也一定會回傳最接近的結果,因此相似度 0.82 之類的分數並不等於正確答案的保證。若不設定門檻,無關的片段就會被當成依據附上,產出看似合理卻錯誤的答案。此外,更換嵌入模型後,既有向量與座標系會改變,必須整批重新建立索引;不知情而只換模型,導致搜尋品質整體崩壞的事故屢見不鮮。未刪除已修訂或廢止文件的向量也是同樣的問題。去年已廢除的規定會被引用為今天答案的依據;若沒有設定權限過濾,連沒有閱覽權限的文件片段也會混入答案中。

會出現此術語的課程 · AI・DX
推薦課程 · 推薦講師 · 迷你報價
🧮 迷你報價 · 講師費基準
約 KRW 1,200,000 (≈ US$900)專題講座 2 小時 · 20 人以下 · 韓語
依此條件取得正式報價 →
💡 簡單來說
把文字的意義轉換成座標,以「距離近=意思相近」來搜尋,這是語意搜尋的基礎骨架。
為什麼在實務上很重要
即使關鍵字不完全一致,也能依「意義」找到,因此會決定內部文件搜尋與 RAG 的品質。
由來與出處

把單字轉換成帶有意義的向量的嵌入技術,於 2013 年由 Google 公開的 word2vec 而普及,之後發展為句子嵌入與向量資料庫,成為 RAG 的基礎骨架。

出處 · 詞嵌入 word2vec,Mikolov 等人(2013)
透過案例理解

以下用一個假設的案例來說明。A 公司是生產工業用閥門的企業,員工 420 人,年營收約 KRW 98,000,000,000 (≈ US$73,350,000)。技術業務團隊要回覆客戶詢問時,得翻找 15 年來的規格書與施工案例 PDF,共 3,800 份,每一件平均要花 40 分鐘。由於必須先知道正確的產品代碼才搜得到,新進員工乾脆選擇直接去問前輩。

  1. 技術業務部金副理分析了 6 個月內 200 筆搜尋失敗紀錄,發現「高溫產線要用什麼墊片?」這類口語提問佔了 78%,其中大多數都是0 筆結果。
  2. 資訊系統組的 Park 課長把 3,800 份 PDF 以 600 字為單位切割,並設定每段重疊 100 字,共產生約 4 萬 2 千個片段,完成嵌入後上傳至向量資料庫。
  3. 第一次測試時,2016 年停產的型錄排在前面,業務本部長指出「這個產品已經不賣了耶」,於是加上了文件年份與產品線的中繼資料過濾。
  4. 「V-40S」這類代碼搜尋一直被排到後面,於是改採同時執行關鍵字搜尋的混合式(Hybrid)方式,並以重排序器(reranker)將前 20 筆縮減為 5 筆,作為回答的依據交出。
  5. 指定一位負責人,每週一次重新建立規定修訂內容的索引後,三個月下來,每件詢問的資料搜尋時間從 40 分鐘縮短為 7 分鐘,向前輩追問的內部詢問也從每月 60 件降到 18 件。
相關術語
與此術語相關的課程
📚用自家資料打造會回答的 AI——RAG 入門Nanum 經營顧問 企業內訓 · 現場/線上查看課程 →
是否需要針對此主題進行企業內訓?
立即取得負責人為您量身打造的課程規劃與報價。
教育洽詢
最後修訂 2026年9月13日 · 監修 金鍾赫

常見問題

關鍵字比對的是「文字吻合」,嵌入比對的是「語意相似度」。即使用字不同,只要意思相同就能找到。
文件數量多、需要快速進行語意搜尋時才有必要。資料量少時,簡單的搜尋方式也夠用。
關鍵字是以「文字吻合」來搜尋,嵌入則是以「語意相近」來搜尋。即使用字不同,也能依意思找到。
資料量大時才有必要。資料量少時簡單的方式也可以,但在 RAG 中幾乎已是標準做法。