語意搜尋
Semantic Search
什麼是語意搜尋?
- 以「語意」而非文字搜尋
- 用字不同,也能依語意找到
- 基於嵌入與向量資料庫
搜尋失敗時,該由誰負責也隨之改變。在關鍵字搜尋的年代,這是「輸錯搜尋詞的員工」的問題。若在公司入口網站輸入「半天假」卻搜尋不到任何結果,員工就會依序試「休假」「特休使用」「出勤規定」,最後還是打電話給人資部門。導入語意搜尋後,沒能把問題問準確的責任就轉移到系統端。負責人要管理的對象,也從「登錄了幾個同義詞辭典」轉為文件如何切分、以哪種模型向量化。
運作原理本身很單純。將文件以 300~800 個Token 為單位切段,再由嵌入模型把每個片段轉成 384~3,072 維的數字陣列後儲存。查詢時也以相同方式向量化,接著取出餘弦相似度最高的前 5~10 筆。不過並非所有搜尋都是最佳方式——像 'KX-2200B' 這類型號、「勞動基準法第 60 條」、合約編號等,文字本身就是資訊的搜尋,BM25 等關鍵字方式仍然準確得多。因此現場的標準配置,已成為把兩種結果合併的混合搜尋,再加上以重新排序器(reranker)重新排名的步驟。
最常見的失誤,是抱持'沒有就會說沒有吧'的期待。向量搜尋即使沒有答案,也一定會回傳最接近的結果。相似度 0.55 的無關文件 5 筆,若直接放進 RAG 提示詞,就會產生出處是內部文件、內容卻是錯誤的答案。應設定相似度下限,低於該值就要以'無相關資料'截斷。另外,'修訂前的出差費規定'與'修訂後規定'語意幾乎相同,用向量無法區分;而'不支付出差費'這類否定句,在查詢'出差費支付'時也會以高分被拉過來。修訂日、部門、有效與否必須用中繼資料篩選過濾,並且一定要同步進行從索引移除廢止文件的維運作業。
隨著詞與句嵌入技術(word2vec 2013 年之後)的進步而實用化,並隨大型語言模型與 RAG 的普及,確立為標準的搜尋方式。
以下為假設案例。全體員工 620 人的工業用閥門製造商 A 公司,在內部入口網站上已放了 12,000 筆規定與技術資料,但人資組與技術業務組每天仍接到超過 40 通'那個在哪裡?'的來電。打開搜尋紀錄後發現,零結果的比例為 34%。於是啟動為期 3 個月的專案,轉換為語意搜尋。
- 資訊系統組金課長抽出 500 筆'零結果'搜尋詞後發現,像'半天假'、'慶弔金'、'出差伙食費'這類規定文件裡沒有的口語用詞占了 62%。會議結論是:'員工哪可能知道法規用語。'
- 將規定與設備手冊依條款切成每段約 600 個 Token,共產生 34,000 個片段,並以韓語嵌入模型轉為向量。每個片段都附上部門、修訂日、有效與否等中繼資料。
- 第一輪測試時,詢問「出差費用上限」,排在第一名的竟是 2021 年已廢止的舊規定。在搜尋最前端強制加上「有效與否=Y」的篩選條件,並將 1,800 份已廢止文件整批排除於索引之外。
- 技術業務團隊提出抗議:'料號搜尋以前比較好',於是我們將關鍵字(BM25)結果與向量結果合併,並以重新排序器(Reranker)重新排序。'KX-2200B'的搜尋準確度已恢復到先前水準。
- 8 週後,零結果比例從 34% 降到 6%,諮詢電話則從每天 40 通減少到 13 通。設定相似度未達 0.6 即回覆'無相關資料'後,錯誤回答的檢舉從每週 9 件降為 1 件。
金鍾赫
朴雪英