提示工程
Prompt Engineering
什麼是提示工程?
- 設計能產出所需結果的提示詞
- 角色、脈絡、範例、格式是關鍵
- AI 應用的基本功
提示詞工程普及後,團隊的對話也會跟著改變。原本以「那個 AI 也不怎麼樣」作結的評價,會變成「給我看看你問的是什麼指令」。結果的責任從模型轉移到指令上,這正是這項技術的實質。經過仔細打磨的指令,不再只是個人的感覺,而會成為團隊可以複製使用的文件資產,無論誰來執行,都能得到水準相近的結果。
實務上把指令分成三層來看,會比較好整理。每次都不變的公司介紹、語氣與禁用詞,放在系統提示詞中;本次案件的目的與對象,放在使用者提示詞中;判斷標準模糊的工作,則附上 2~5 個範例,採用 few-shot 方式處理。計算或多步驟推理,若要求「逐步推算後只輸出結論」這類過程,錯誤會明顯減少。不過必須區分提示詞能處理的範圍與其之外。若需要以內部文件為依據作答,應採用RAG;若需要大量固定語氣與格式,則微調較為合適;而只修改指令,並不會讓原本不存在的事實憑空出現。
現場最常見的誤解,是以為只要收集「有效的咒語」就夠了。常見做法是從社群複製一句話貼上,結果不好就換另一句,但往往連我們的客戶與限制條件,一行都沒寫進去。只增加字數也是陷阱:若貼上二十頁參考資料,核心指令會被淹沒,AI 反而摘要出不相關的項目。模型更新後,既有提示詞可能失效,這點也很容易忽略,因此建議每季至少重新執行 5 到 10 個代表性提示詞。最後,把客戶名單或未公開的業績直接貼進去的習慣,造成的不是效能問題,而是資安事故。
2020 年代初,隨著 GPT-3 等大型語言模型普及,人們意識到「如何下指令」會左右效能,於是出現了這項實務技術。它不是由特定創始人提出,而是在使用者社群中快速成形。
以下以虛構案例說明。年營收 KRW 62,000,000,000 (≈ US$46,405,100)、員工 210 人規模的工業材料經銷商 A 公司,行銷團隊 3 人每月製作 30 件產品詳情頁文案。導入生成式 AI 已經過了 4 個月,每件作業時間仍是 4 小時,主管簽核時平均被退回 2.4 次。
- 金行銷組長彙整團隊成員實際輸入的指令後發現,十之八九都只有'幫我寫這個產品詳情頁文案'一句。「這樣的話不管誰寫都很平淡吧」是組長的第一句話。
- 於是把每次都重複的公司介紹、設備採購負責人的關注重點,以及'業界第一'這類內部禁用表達共 7 項,製成固定區塊,要求所有提示詞開頭都要先附上。
- 輸出格式也明確規定了 — 「標題 15 字以內 3 個方案、從交期・單價・售後服務角度各 1 個方案,以表格輸出」,結果一出來,需要修改的地方就明顯減少了。
- 附上去年點擊率前三名的文案作為範例來固定語氣,入職一年的李職員驚訝地表示「連我平常的說話口吻都照樣出來了」。
- 完成的指令範本共 4 種,以v1、v2 編號上傳至內部 Wiki,並作為新人報到第一天的作業,要求他們親自執行。
- 六週後,每件作業時間從 4 小時縮短為 1 小時 20 分,退件次數從 2.4 次降為 0.8 次,月產出從 30 件增加到 48 件。
金鍾赫
朴雪英