生成式 AI
Generative AI
什麼是生成式 AI?
- 產生新內容(文字・圖像・程式碼)
- 以 ChatGPT·Claude 為主
- 工作生產力創新
生成式 AI 真正改變的,與其說是產出品質,不如說是工作的起點。過去面對空白畫面、煩惱「該從哪裡寫起」就花掉工作時間的一半;現在則是在幾分鐘內產出的初稿前,判斷「該改什麼、該捨棄什麼」。原本的撰寫者轉變為編輯兼審稿者,因此反而更需要該業務的領域知識與判斷力。如果無法看出初稿有錯,速度只會變快,品質反而下降。
技術路線也不只一種。文字與程式碼是由預測下一個詞出現機率的語言模型負責,圖片與影片則是由逐步去除雜訊、建構出形體的擴散(Diffusion)系列模型負責。實務上能明顯感受到的限制有兩項。第一,一次能讀取的資料量(上下文視窗)是固定的,近期的模型可以處理約數百頁 A4 的量,但超過的部分就必須拆開輸入。第二,模型不知道訓練時間點之後的事實,也不知道公司內部文件。若要讓它處理公司規章或產品資料,就需要另外設計像 RAG 這類先找出依據文件、再一併輸入的架構。「用公司資料來訓練模型」與「找出公司文件讓模型讀取」,是成本與難度都完全不同的工作。
現場最常發生偏差的地方,是把這個工具當成搜尋引擎來用。模型被設計成寧可接著寫出通順的句子,也不願承認不知道,因此會很有把握地提出不存在的法條編號,或實際上不存在的判例與統計。若未經查證就放進高階主管報告或教育教材,收回的成本會比從頭寫稿還高。第二是資安問題。把未公開的業績、客戶名單、合約直接貼到個人帳號而非公司核准帳號,因而在稽核時被指出的案例正在增加。第三是「導入就能提升生產力」的期待。若沒有使用指南與審核流程,只會增加看似完整的文件,而閱讀與修改這些文件的人,工作只會跟著變多。
今日生成式 AI 的基礎技術 Transformer,於 2017 年由 Google 研究團隊的論文「Attention Is All You Need」提出,此後 GPT、Claude、Gemini 等大多數模型都建立在這個架構之上。2022 年 ChatGPT 公開後,生成式 AI 才真正普及。
以假設案例來看。這是員工 640 人規模的電子零件製造商 A 公司的故事。教育訓練團隊連組長在內只有 3 人,每年營運 42 門課程,因此開發一門新課程平均要花 3 週,即使現場提出需求,也要等兩個月才能開課,這種情況不斷重複。2024 年下半年,我們以為期 8 週的先導計畫,把生成式 AI 導入課程開發。
- 教育訓練團隊的 Kim○○ 課長以公司核准帳號請求「針對 2 年資生產技術職的客戶稽核應對教育,8 堂課程規劃初稿」,原本需要兩天才能完成的目錄與各堂課學習目標,40 分鐘內就拿到了。
- 看過初稿的生產技術團隊 Park○○ 責任表示「這是服務業的手冊,不是我們的現場」,於是我把近三年客戶稽核的 27 項缺失事項摘要後重新放入,並依照我們的製程標準調整實習案例。
- 與資訊安全團隊協商兩次後,制定了 12 項輸入規範:客戶名稱、單價與未公開良率須先遮罩再輸入,並全面禁止使用個人帳號。
- 在審稿過程中,Kim 課長發現 AI 引用的《產業安全保健法》(韓國的職業安全衛生法)3 條條文中,有 2 條的條號有誤,之後便將「法規・數字・人名須經原文比對後才標示」加入教材審核檢查表。
- 試辦期結束時,新課程開發的前置時間從平均 3 週縮短為 9 天;在 42 門課程中,有 18 門套用此方式,教育訓練團隊的月平均加班時數從 28 小時降為 11 小時。相關課程的滿意度也從 4.1 分提升至 4.4 分(滿分 5 分)。
金鍾赫
朴雪英