主要生成式 AI 服務比較
Comparing Generative AI Services
什麼是主要生成式 AI 服務比較?
- 強項因用途而異,並非只看排名
- 資料處理與管理功能,才是實際的選擇標準
- 不必只選一個
「哪個服務最好」這個問題很難有答案,但「什麼工作該交給哪個服務」這個問題就有答案。掌握這個觀點,教育訓練團隊的因應方式就會改變。每次有新服務推出,不必把整份課程資料推倒重來,只要維持一份判斷標準一頁,換掉候選清單即可。對現場人員來說,也能養成先想「這項工作的性質是什麼」的習慣,而不是只記得「這個行、那個不行」,這才是真正留得下來的能力。
實務上分成四類來看會比較清楚:對話型通用服務、搜尋與出處結合型、內建於辦公室產品的型態,以及接在公司系統上的 API 型。前三類是按人每月收取固定費用(大約 KRW 30,000 (≈ US$22) 上下),API 型則依處理量計費,成本性質完全不同。這裡常被忽略的是個人方案與企業方案的界線。管理者主控台、統一登入、使用紀錄保存、確保輸入資料不用於學習等項目,是方案之間的分界,而不是服務之間的分界。
也要區分'服務比較'與'模型比較'。同一個模型常被套用在多種服務上,因此即使模型效能排行榜變動,在我們的實際畫面上感受到的差異,往往比想像中小。真正造成差異的是服務端的設計,例如附件處理方式、與公司文件的連結、回答長度限制,以及能否自然產出韓文報告格式。公開的基準測試分數,若無法以我們的業務文件重現,充其量只能作為參考。
最常見的意外,是已經選定標準工具,現場卻仍繼續沿用個人免費帳號。免費帳號的輸入內容可能被用於學習,管理者也無從查看使用紀錄,因此即使單價表或人事資料外流,也無法確認何時、外流了什麼。比選定標準更難的,是回收免費帳號。反過來說,每當排行榜一變就推翻標準的組織也很傷腦筋。帳號移轉與重新培訓的成本,往往比效能差異更大,而且現場一句「又要換?」就會全面放手。
2022 年底對話式生成 AI 普及後,服務競爭全面展開,衍生出這項實務議題。隨著模型效能快速趨同,選擇標準正從效能本身,轉向資料政策、系統串接與管理功能。
我們以一個假設案例來說明。全體員工 1,200 人規模的汽車零件製造商 A 公司,過去各部門都自行使用 AI 工具。品管團隊將客戶的圖面規格貼進免費帳號的事實,在內部稽核中曝光,教育訓練團隊因此接下了三個月內選定公司標準工具的任務。
- 教育訓練團隊金課長用兩週時間逐一查看各部門的使用狀況,發現以公司信箱註冊的個人免費帳號竟有 340 多個。企劃組長說了一句「原來這些都沒經過核准就在用啊」,後面的話便含糊帶過。
- 我們將用途縮小為競品調查、報告初稿、會議記錄整理、英文郵件翻譯四類,並從上個月的實際工作中各抽 3 件,共 12 件作為測試任務。
- 資訊安全團隊李組長將 4 個候選服務的企業方案條款逐一比對後發現:預設不使用輸入資料進行學習的有 3 家,保存使用紀錄 90 天以上的只有 2 家。
- 每個部門 5 人,共 20 人,在兩週內同時以兩種服務執行相同任務。調查類任務中附有出處連結的搜尋型明顯較佳,20 頁的報告初稿則由對話型明顯勝出。
- 確定以調查用 1 個、文件用 1 個為標準,開放 180 人每人每月 KRW 30,000 (≈ US$22) 的方案,其餘免費帳號則由資訊安全團隊在 6 週內陸續停用。
- 三個月後,以公司信箱註冊的個人免費帳號由 340 個降至 18 個,每週報告初稿的平均撰寫時間也從 3.5 小時降到 1.2 小時。
金鍾赫
朴雪英