ASI · 超級智慧
Artificial Superintelligence
什麼是 ASI?
- 在所有領域全面壓倒人類的假想 AI 階段
- ANI→AGI→ASI 之中的最終階段(尚未實現)
- 核心爭點在於「控制・對齊」問題
ASI 不是要導入的產品,而是判斷的基準線。會議室裡一出現「這就是即將成為超級智慧的技術」這類說法時,該驗證的不是模型的潛力,而是今年我們的製程與文件能達到的準確度,以及出錯時的成本。先把階段區分清楚,預算就會分成「現在要用的工具」與「之後要預作準備的風險」,也能把提案書中的形容詞換成數字,作為追問的依據。
超級智慧通常分成三類來說明:以比人類快上數萬倍的速度思考的「速度型」、多個智能結合產生效能的「集體型」,以及以人類原本無法企及的方式思考的「質性型」。與 AGI 的界線在於基準點:若 AGI 是「廣泛完成一般人所做的事」的狀態,ASI 則是在各領域都以大幅差距超越最頂尖專家群體的狀態。躍進速度也是爭點:是數年間緩步上升,還是透過遞迴式自我改進在數月內拉開差距,因應方式將完全不同。
重要的事實是:目前企業部署的模型,無論效能高低,全都屬於 ANI 範疇。在特定考試或基準測試中超越人類前段班的發表,並非通用性的證據,而是僅限於該任務的成績單。
實務上會在兩個方向上出錯。一是恐懼的那一端。看了超級智慧的報導而驚慌的經營高層,若連會議紀錄摘要的自動化都暫停,最後只會得到比競爭對手晚一到兩年才導入工具的結果。另一是鬆懈的那一端。主張"反正幾年後 AI 自己就會處理一切",因而拖延資料整理、存取權限與紀錄保存的情況,但實際的事故並非來自超級智慧,而是來自權限設定失誤,以及貼進提示詞的客戶個人資料。合約中若仍保留'超級智慧等級的自主學習'之類的表述,同樣有風險。一旦因表現未達標而爆發爭議,連可以用來討論的數值標準都不會有。
透過哲學家 Nick Bostrom 的著作《Superintelligence》(2014)等作品而廣為人知,在生成式 AI 快速成長後,與 AGI 的討論一同再度受到關注。
以下以假設案例說明。員工 1,200 名、年營收 KRW 480,000,000,000 (≈ US$359,265,300) 的汽車零件製造商 A 公司,為了導入外觀檢驗自動化,花了 6 週檢視 3 家供應商。其中一家供應商在提案書首頁寫下「超智慧等級的自我學習引擎」,經營層會議則未進行技術驗證,反而陷入「何時能取代檢驗人力」的爭論,兩度陷入停擺。
- 生產技術組的金組長要求三家供應商以相同格式重新提交提案書,並表示「不要寫超智慧,只要寫出 12 種不良類型中,能以多少 % 的未檢出率抓出幾種就好」。
- 以實際產線影像 4 萬張進行為期 3 週的試點,主打'自我學習'的供應商,漏檢率為 2.1%,且每次重新訓練都需要 2 名工程師駐點;競爭供應商則為 0.7%。
- IT 本部的李常務將合約的效能條款從「超智慧級自主改進」改為「每月未檢出率維持 1% 以下,未達標時重新訓練費用由供應商負擔」,並重新送交法務審閱。
- 在針對高階主管的 40 分鐘課程中,區分說明 ANI、AGI、ASI,並明確表示「我們現在用的,就是 ANI 這一套」,人力替代的爭論便停了下來,討論轉向重新配置的計畫。
- 導入 4 個月後,每日需人工複檢的數量從 1,800 張降至 420 張,客戶品質客訴由每月 6 件降為 2 件,檢驗人力 5 名則轉調至製程數據分析工作。
金鍾赫
Mi-ru Lee