ASI・超知能
Artificial Superintelligence
ASIとは?
- 人間を全領域で圧倒する仮想のAI段階
- ANI→AGI→ASIのうち最終段階(未実現)
- 核心の争点は「統制・アライメント」問題
ASIは導入する製品ではなく、判断の基準線です。会議室で「これはやがて超知能になる技術だ」という言葉が出た瞬間、検証すべきはモデルの潜在力ではなく、今年の当社の工程と文書から出てくる精度、そして誤ったときのコストです。段階を分けておくと、予算が「今使うツール」と「後に備えるリスク」に分かれ、提案書の形容詞を数字に置き換えて問い返す根拠が生まれます。
超知能は通常、3つの系統に分けて説明されます。人間と同じ思考を数万倍速く行う速度型、多数の知能が束ねられて性能を出す集団型、人間が本来到達できない方法で思考する質的型です。AGIとの境界は基準点にあります。AGIが「平均的な人間が行うことを幅広く」こなす状態なら、ASIは各分野の最高の専門家集団さえ大きな差で追い越した状態です。跳躍の速度も論点です。数年かけて緩やかに上がるのか、再帰的な自己改善によって数か月で進むのかによって、備え方が完全に変わります。
現在、企業に配備されているモデルは性能に関係なく、すべてANIの範疇に入るという点が重要です。特定の試験やベンチマークで人間の上位層を超えたという発表は、汎用性の証拠ではなく、その課題に限定された成績表にすぎません。
現場では二つの方向にずれていきます。一つは恐れの方向です。超知能の記事に驚いた経営陣が、会議録の要約自動化まで保留させると、競合がすでに使っているツールを1〜2年遅れて導入する結果しか残りません。もう一つは油断の方向です。「どうせ数年後にはAIが勝手に全部やる」と言ってデータ整備、アクセス権限、ログ保管を先送りするケースですが、実際の事故は超知能ではなく権限設定のミスと、プロンプトに貼り付けた顧客の個人情報で起きます。契約書に'超知能級の自律学習'のような表現をそのまま残すことも危険です。性能未達で紛争が起きたとき、争うべき数値基準がまったくなくなってしまいます。
哲学者ニック・ボストロムの著書『Superintelligence』(2014年)などを通じて広まり、生成AIの急成長以降、AGIの議論とともに再び注目されています。
仮の事例で見てみましょう。従業員1,200名、年間売上4,800億ウォン(約5,740,322万円)規模の自動車部品メーカーA社は、外観検査の自動化のためにベンダー3社を6週間かけて検討しました。あるベンダーが提案書の最初のページに「超知能レベルの自己学習エンジン」と書き、経営陣の会議は技術検証の代わりに「いつ検査要員を代替できるか」という議論で二度空転しました。
- 生産技術チームのキム・チーム長が「超知能の話はいらない。不良タイプ12種のうち何種を未検出率何%で捕捉するかだけ書いてほしい」と言い、3社に同じ様式での提案書の再提出を求めました。
- 実際のラインの画像4万枚で3週間パイロットを回した結果、'自己学習'を掲げたベンダーは未検出率2.1%で、再学習のたびにエンジニア2名の常駐が必要でした。競合ベンダーは0.7%でした。
- IT本部のイ常務が契約書の性能条項を「超知能級の自律改善」から「月間の未検出率1%以下を維持、未達時の再学習費用は供給会社負担」に変え、法務審査を受け直しました。
- 役員向けの40分セッションでANI・AGI・ASIを区別して説明し、「私たちが今使っているのはANIの一台だ」と言い切ると、人員代替の論争が止まり、再配置計画の議論へ移りました。
- 導入から4か月後、目視による再検査の量が1日1,800枚から420枚に減り、顧客からの品質クレームは月6件から2件に下がりました。検査要員5名は工程データ分析の業務へ再配置されました。
金鍾赫
イ・ミル