GPU · AI半導体
Graphics Processing Unit / AI Chip
GPUとは?
- 数千のコアで同時に計算する並列演算半導体
- AIの学習・推論スピードを左右する中核ハードウェア
- 直接購入する代わりに、クラウドで借りて使うこともできます
GPUが入ると、AIプロジェクトのボトルネックは移ります。以前は「どのモデルを使うか」が会議の半分を占めていましたが、今は「その実験をいつ回せるだけのGPUが空くか」が日程表を支配します。演算リソースの待ち行列がそのまま開発日程です。同じモデル、同じデータでも、GPUの割り当てが2週間遅れれば、パイロットの報告も2週間遅れます。確保できたということは実験をあと何回か回せるということであり、確保できなかったということは、アイデアが待ち行列の中で古びていくということです。そのため現場でGPUの議論は技術選択ではなく、予算・日程・セキュリティが一度にかかった意思決定として上がってきます。
GPUは用途によって性格が分かれます。学習(training)は数十〜数百時間まとめて使う作業なので、高性能カードを短期間借りるほうが有利です。一方、推論(inference)は一日中低い負荷で動き続ける作業なので、常時稼働するサーバーが向いています。機種を分ける実際の基準は、たいていVRAM(グラフィックメモリ)容量です。パラメータ70億個のモデルを16ビットで動かすと、重みだけで約14GBが必要になるため、余裕分を加えた24GBクラスが実務上の下限になります。また、GPUとAI半導体は同じ意味ではありません。NPUやTPUのように特定の演算に特化したチップは電力あたりの性能が高いものの、勝敗は性能数値よりもCUDAのようなソフトウェア・エコシステムとの互換性で分かれることが多いです。
現場で最もよくずれるのは、「GPUのカード代=導入コスト」という計算です。データセンター級のGPUサーバー1台は、ラック電力が数kWに及び相当な発熱を生むため、既存のサーバー室にそのまま差し込むと、ブレーカーが落ちたり空調が追いつかなかったりします。電力増設・空調・設置スペースの工事費があとから加わり、最初の稟議書を書き直すことが珍しくありません。さらによくある誤解は「とりあえず買っておけば使うだろう」です。学習の需要が月に数日程度の組織がサーバーから先に買うと、稼働率は一桁台にとどまり、その時点からGPUは戦略資産ではなく、減価償却されるだけの荷物になります。反対に、機密データを検討しないまま外部のクラウドにアップロードし、社内監査で指摘されてプロジェクトを振り出しに戻す事例も少なくありません。
| 区分 | CPU | GPU |
|---|---|---|
| コア構成 | 少数の強力なコア | 数千個の単純なコア |
| 処理方式 | 複雑な作業の逐次処理 | 単純計算の大規模並列処理 |
| AIにおける役割 | 制御・一般演算 | 学習・推論の中核エンジン |
GPUは1999年にNVIDIAが『GeForce 256』を発表し、グラフィック専用プロセッサとして広まりました。その後2012年に、GPUで学習した深層学習モデル「AlexNet」が画像認識コンテストで圧倒的な成果を出し、GPUがAI演算の標準ハードウェアとして定着する決定的なきっかけになりました。
架空の事例で見てみましょう。役職員420名、年間売上高1,800億ウォン(約2,152,621万円)規模の自動車部品メーカーA社は、設備異常検知モデルと社内規程チャットボットを同じ四半期に進めようとしました。情報戦略チームが1台3,000万ウォン(約359万円)のGPUサーバー2台の購入を稟議にかけましたが、CFOが「それ、週に何時間しか使わないんでしょう?」と問い返し、決裁を保留しました。
- 情報戦略チーム長が2週間分の研究ノートと作業ログを振り返ってみたところ、学習に使う時間は月40時間ほどで、残りはすべて軽い推論リクエストでした。
- 生産技術チームの課長は、異常検知モデルをクラウドGPUで動かし、6週間で学習を終えました。利用料は180万ウォン(約22万円)でした。サーバーを買っていたら、6,000万ウォン(約718万円)が眠るところでした。
- 一方、チャットボットは人事・契約文書を読み込む必要があったため、法務チームが外部持ち出しに反対しました。そこで「24GBのカード1枚で7Bモデルの推論は動く」という実測結果を根拠に、自社サーバー1台だけを導入しました。
- いざ機器を導入しようとすると、サーバー室のラックの許容電力が3kWしかなく、ブレーカーが持ちこたえられませんでした。施設チームが電力増設と空調強化に1,100万ウォン(約132万円)を追加で使いましたが、当初の稟議書にはなかった項目でした。
- 6か月後、学習はクラウド、推論は自社サーバーに分けた結果、年間の想定コストは9,800万ウォン(約1,172万円)から3,400万ウォン(約407万円)に下がり、チャットボットの応答時間も平均6秒から1.8秒に短縮されました。
ク・ジャリョン
パク・スンテ