GPU（Graphics Processing Unit）とは、同じ種類の計算を大量に同時並行でこなすことに特化した半導体チップです。もともとは画面描画用の部品でしたが、現在はAIの学習と推論を動かす計算資源として、データセンターの中心に置かれています。
GPUとは：CPUとの違い
CPUは少数の高性能なコアで、複雑な処理を順番にこなします。GPUは多数の小さなコアを持ち、同じ計算を一斉に実行します。
AIのニューラルネットワークの中身は、大量の行列演算です。これは「同じ計算を並べて一気に解く」形そのものなので、GPUの構造にそのまま当てはまります。GPUがAI向けに使われる理由はここにあります。
GPUで何ができるのか
用途は大きく3つあります。
- 生成AI・機械学習モデルの学習と推論 - 3D描画、ゲーム、映像編集 - 科学技術計算やシミュレーション
事業会社の企画・DX担当者が押さえておきたいのは、外部のAIサービスをAPI経由で使うだけなら、自社でGPUを持つ必要はないという点です。GPUが必要になるのは、自社でモデルを学習させる場合や、データを外に出さずに自社環境でモデルを動かす場合です。
GPUの使い方
使い方には3つの選択肢があります。
- 手元のPCやワークステーションに搭載する - クラウドのGPUインスタンスを時間単位で借りる - 自社のデータセンターにGPUサーバーを置く
エンジニアがGPU向けのコードを直接書く場面は多くありません。PyTorchなどの機械学習フレームワークが、NVIDIAのCUDAのような基盤ソフトを通じてGPUを呼び出します。検証はクラウドで小さく始め、利用量が固まってから自社保有を検討する順序が現実的です。
GPUの料金
当サイトは具体的な価格を確認していないため、金額は掲載しません。ここでは料金の決まり方だけを示します。
クラウドで借りる場合は、GPUの機種、台数、利用時間で決まる従量課金が基本です。購入する場合は、本体価格に加えて電力、冷却、設置場所の費用がかかります。
本体以外の費用は軽視できません。SK hynixは自社ニュースルームの連載で、電力と冷却がAIデータセンターの次の課題になったと取り上げています。ただし当サイトが確認できたのは見出しのみで、具体的なデータは未確認です。
GPUは誰が作っているのか：メーカーと競合
GPUの主なメーカーはNVIDIA、AMD、Intelです。AI向けではNVIDIAが先行しており、クラウド大手が自社開発するAI専用チップも競合にあたります。
NVIDIAは8月26日の第2四半期決算説明会で、次期の増収見通しを70%と示しました。アナリスト予想の44%を大きく上回る数字です。需要に応える上での制約を問われたジェンスン・フアンCEOは、制約はサプライチェーン全体にあるという趣旨で答えています。
ここからは推測ですが、この発言は、GPUの供給が特定の1工程ではなく、複数の部材や工程にまたがって制約されている状況を示しています。投資家にとっては、GPUメーカー単体だけでなく、メモリ、電力、冷却といった周辺領域まで見る必要があるということです。
