GPUクラウドとは、GPU（画像処理用に生まれ、大量の並列計算が得意な半導体）を搭載したサーバーを、インターネット経由で必要な時間だけ借りられるサービスです。高価なGPUサーバーを自社で買って置かなくても、AIモデルの学習や推論を始められます。
GPUクラウドで何ができるのか
主な用途は、AIモデルの学習（大量のデータでモデルを作る処理）と推論（作ったモデルで回答や画像を生成する処理）です。ほかに、科学技術計算、動画のエンコード、3Dレンダリングなど、並列計算の多い処理にも使われます。
事業会社にとっての利点は、検証の段階で設備投資をしなくてよいことです。社内文書を使った生成AIの試作や画像検査モデルの学習を、数日だけGPUを借りて試し、効果が出なければやめる、という進め方ができます。
GPUクラウドの使い方
一般的な流れは次のとおりです。
1. 事業者のアカウントを作り、GPUの種類と台数を選んでインスタンス（仮想サーバー）を起動する 2. SSHやブラウザのノートブック環境で接続し、PyTorchなどのフレームワークやコンテナを用意する 3. 学習データをストレージに置き、処理を実行する 4. 終わったらインスタンスを停止・削除する
エンジニアが注意すべき点は、止め忘れです。多くのサービスは起動している間ずっと課金されるため、処理が終わってもインスタンスを残していると費用が積み上がります。大規模な学習では、複数GPU間の通信速度やストレージの読み込み速度も処理時間を左右するため、GPUの型番だけで選ばないことが重要です。
GPUクラウドの料金の考え方
料金は事業者・GPUの種類・地域・契約形態で大きく変わり、時期によっても変動するため、本記事では具体的な金額を挙げません。必ず各社の最新の料金ページで確認してください。
料金の決まり方には、主に次の型があります。
- 従量課金（オンデマンド）: 使った時間に応じて払う。短期の検証向き - 期間契約（予約）: 一定期間の利用を約束する代わりに単価が下がる。継続利用向き - 余剰枠の割安利用: 安い代わりに途中で停止される可能性がある。中断してもよい処理向き
GPU代のほか、ストレージ代やデータ転送料が別にかかる場合がある点も、予算を組むときに見落とされやすい項目です。
誰が提供しているのか（事業者と競合）
提供者は大きく2種類に分かれます。AWS、Google Cloud、Microsoft Azureのような総合クラウドがGPUインスタンスを提供しているほか、AI向けの計算資源に特化した専業のクラウド事業者もあります。
専業事業者への投資は大型化しています。当サイトの報道では、GMI Cloudが6億6800万ドルを調達したとData Center Dynamicsが伝えています（出資者や使い道は見出しからは不明）。
投資家が見ておくべき論点として、GPUの供給元への依存があります。当サイトの記事では、NVIDIAがデータセンター事業者に対し、中国系の顧客を全体の49%までにとどめるよう求めたとTom's Hardwareが報じたことを紹介しました。ただしNVIDIAの公式発表は確認できておらず、対象事業者や開始時期も分かっていません。この報道が事実であれば、GPUクラウド事業者の顧客構成が供給元の方針に左右されうることを示す例になる、というのが当サイトの見立て（推測）です。
