GPUクラスタとは、多数のGPUを搭載したサーバーを高速ネットワークで接続し、1つの計算資源として使えるようにしたシステムです。1台では時間がかかりすぎる、またはメモリに載りきらない大規模なAI学習や科学技術計算を、複数のGPUに分担させて処理します。
GPUクラスタで何ができるのか
代表的な用途は、大規模言語モデルなどの学習です。モデルとデータを複数のGPUに分け、計算結果をGPU同士で頻繁に交換しながら処理を進めます。1基のGPUメモリに収まらないモデルも、分割すれば扱えます。多数の利用者から届く推論リクエストの処理や、シミュレーションにも使われます。
事業会社での候補は、自社データを使ったモデルの追加学習、画像や動画の大量処理、社内向け生成AIの基盤です。ただし、既存モデルのAPIを呼ぶだけで足りる業務にクラスタは不要です。APIでは実現できない学習がある場合や、データを外部に出せない場合に検討するものです。
GPUクラスタの使い方
利用者は個々のサーバーを直接操作するのではなく、ジョブスケジューラに処理を投入するのが一般的です。SlurmやKubernetesがよく使われ、空いているGPUへの割り当てを管理します。学習コードは、PyTorchの分散学習機能などを使って複数GPU向けに書きます。
性能を左右するのはGPU単体の速さだけではありません。通信やデータの読み込みが遅いと、GPUが待たされて遊んでしまいます。そのためInfiniBandやRDMA対応のEthernetといった低遅延のネットワークと、高速なストレージが構成の要になります。台数を2倍にしても、速度が2倍になるとは限りません。
GPUクラスタの料金
金額は、GPUの種類、台数、利用時間、契約形態で大きく変わるため、ここでは具体的な価格を示しません。費用の構造は次の2通りです。
クラウドで借りる場合は、GPUの種類と台数に利用時間を掛けた従量課金が基本で、一定期間の予約を前提にした契約もあります。自社で保有する場合は、GPUサーバーに加えて、ネットワーク機器、ストレージ、電力、冷却、設置場所、運用人員の費用がかかります。
判断の軸は稼働率です。短期間の学習なら借りるほうが無駄が出にくく、常に高い稼働率を保てるなら保有も選択肢に入ります。なお、この判断の軸は一般的な考え方であり、個別の損益分岐を示すものではありません。
誰が作っているのか、競合は何か
GPUクラスタは複数の層からなる産業です。GPUではNVIDIAが中心的な存在で、AMDが競合です。GoogleのTPUのように、クラウド事業者が自社開発するAIチップも代替の選択肢になります。
ネットワークの層では、CiscoとNVIDIAが提携し、従来より大容量で高速な「プラガブル」製品を共同開発するとThe Registerが報じました。プラガブルは光トランシーバーなどの差し込み式モジュールを指しているとみられますが、確認できているのは見出しのみで、仕様や提供時期は不明です。
設置場所の層では、ゲットワークスが40フィートコンテナを4台連結したコンテナ型データセンターの本稼働と受注開始を発表しました。大規模なGPUクラスタに対応できる構成としています。コンテナ型は、建屋から建てる通常のデータセンターより設置期間を短くしやすい点が特徴です。こちらも確認できているのは見出しのみで、電力容量や搭載できるGPU台数、価格は分かっていません。
