AIアクセラレーターとは

AIアクセラレーターとは、AIモデルの学習と推論に必要な計算を、汎用のCPUよりも高速かつ省電力で処理するために作られた半導体チップです。AIの計算の大半は行列の掛け算と足し算なので、それを大量に並列で実行する回路と、高速なメモリを組み合わせた設計になっています。

代表例はNVIDIAのデータセンター向けGPUです。ほかにGoogleのTPUや、AWSのTrainium・Inferentiaがあります。GPUはもともと画像を描くためのチップですが、AI向けに機能を強化した製品もAIアクセラレーターと呼ばれます。

AIアクセラレーターで何ができるのか

用途は大きく「学習」と「推論」の2つです。学習は、大量のデータからモデルのパラメータを求める工程です。大規模なモデルでは、多数のチップを高速なネットワークでつなぎ、長い時間動かし続けます。推論は、学習済みのモデルに入力を与えて答えを出す工程で、生成AIのチャットの応答や、画像認識・音声認識などがこれにあたります。

事業会社の企画・DXの立場では、生成AIのAPIやAI機能付きのSaaSを使うだけでも、その裏ではAIアクセラレーターが動いています。チップを直接扱わなくても、AIを使っていれば間接的に利用していることになります。

AIアクセラレーターの使い方

エンジニアが使い始める場合、チップを買うよりも、クラウドのインスタンスとして借りるのが一般的です。PyTorchやJAXなどのフレームワークから、メーカーが提供するソフトウェア（NVIDIAならCUDA）を通して使います。

コード上は計算を実行するデバイスの指定を変えるだけで動く場合もあります。ただし、対応しているライブラリや最適化の方法はチップごとに異なります。NVIDIA製GPU以外のチップに移す場合は、動作確認と性能の確認が必要です。

AIアクセラレーターの料金

この記事では具体的な価格を示しません。製品や時期、契約によって大きく変わり、確かな数字を挙げられないためです。費用の形は主に次の3つです。

1つ目はクラウドの時間課金で、インスタンスの種類と利用時間で料金が決まります。2つ目は自社で買うオンプレミスで、チップ単体ではなくサーバー、電力、冷却、運用まで含めた総額で考える必要があります。3つ目はAIのAPIの従量課金で、チップ代は処理量（トークン数など）あたりの料金に含まれています。

筆者の見解としては、試験導入（PoC）ならAPIかクラウドから始め、利用量が安定してから自社保有と比べるのが現実的です。

誰が作っているのか：NVIDIAと競合

現在の主流はNVIDIAで、強みはチップの性能に加え、CUDAを中心としたソフトウェアの蓄積です。主な競合は、GPUを出すAMD、Gaudiシリーズを持つIntel、それに自社のクラウドで独自チップを提供するGoogleやAWSです。

投資家が見るべき点として、供給と規制の2つがあります。当サイトの記事では、NVIDIAが基板、先端パッケージング、半導体テスト、光エンジンの主要サプライヤー6社と10億ドル規模の契約を結び、生産枠を押さえる動きに出たと報じました（出典：Tom's Hardware）。供給を左右するのはチップの設計だけでなく、製造の後工程の能力でもあることがわかります。

また、NVIDIAのAIチップは米国の輸出規制の対象です。米国の非営利監視団体C4ADSは、規制対象のチップが中国に流れ込む経路として、中国の大学・研究機関による調達、ベトナムやマレーシアなどを経由した転送、所有者が不透明な企業網の3つを挙げ、その規模を最大46億ドルとする報告書を公表しています。