アクセラレーターとは、CPUが苦手な特定の計算を専用の回路で速く処理する半導体チップや、それを載せたカードのことです。いまIT業界で単に「アクセラレーター」と言うと、AIの学習や推論を速めるAIアクセラレーター（GPUや専用チップ）を指すことが多くなっています。
なお、スタートアップを短期間で支援する「アクセラレータープログラム」も同じ名前で呼ばれます。本記事ではハードウェアの意味だけを扱います。
アクセラレーターとは：CPUとの違い
CPUは、さまざまな処理を順にこなす汎用のプロセッサーです。一方、AIの計算は大部分が行列の掛け算と足し算で、同じ演算を同時に大量に実行できる回路のほうが速く処理できます。アクセラレーターはこの並列演算に特化した回路を持ち、さらに大容量で読み書きの速いメモリをチップのすぐ近くに置いて、データを待つ時間を減らしています。AIでは計算性能よりメモリ帯域が速度を決める場面が多く、メモリメーカーもこの分野の重要なプレーヤーです。
使い方：エンジニアは何をするのか
チップを直接プログラミングすることはほとんどありません。PyTorchやJAXなどの機械学習フレームワークが、各社のソフトウェア（NVIDIAのCUDA、AMDのROCmなど）を通してアクセラレーターを動かします。エンジニアが主にやることは、(1) ハードに合ったドライバーとフレームワークを入れる、(2) モデルとデータをアクセラレーター側のメモリに載せる設定をする、(3) メモリに収まるようにバッチサイズや数値の精度（量子化など）を調整する、の3つです。ハードを替えるとソフトの対応状況も変わるので、チップを選ぶことは、使えるソフトウェアを選ぶことでもあります。
料金：いくらかかるのか
使い始める方法は主に2つあります。1つはクラウドでアクセラレーター付きのインスタンスを時間単位で借りる方法、もう1つはサーバーごと買って自社やデータセンターに置く方法です。価格は製品の世代、台数、契約の形によって大きく変わるため、本記事では具体的な金額は書きません。DX部門が初めて検討するなら、まずクラウドの時間課金で試し、利用量が安定してから専有契約や購入と比べる進め方を勧めます（これは筆者の提案で、統計に基づくものではありません）。チップ代のほかに、電力・冷却・設置スペースの費用も総コストに入ります。
誰が作っているのか：主要メーカーと競合
GPUではNVIDIAが先行し、AMDがInstinctシリーズで追っています。当サイトでは、データセンター事業の好調により、AMDの第4四半期の売上高が170億ドルとなりIntelを上回る見通しだという報道を取り上げました。Intelも自社のAIアクセラレーター（Gaudi）を持っています。また、クラウド事業者が自社でチップを設計する動きもあり、GoogleのTPUやAWSのTrainium・Inferentiaが代表例です。投資家としては、チップ単体の性能に加えて、ソフトウェアの使いやすさと高帯域メモリを確保できるかどうかが競争力を左右する点に注目すべきです。
次の課題：電力と冷却
アクセラレーターを大量に並べるほど、消費電力と発熱が問題になります。SK hynixは自社のニュースルームで、電力と冷却がAIデータセンターの次の課題になった理由を解説しています（当サイトが確認できたのは見出しだけで、記事中の具体的なデータは確認していません）。導入を計画するときは、設置場所の電力容量と冷却方式を早めに確かめておく必要があります。
