HBM（High Bandwidth Memory）は、DRAMのチップを縦に積み上げてGPUやAIアクセラレータのすぐ隣に配置する、広帯域メモリの規格です。JEDECが標準化しており、1スタックで1024ビット（HBM4世代では2048ビット）という極端に幅の広いデータ経路を持つ点が、PCやサーバーで使うDDR5メモリとの決定的な違いです。
HBM とは — 何が「広帯域」なのか
通常のメモリはマザーボード上のスロットに挿さり、64ビット幅の配線でCPUとつながります。HBMは違います。DRAMダイを複数段積層し、ダイを貫通する配線（TSV）で縦に接続し、そのスタックをシリコンインターポーザという土台の上でGPUダイと横並びに置きます。
配線距離が数ミリまで縮むため、現実的な消費電力のまま極端に幅の広いバスを引けます。結果として1パッケージあたりの帯域はTB/s級に達します。世代はHBM2 → HBM2E → HBM3 → HBM3E → HBM4と進み、積層段数・ピン速度・容量が世代ごとに上がってきました。
何に使われているのか
用途はほぼAIの学習・推論用アクセラレータと、HPC向けGPUに限られます。コンシューマ向けPCや一般的なサーバーCPUには載りません。
理由は性能特性に直結しています。LLMの推論では、モデルのパラメータとKVキャッシュをトークン生成のたびに読み出すため、演算器の速さではなくメモリ帯域が処理速度の上限を決めます（memory-bound）。さらに、モデルが1枚のGPUのメモリに載らなければ複数GPUに分割するしかなく、GPU間通信のオーバーヘッドが乗ります。つまりHBMの容量と帯域が、そのまま「1枚で動かせるモデルの大きさ」と「1秒あたりの生成トークン数」になります。
使い方 — 部品として単体で買うものではない
エンジニアがHBMを単品で調達して基板に実装することは、実務上ありません。HBMはGPU/アクセラレータのパッケージに最初から封止されており、購入単位はあくまでGPUです。ソフトウェアから見ても、HBMは通常の「GPUメモリ」として見えるだけで、HBM専用のAPIがあるわけではありません。
したがって実務での使い方は、アクセラレータを選ぶ際に搭載HBM容量と帯域を仕様として確認し、動かしたいモデルのパラメータ量＋KVキャッシュが収まるかを見積もる、という形になります。
料金はどう決まるのか
HBM単体の公表価格はありません。メモリメーカーからGPUベンダーへの供給価格は非公開で、企業向けに定価表が出るものでもありません。コストはGPU本体の価格、あるいはクラウドのGPUインスタンスの時間単価に内包されています。
企画・DX側が見積もるときは「必要なHBM容量 → 条件を満たすGPUの型と枚数 → その時間単価×稼働時間」という順序で考えるのが実務的です。HBMの搭載量はGPU価格を押し上げる主要因の一つであり、供給面では先端パッケージング工程の生産能力がボトルネックになりやすい構造です。
誰が作っていて、競合は何か
量産できるのはSK hynix、Samsung、Micronの3社です。DRAM市場そのものが寡占ですが、HBMは積層とパッケージングの歩留まりが効くため、さらに参入障壁が高くなっています。
SK hynixは、米カリフォルニア州サンタクララで9月15〜17日に開かれた「AI Infra Summit 2026」に「New Spectrum」を掲げて出展し、HBMとSSDの間を埋める大容量・高帯域NAND「HBF」の構造模型、メモリ内で演算するPIMチップ「AiM」とそれを載せたアクセラレーターカードなどを展示しました。続く9月18日には同じサンタクララで「2026 Global Forum」を開催し、クァク・ノジョンCEOが基調講演で「メモリなしにAI産業は存在し得ない」と述べています。
ここが投資家にとっての論点です。HBFやPIMはHBMを置き換えるものというより、HBMの外側の階層（容量）とHBMの内側の処理（演算）を埋める技術で、メモリ階層そのものが再設計されつつあることを示しています。HBM単体のシェア争いだけでなく、この階層全体をどのベンダーが押さえるかが次の競争軸になります。
