HPE、AIの高価なメモリー問題にストレージで対処する構想を訴求

HPEは、AIにおける高価なメモリーの問題をストレージで補うアプローチを打ち出している。The Registerが掲載した記事で、URLの表記からHPEが関与するスポンサー記事（パートナーコンテンツ）とみられる。

今回確認できたのは見出しとURLのみで、対象の製品や、ストレージをどのような形でメモリーの代わりや補完に使うのか、性能やコストの比較数値は分かっていない。

AIの推論では、モデルの重みに加え、会話の文脈を保持するデータがGPUのメモリーを大きく消費する。GPUに載る高速メモリーは高価で容量も限られるため、使用頻度の低いデータを外部のストレージへ逃がし、必要なときに素早く読み戻すといった工夫が業界で模索されている。HPEの訴求もこうした流れに沿ったものとみられる。

メモリー価格の高騰が続く中、ストレージ側の工夫でメモリーの必要量を抑えられるかは、AI基盤のコストを左右する論点になっている。ただし本件はベンダー発信の内容である点に留意が必要だ。