AI速度論争でもHBM需要は後から動く
米国AI（人工知能）業界には「速度調整」をめぐる議論が広がっている。しかし、HBM（高帯域幅メモリ、AIがデータを高速に読み書きするのを助ける高性能メモリ）の需要は、当面揺らぐことはない。長期供給契約と先行発注の構造のため、変化はさらに遅れて現れる可能性があるためだ。
20日、半導体業界によると、AIインフラ市場では、大規模言語モデルを学習させるために必要な計算能力だけでなく、学習が完了したモデルを実際のサービスに使用する推論需要が新たな投資変数として台頭した。AIサービスの利用が増え続ければ、投資の方向も変わる可能性がある。大規模モデルの学習に集中していた投資が、実際のサービスを提供する推論とエージェントAIへと移行するにつれ、メモリ需要の性質も変わりうるという説明だ。
こうした中、エージェントAIの拡散が推論需要の重心を移しつつある。AIがユーザーの要求に応じて複数のタスクを連続的に実行するにつれ、推論リクエストは単純な質疑応答から反復的なタスクへと変わりつつある。その結果、推論過程で処理すべきデータとメモリの要求量も構造的に増加している状況だ。市場調査機関TrendForceは、AIサーバーの需要がLLM学習とAI推論の拡大に支えられ、HBM3Eと大容量メモリの需要を押し上げていると分析した。
ただし、推論需要が増えたからといって、すべてのメモリ需要がHBMに直結するわけではない。推論システムでは、HBMだけでなくDDR5などのサーバー用DRAMやSSD、新たなメモリ階層を併せて活用する。メモリ各社もHBMを超えてAI推論向け製品群を拡大している。SKハイニックスは、HBMとSSDの間で大容量データを処理できるHBFを公開し、推論過程で増加するデータ処理量と容量の問題に対応するメモリ階層として提示した。
