HBMの独走は続くも、次世代技術競争はすでに始動

インテルとOpenAIの技術陣が「CXLはHBMを代替し難い」との見解を示した。両者は16日（現地時間）、米カリフォルニア州サンタクララで開かれた「AIインフラサミット」のパネル討論で、コンピュート・エクスプレス・リンク（CXL、チップとメモリをより広く高速に接続するインターフェース技術）の限界を指摘した。AI半導体市場では、高帯域幅メモリ（HBM、データを超高速でやり取りするメモリチップ）の独走が続く見通しだ。

CXLは、AIアクセラレータとメモリを効率的に接続する次世代規格だ。業界の一部では、価格負担の大きいHBMを一部代替できればAIサーバーの構築コストを抑えられるとの期待から、CXLを次世代の代替規格として取り上げてきた。

インテルのシステムオンチップ（SoC）アーキテクチャ統括を務めるヴィディア・ティアガラジャン氏は「CXLを経由してグラフィックス処理装置（GPU）とやり取りされるデータの速度はHBMほど速くない」とし、CXLはHBMを代替するというより補助記憶装置を補完する水準だと指摘した。AIアクセラレータの設計を担当するOpenAI研究員のダニエル・モリス氏は「AIモデルを実際に稼働させる立場からは、CXLの活用先が見いだせない」と述べた。同氏は、巨大モデルで使用頻度の低い非活性データを別途保管する用途は可能だが、モデル稼働に特化した活用事例は見たことがないと説明した。

CXL代替論が力を失う中、グローバルHBM市場ではサムスン電子とSKハイニックスによる独占的地位が続く見通しだ。カウンターポイント・リサーチによると、今年第2四半期のグローバルHBM売上高シェアは、SKハイニックスが50%、サムスン電子が33%だった。サムスン電子は前四半期（21%）から12ポイント（p）上昇した。

サムスン電子はこの日のイベントで、AIアクセラレータの上にHBMを直接積層する「zHBM」を紹介した。アクセラレータの横にHBMを配置する従来方式に比べ、データ移動距離を短縮し、処理速度と電力効率を高める構造だ。サムスン電子米州総括法人（DSA）のメモリ商品企画担当キム・インドン常務は、アクセラレータとメモリを垂直接続する方式を「ホテルの客室から1階ロビーへ直行する専用エレベーターを設けるようなもの」と例えた。zHBMはHBM5と比べ最大8倍の性能と3倍以上の電力効率を実現できるという。キム常務は「対話型AIシステムの応答速度は1人当たり毎秒100トークン程度」とし、エージェント型AIに向けて毎秒1000トークンへ引き上げると明らかにした。

SKハイニックスは、メモリ内部で直接演算する「処理機能内蔵メモリ（PIM）」を提示した。データをアクセラレータへ移して計算する代わりに、簡単な演算をメモリ内で処理する方式だ。SKハイニックスのソリューションAT担当イム・ウィチョル副社長は「PIMは同じ面積でSRAM比約300倍に達する大容量を提供しながら、高い内部帯域幅を維持する」と説明した。同氏は、メモリダイと演算ダイを垂直接続するハイブリッドボンディングにより、容量とコストの問題を解決できると述べた。