AI推論の真のコストはストレージに隠れている

AIが回答を生成する「推論」の過程で生じるデータ保存コストが、AIの学習コストに匹敵する問題として浮上している。MITテクノロジーレビュー（2026年10月22日付、Tim Rausch記者）は、推論が残すデータがバックエンドのストレージインフラに新たな負担となっていると報じた。

問題の本質は、推論が止まらないことにある。学習は始まりと終わりがあるプロジェクトのように予算を組んで終了できるが、推論はプロンプトが入力されるたびにデータを残す。ウエスタンデジタル（WD）の社内測定によると、8秒のAI生成動画は720p画質でわずか3.97MBだが、記録ログ・一時保存ファイル（キャッシュ）・レンダリング・バックアップなど、推論プロセス全体で残るデータを合計すると500MBを超え、ユーザーが受け取ったファイルの約130倍に達するという。

規模も拡大すると見込まれる。マッキンゼーは、AI推論の需要が2030年までに年平均35%ずつ増加して学習の22%を上回り、推論が今の10年代が終わるまでにデータセンター総需要の40%以上を占めると予測した。WDが後援したIDCのホワイトペーパーもこれを裏付ける。IT・ビジネスの意思決定者763人を調査した結果、約95%が過去12か月間で生成AIによりデータ量が増えたと回答し、61%は25%以上の増加と答えた。

ハイパースケールクラウド事業者のシニアプロダクトマネージャーは、保存問題の核心を指摘した。同マネージャーは「ストレージ容量を増やすことは、GPUを止めずに稼働し続けさせるための最適化だ」とし、「最大の課題は、GPUがデータを待って遊んでいる状態にしないことだ」と述べた。ストレージ計画はすでにAIインフラ最適化の核心的要素となっているという。