AIがメモリとストレージの設計を書き換える

AIはインフラ設計の基準を書き換えつつある。その場で回答を生成する「推論」の時代が幕を開け、データセンターのメモリとストレージの設計基準が変わりつつある。MITテクノロジーレビューインサイツがマイクロンとのパートナーシップで発表した分析は、速度、効率性、拡張性、電力効率（ワットあたりの性能）までを兼ね備えたインフラの再設計こそがAIの実用化を切り開く鍵だと指摘した。

膨大な医療データをリアルタイムで分析したり、数千件の顧客リクエストを同時に処理したりするAIサービスでは、遅延やボトルネック（処理が滞る区間）、浪費される電力がそのまま運用コストとサービス品質に直結する。ティリアス・リサーチの創業者兼チーフアナリストであるジム・マクレガー氏は「AIを1つのワークロードと考えがちだが、実際には数千、数百万、数十億の異なるワークロードだ」と指摘した。最適化の対象も、純粋な演算性能から、メモリとストレージ、ネットワークが連動したインフラ全体へと移ったという。さらに同氏は「データセンターは現在、継続的で分散型、そしてますますリアルタイムに近づくAIサービスを支援しなければならず、その中で単一のワークロードであるものは何一つない」と付け加えた。

今回の分析は、メモリとストレージをもはや補助的なハードウェアと見なさず、システムの中心に据えるよう求めた。データを素早く収集し、整理・変換した上で保存し、移動させて伝達するパイプライン設計がその第一歩だ。古いインフラにAIを無理やり組み込む方式は、AIがもたらす変化の潜在力を自ら制限する道だとする指摘もあった。

性能だけを追う時代は終わった。企業にとってはコストや柔軟性、将来への対応力までが比較検討の対象となり、効率と拡張性を性能とバランスよく両立させつつ、最大負荷に備えてインフラを過剰に構築しない能力が新たな基準となった。ワットあたりの性能を高め、環境負荷を抑え、メモリとストレージのボトルネックが成長を阻む前にこれを解消する組織が勝者だと、この分析は指摘した。

マクレガー氏は最後に、物事の順序を強調した。「メモリとストレージを含むネットワーク全体で、今後稼働させる予定のワークロードの種類に合わせて最適化しなければならない」との注文だ。同氏は「そのワークロードが何になるのかを詳細に理解すること」が最適化の出発点だと明かした。