AI発展を牽引するコンピューティングパワー、スルレイマン氏「まだ始まったばかり」

マイクロソフトAI部門のCEO、ムスタファ・スルレイマン氏は、人工知能（AI）の基盤となるコンピューティング演算能力が爆発的に成長する時期がまさに始まったばかりであり、AI開発はこの流れの中で止まることなく発展し続けるだろうと述べた。スルレイマン氏がAI研究を開始した2010年以降現在まで、最先端AIモデルの訓練に投入された演算量は1兆倍増加した。初期システムが約10¹⁴フロップス（浮動小数点演算）レベルだったのに対し、現在の最大規模モデルは10²⁶フロップスを超えている。

こうした演算能力の増加は、具体的なハードウェアの発展に裏打ちされている。NVIDIA製チップは6年間で8倍の性能向上を遂げ、2020年の312テラフロップスから現在は2,500テラフロップスに達しており、Maia 200チップは発売時点比で1ドルあたりの性能が30%向上した。NVLinkやInfiniBandといった技術は、数十万個ものGPUを一つの巨大なスーパーコンピューターのように機能させるべく接続する。

ハードウェアの発展とは別に、ソフトウェアの効率性向上もコスト低下を牽引している。AI研究機関エポックAIの分析によると、同一の性能を達成するために必要な演算量は約8ヶ月ごとに半減している。これは、18～24ヶ月ごとに性能が倍増するというムーアの法則よりもはるかに速いペースである。