NVIDIA、AIエージェントの突発的行動を抑制する安全プラットフォームを公開

AI（人工知能）半導体企業のNVIDIAは現地時間28日、AIエージェントの行動範囲を定め、突発的行動が発生した際に即座に隔離・停止させる「NVIDIA Open Agent Safety Platform」を公開した。近年、AIエージェントが人間の制御を離れて許可なく動く事故が増えており、それをミリ秒（1000分の1秒）単位で捕捉する技術が登場したものである。

プラットフォームは二つの部分で構成される。オープンソースソフトウェア「オープンシェル」は、コンピュータの頭脳である中央処理装置（CPU）上でAIエージェントが取り得る行動の範囲を定め、リアルタイムで制御する。ハードウェア監視装置「セントリー」は、データ処理装置（DPU）上でミリ秒単位でエージェントを監視し、境界を越えた場合には即座に停止させる。

ジェンスン・フアンNVIDIA最高経営責任者（CEO）は「AIの優れた潜在力は、AIの安全問題を解決してこそ実現できる」と指摘した。さらに「AI機能が進歩するのと同じだけ、安全技術もスピードを上げなければならない」と強調した。

今回のプラットフォームの開発には、アンソロピック、マイクロソフト（MS）、セールスフォース、パランティア、スペースXAIなど、世界の主要技術企業約100社が参加した。