Google DeepMind、数百万のAIエージェントの相互作用リスク研究を支援

Google DeepMindは、数百万のAIエージェントが相互作用する際の潜在的なリスク研究に1,000万ドルを支援します。

Google DeepMindのAGI（汎用人工知能）の安全性とアライメント研究責任者であるローヒン・シャー博士は、人間の助けなしにタスクを実行したり、他のAIの指示に従ったりするAIエージェントが大量に出現するにつれて、新たな種類の危険が生じる可能性があると述べました。ローヒン・シャー責任者は、現在インターネット上で発生している詐欺、プロンプトインジェクション、その他のサイバー攻撃といった問題が、より強力な形で増幅されることを懸念していると語りました。

この研究支援は、技術企業外部での研究を奨励することを目的としています。学術界は、産業研究機関ではすぐには優先順位がつけられないような、未来志向の研究を実施できるという強みがあります。Google DeepMindに加え、Schmidt Sciences、英国政府のARIA、非営利研究機関であるCooperative AI foundation、そしてGoogleの慈善部門であるGoogle.orgも参加しました。

ローヒン・シャー氏とジェームズ・フォックス氏は、数百万ものAIエージェントが相互作用する際に起こりうる状況を理解する唯一の方法は、現実的なシミュレーションを実行することだと考えています。彼らは、研究者がAIエージェントを「サンドボックス」環境に投入し、その行動を綿密に観察することを期待しています。単一のエージェントや少数のエージェントのみを孤立させて研究するだけでは、将来の複雑な相互作用を予測することは困難です。