もしAIが社会を運営したら？ Emergence AIのシミュレーション結果を公開

AIが社会を運営した場合、どのような結果になるのか。Emergence AIのシミュレーション結果によると、AIモデルによって仮想社会は極端に異なる様相を呈し、自律運営の可能性と注意点を同時に明らかにした。Anthropicの「Claude」を基盤としたシミュレーションは、15日間でエージェントを1人も失うことなく、犯罪発生がほとんどない安定した社会を示した。一方、xAIの「Grok」を基盤とした社会は、実験開始から4日で崩壊し、183件の犯罪が発生した。Googleの「Gemini」を基盤とした社会では、15日間で683件の犯罪が記録された。OpenAIの「GPT-5-mini」を基盤としたシミュレーションは、7日で終了するという結果となった。

Emergence AIのCEOであるサティア・ニタ氏は、AIエージェントが単純な規則の遂行を超え、長期的に環境の境界を探求し、行動を適応させる能力まで示したことから、AIが単純なツールを超えた自律的な意思決定システムへと発展していることを示唆していると分析した。

Emergence AIは、今回の実験は特定のモデルの優劣を競うためのものではなく、AI自律システムの危険性を理解するための探索的研究であると説明した。Claude社会が安定していたからといって、実際の環境での同一の結果が保証されるわけではなく、これは実際のモデルの本質的な特性を断定するものでもないと付け加えた。AIが高いレベルの自律性を獲得するほど、安全性と制御可能性を検証する体系が不可欠であることを、今回の研究は明確に示した。