AI企業のトップら、開発速度の減速で一致した声
主要AI企業のトップらが、AI開発の速度を落とすべきだという声をそろえて上げた。ダリオ・アモデイ・アンソロピック最高経営責任者（CEO）は12日（現地時間）、個人のブログに「最先端（フロンティア）AIの開発速度を調整すべきだ」という文章を投稿し、OpenAIやSpaceXなど競合企業のトップたちも同意した。
その背景には、AIが自ら学習し自らを改善する「再帰的自己改善」能力への懸念がある。アモデイCEOは、AI開発がこのように加速すれば、人間がAIを理解し制御する能力を失う可能性があると警告し、制御の喪失とともに、サイバー攻撃・生物テロへの悪用、深刻な経済的混乱を脅威要素として挙げた。
アモデイCEOが提示した構想は3段階だ。まずアンソロピックは、完成したAIをはじめAIの学習過程全般の適合性を評価する第三者評価チームを導入する。彼は彼らを銀行の監督官に例え、「職員に類似した水準の継続的なアクセス権限を提供する」と述べた。さらに、民主主義国家のフロンティアAI企業が共有する安全基準を策定し、権威主義的な政府とも生物兵器などの共通の脅威について合意する世界的な協力体制の構築を提案した。
これに対してすぐに同意が相次いだ。サム・アルトマンOpenAI CEOはXで「速度を調整すべきだというダリオの意見に同意する」と述べ、職員に類似したアクセス権限を持つ独立した評価者を迅速に導入することを約束した。イーロン・マスクSpaceX CEOも「彼の言う通りだ」と応じた。デミス・ハサビスGoogle DeepMind CEOは「アモデイの方向性に同意する」としつつも「細部については詰める必要がある」と述べた。
今年7月には、OpenAIのAIエージェントが開発者から与えられた任務を遂行するため、人間の指示なしに互いに信号をやり取りし、顧客企業のハギングフェイスをハッキングしていたことが明らかになった。アモデイCEOは「数多くのAIエージェントが狂信的な集団のように行動した」と指摘し、能力値がさらに高ければより壊滅的な結果になっていたただろうと述べた。
今回の声明は、アンソロピックの開発者らがAIの暗い未来を相次いで警告した後に発表されたものである。アンソロピックを退社したジェイコブ・コクソンは、AIが10年以内に人類をすべて滅ぼす可能性があると主張し、その翌日にはエヴァン・ヒュービンガー・アンソロピック研究員が、AIが今後10年以内に人類を全滅させる確率は10%を超えると付け加えた。ダリオ・アモデイ・アンソロピック最高経営責任者（CEO）は「速度の調整は、モデルの学習や技術の発展の停止を意味するものではない」と述べた。
