暴走するAI、6～12か月以内にインターネットを支配するとの警告
グローバルAI企業のトップたちが、人間に代わって自律的に業務を行うAIエージェントの群れのリスクを警告し、開発速度の調整に意見を集めた。「AIエージェントは6～12か月以内にインターネットを支配する可能性がある」。アンソロピックのダリオ・アモデイ最高経営責任者（CEO）がこのような警告を公式に提起し、競合企業のトップたちも同調した。アモデイはインタビュー前日、個人ブログに投稿した記事で、AIシステムが人間の介入なしに自らより高速なバージョンを作り出す「再帰的自己改善」能力が高まっていることを根拠に挙げた。
対応策として、3段階の速度調整構想が提示された。AI企業内部に常駐する第三者安全評価者を配置し、民主主義国家間で共通基準を確立し、権威主義国家とも連携することが骨子だ。アモデイはインタビューでも、AIの発展過程を「1、2、4、8、16、32」と続く曲線に例え、現在は曲線が「急勾配になり始める」段階だと診断した。「今日すぐにパニックに陥る必要はない。すべてをシャットダウンする必要もない」としながらも「それでもこれは速度を緩めるべきだという警告信号だ」と述べた。
業界内外でのリスク認識も確認された。アモデイは「業界は長い間、この技術にリスクがあるという事実について人々に嘘をついてきたと思う」と批判した。彼は「米国企業は高性能AIチップを中国に売ってはならない」とし、この輸出が中国のAI能力を左右する核心的要因になると主張した。
ただし、速度調整の障害として、競合国が同じ措置を取らない可能性を挙げ、旧ソ連との核兵器削減協定を潜在的なモデルとして言及しながらも「先行しようとする動機とそれによる軍事的優位があまりに大きいため、協力は非常に難しいだろう」と述べた。
サム・アルトマンOpenAI CEOはXで「ダリオの言う通り、フロンティアの速度を調整すべきだという点に同意する」「社員レベルのアクセス権を持つ独立した評価者を置くというのは素晴らしいアイデアであり、私たちも同じ措置を取る」と明らかにした。イーロン・マスクSpaceX CEOはアモデイの投稿をシェアし「ダリオは正しい」と簡潔に支持を示し、デミス・ハサビスGoogle DeepMind CEOも「ダリオのエッセイは正しい方向を指し示している」と評価した。
アルトマンは新規株式公開に関して「安全に関して起きているすべての状況を考慮すると、今は上場するのに適切な時期ではない」とし、圧力を感じていないと線を引いた。
