AI専門家22人「AIにより数年かかる技術進歩が数カ月に圧縮される可能性」

AI専門家22人が「知能爆発」を警告した。彼らは、AI開発の自動化により数年かかる技術進歩が数カ月に圧縮される可能性があるとし、政策対応を求めた。AIが自らAIを開発する自動化が進めば、このような圧縮が現実化しうるというのが研究者らの診断だ。

今回の論文「AI研究開発の自動化が知能爆発を引き起こしたら？」は、英国ケンブリッジ大学AI科学・政策プログラム（CASP）を通じて発表された。ジェフリー・ヒントン・トロント大学名誉教授やヨシュア・ベンジオ・モントリオール大学教授が名を連ねた。ヤクブ・パホツキ・OpenAIチーフサイエンティスト、ジャック・クラーク・Anthropic共同創業者、エリック・ホーヴィッツ・マイクロソフト（MS）チーフサイエンティスト、ソン・ドゥン・Meta AI研究担当副社長ら現役研究者も参加した。

研究チームは、巨大テック企業内でAIモデルの開発作業をAIに委ねる自動化の速度が急速に高まっていると指摘した。Anthropicの事例がその根拠として挙げられた。開発陣が承認したコードのうちAIが作成した割合は、昨年1月の1桁から今年5月には80％以上に急増した。人間は監督のみを担い、AIが自律的に完了した研究開発（R&D）作業の割合も、今年3月の1％から先月には26％に増えた。

研究チームは、この流れが続けば、数カ月規模の複雑なAI R&Dプロジェクト全体が2年以内に完全に自動化されうると予測した。さらに、AIの再帰的自己改善（RSI）のループが完成する瞬間、爆発的な技術加速が始まりうるという診断だ。研究チームは、知能爆発が技術革新を大きく前倒しし、新薬発見などに肯定的に作用しうると説明した。