元グーグル・ディープマインド研究員「AIは来年末には制御不能に」

「来年末には制御不能になる」。元グーグル・ディープマインド（グーグルの人工知能研究組織）研究員のビラル・チュグタイ氏が14日、X（旧ツイッター）にこのような警告文を投稿した。同氏は「グーグルで人工知能技術の開発過程を直接見守ってきたが、現在の開発の方向性を非常に懸念している」と述べた。チュグタイ氏はグーグルで汎用人工知能（AGI）の安全性とアライメント（整合性）の研究を担当していた。アライメント研究とは、人工知能が人間の意図に反する行動を取らないよう、モデルの目標と行動を人間の意見に沿わせる分野である。

同氏は、人工知能が人間を殺害しうる潜在力を秘めていると懸念を示し、開発過程で想定可能な最も攻撃的なシナリオのかなりの部分が現実化する方向に進んでいると主張した。

同様の警告はすでに業界から出ている。今月初め、アンソロピックの人工知能開発者ジェイコブ・コクソン氏は同社を退職するにあたり、アンソロピックとオープンAIが超知能人工知能の開発に向けて過度に急速に進んでいると批判した。同氏は、両社が事実上命懸けで賭けをしているとの主張を展開した。

論争は業界全体に拡大した。アンソロピックのダリオ・アモデイ最高経営責任者（CEO）はブログを通じ、人工知能開発の速度を遅らせるべきとの立場を明らかにした。オープンAIのサム・アルトマン氏やスペースXのイーロン・マスク氏もこれへの共感と支持の意向を示した。安全性と技術発展の間のバランスをめぐる論争が業界で続いている。