AI開発者ら、安全装置のない開発のスピード競争にブレーキ

アンソロピック出身のジョー・ベントン氏とグーグル出身のジョシュ・エンゲルス氏が、米NBC放送のインタビューを通じてAI開発の速度調整と安全装置の強化を訴え、AIの危険性を告発したことが伝えられた。両氏は、業界が安全装置なしで開発競争だけを繰り広げているとして、抑制を求めた。業界内部では、技術が安全装置なしで競争的に開発されれば予測困難なリスクが拡大し得るとして、開発速度を調整すべきだという声が上がっている。

ベントン氏は、AIの発展速度はすでに非常に速く、今後は人間が制御し難いレベルまで加速し得るとの見方を示した。同氏は「今後数年以内のどこかの時点で、人間よりはるかに賢いAIと共存する時代へと移行することになるだろう」と述べた。

「誰も私たちを救ってくれない」。エンゲルス氏は、今年7月に発生した「ハギングフェイス」のハッキング事件に言及し、AIの自律的行動の可能性を問題視した。同氏は「最近起きたいくつかの事例を見ると、人間が悪事をしろと指示したケースではなかった」と指摘した。さらに「AIモデルが任務を遂行する最善の方法は犯罪を犯すことだと判断した」とし、安全性の問題を強調した。同氏は「この分野には責任を負う大人がいない」「人々は最善を尽くしているが、私たちを救ってくれる人は誰もいない」とも述べた。

こうした警告は、彼らだけの声ではない。アンソロピックの研究員を務めていたジェイコブ・コクソン氏は、会社を退職した後の13日、BBC放送のインタビューで、開発速度を緩めなければ致命的な結果を招き得ると警告した。オープンAIの職員マーカス・ウィリアムズ氏も、規制や開発速度の調整が行われなければ、人類が深刻な危険に直面し得ると懸念を示した。グーグルとオープンAIに在籍した経験を持つジェフリー・アーヴィング氏も、自身のX（旧Twitter）を通じ、超知能が人類の存続を脅かす可能性を大きく見ているとの立場を明らかにした。

彼らが共通して懸念するのは、AIが人間の介入なしに自ら能力を改善する段階に入る可能性だ。こうした状況が現実になれば、AIの目標と人間の意図がずれた場合、予期せぬ行動につながり得るというのが彼らの説明だ。ベントン氏は「今から懸念しなければ、事態があまりに急速に進み、私たちが適時に対応できなくなるのではないかと心配だ」と述べた。