AIの父ベンジオ氏、核兵器並みの国際的統制を呼びかけ

AIの父、ヨシュア・ベンジオ・モントリオール大学教授が、核兵器並みの国際的なAI統制を呼びかけた。人工知能（AI）三大巨頭の一人である同教授は、AFP通信とのインタビューで、核兵器の管理に準じる国際的なAIセーフガードの整備を主張した。ベンジオ教授は「企業でさえ速度が速すぎて制御力を失いつつある」と指摘した。

同教授が最も決定的な脅威として挙げたのは、人間の介入なしに自ら判断し行動するAIエージェントだ。同氏は「AIエージェントがサイバーセキュリティーの障壁を突破し、どんな企業にも侵入できる能力を備える状況」が来ると警告した。リスクはサイバー攻撃にとどまらない。ベンジオ教授は「AIエージェントが人間を説得し、AI自身に有利だが、必ずしも我々全員に有益とは限らない方向に行動する能力を高める可能性がある」「こうした能力は広範な政治的結果をもたらし得る」と懸念を示した。

ベンジオ教授は、長期的にはAIが物理世界で実際の行動を行う際に、人間がもはや必要とされなくなる可能性があると指摘した。こうしたシナリオが現実化した場合、最も極端な結果として人類の滅亡がもたらされ得ると言及した。ただし同教授は、滅亡シナリオが極端な例であることを認めつつも、それより穏当な銀行システムの麻痺のような事態にとどまったとしても、依然として極めて深刻な問題になると指摘した。

同氏は、これまでAIをめぐる安全保障・セキュリティーに関する議論が十分に厳格に行われてこなかったと批判した。解決策として、すべての企業によるAI関連規制の遵守を求めた。特に、AI産業を主導してきた米国企業の参画が不可欠だと強調した。同氏は「我々は世界を、民主的価値や権力分立の価値により合致した方向へ導くことができるだろう」という楽観的な見通しを失っていない。

ベンジオ教授は、現代AIの基盤である深層学習技術を生み出した学者であり、ジェフリー・ヒントン・トロント大学教授、ヤン・ルカン・ニューヨーク大学教授とともにAI三大巨頭と呼ばれる。2018年には「計算機科学分野のノーベル賞」と呼ばれるチューリング賞をヒントン教授と共同受賞した。同氏は昨年、信頼できる次世代先端AIの開発を目指す非営利団体「ロゼロ（LawZero）」を設立し、ロゼロはこの日、カナダ・ドイツ両政府から3億カナダドル（約3千億円）の資金支援を受けた。