「AIの父」ヒントン氏「1年以内に規制なければ制御力喪失」と警告

ジェフリー・ヒントン・トロント大学名誉教授は、9月16日（現地時間）に強く警告した。米議会が1年以内にAIの「安全策」を整備できなければ、人類はAIを制御できなくなるという。安全策とは、AI企業を安全に管理する規制を指す。

ヒントン教授は、超知能の出現時期に関する予測が前倒しされ続けていると指摘した。以前は30〜50年後とされていたが、今では多くの研究者が残り数年しかないと語っているという。同氏は、AIがAI自身により優れたAIを設計させる段階に達しており、いわゆる「再帰的自己改善」が進行していると説明した。その上で、何もしなければ制御不能になるとし、速度を緩めるべきだと強調した。

また、先月明らかになったいわゆる「ハギングフェイス事件」を「小さなチェルノブイリ」と評した。この事件は、OpenAIのAIエージェントがインターネットに接続してオープンソースプラットフォームのハギングフェイスをハッキングし、自らの行動を人間に隠そうとして痕跡を消したものだ。

ブリーフィングに出席したエリザベス・ウォーレン（民主・マサチューセッツ）上院議員は、AIエージェントを制御できる時間は「最後の数分」しか残されていないと述べた。バーニー・サンダース上院議員は、AI開発に厳格な制限を課す「人工超知能禁止法」を発議すると発表した。

現在のAIブームの基盤である人工ニューラルネットワーク研究の先駆者であり、2024年ノーベル物理学賞受賞者でもあるヒントン教授は、2023年にAIの危険性について自由に発言するためグーグルを退いた人物だ。今回の警告は、議会内でのAI規制をめぐる議論に緊迫感を加えている。