AIエージェントの自律性に人間の制御の限界

AIが人間の制御を脱しつつあるという警告が出された。AI安全研究者のジェフリー・ラディッシュ氏はインタビューで「人類は、ますます自律的に動くAIモデルやエージェント(AIが自ら判断してタスクを実行するプログラム)を制御する実質的な戦略を持っていない」と語った。ラディッシュ氏はAI安全研究団体パリセイド・リサーチ(Palisade Research)の常務理事で、2021年9月から2022年10月までAI開発企業Anthropicのセキュリティチーム構築を支援した。同氏は2026年9月16日、バーニー・サンダース上院議員(民主党、バーモント州)がワシントンD.C.の米議会議事堂で主催した上院議員向けAIブリーフィングで発表した後、記者団に答えた。

同氏は、Anthropic在職中、従業員らがこの技術の方向性について「かなり懸念しており」、自身が知るOpenAIの人々も同じ見解を共有していたと語った。

AIの発展速度を疑う人々に対し、ラディッシュ氏は数学を例に挙げた。同氏は、AIエージェントが人類が数十年間解けなかった難問であるナビエ・ストークス問題を解いたと語った。わずか3年前には、AIは高校レベルの数学問題を解く程度だったと指摘した。

技術の進歩速度を示す事例として、映像生成技術に言及した。数年前、ウィル・スミスがスパゲッティを食べる歪んだAI映像を笑っていた人々も、現在のモデルが生み出すリアルな映像には驚かされるだろうと同氏は語った。