AI業界の注目を集める主張、インターネットエージェントの問題を指摘

AIスタートアップGoodfireの研究員ニック・カマラタ氏が約2万6000語に及ぶブログ記事を公開し、AI業界の注目を集めている。記事は「神経網(AIを構成する学習構造)の本質に関して良い知らせがあるようだ」という一文で始まる。カマラタ氏はこの記事で、LLM(大規模言語モデル)はこれまで考えられていたよりも理解しやすく、モニタリングや制御も容易になり得ると主張した。記事が話題となった翌日、同氏はMITテクノロジーレビューとの単独インタビューで、研究者らがどこを誤って見ているのか、自身の研究が実際に何を示しているのか、懐疑論者がなお歓迎しない理由について直接説明した。同じニュースレターは、AIエージェントがインターネットを変えているという問題にも触れた。

これまでインターネットの利用者はボットと人の2つに分かれていたが、航空券やホテルの予約といったオンライン作業を代行する個人向けAIエージェントが、この構図を崩しつつある。人間中心に設計されたインターネットでこうしたエージェントが人間の訪問者と混ざり合うなかで問題が相次ぎ、多くのウェブサイトがAIエージェントの遮断に乗り出した。そんななか、米陸軍がAIエージェントを使って敵をハッキングしようと試みているという報道も伝えられた。関係文書には、ソフトウェアが標的を特定し無力化する計画が盛り込まれており、専門家は意図しないシステムが被害を受ける可能性があると警告した。カマラタ氏は、自身の主張が事実として確認されれば、AIのモニタリングと制御の方法に大きな転換が可能になり得ると述べた。