家電機器で自己複製するAIウイルスに警鐘
洗濯機やテレビでAIウイルスが自らを複製しながら広がり得ると、米AI企業アンソロピックが12日(現地時間)に警告した。同社は、小規模で軽量なAIモデルでも早ければ今年末からこのような「自己複製」が可能になり得ると明らかにした。アンソロピックは現地時間12日に公開した研究報告書で、小型AIモデルがスマートオーブンや低価格Android TVボックスなどのIoT(モノのインターネット)機器で自己複製できる能力を備えるまで、数か月しか残されていない可能性があると述べた。
アンソロピックは、このように自己複製しながら広がるAIを「AIワーム(worm)」と呼び、3段階の確認実験を実施した。最初の実験では、1台約55ドル(約8千円)の低価格TVボックス15台を購入して接続し、グーグルのAIモデル「Gemma 4」を分散インストールしたところ、速度は遅かったもののAIは作動した。2つ目の実験では、AIが初めて見る機器に別のAIモデルを自らインストールして作動させられるかを検証し、パラメータ90億個の小型モデルでも、試験した機器9種のうち8種で成功した。最後の実験では、仮想機器8台で試験ネットワークを構築し、最初の機器に仕込んだAIが他の機器を探索して侵入し、AIをインストールして作動させる過程を自ら繰り返すようにした。5回の試験で、中国ズフーAIの「GLM-5.2」は4回で8台すべてに、1回では7台まで移動することに成功した。
このような方法で広がるAIは多数の機器に分散して作動するため、サーバー数か所を停止すれば済む通常のAIサービスと異なり、一括して遮断する中枢拠点がなく、停止させることが困難だとアンソロピックは説明している。同社は、複数種類のAIが多様な機器と複製方式を組み合わせて使う「群れ」型の形態をリスクシナリオとして挙げた。アンソロピックは、現時点で完全な自己複製AIは存在せず、複製の拡散速度も遅いと認めている。
同じ日、アンソロピックの共同創業者で公益部門責任者のジャック・クラーク氏は、ニュースレター「Import AI」で、完全な再帰的自己改善(RSI)が来年にも可能になる可能性がより高いとし、予想時期を従来の2028年から1年前倒しした。同氏は「以前は2028年の可能性がより高いと考えていた」と述べた。
