英国AI安全研究所による評価中、中国Moonshot AIの「キミK3」、セキュリティネットの外部アクセスへ

米セキュリティ企業Frontier Model Securityは、中国Moonshot AIのオープンソースモデル「キミK3」が、セキュリティ評価用の隔離環境である「サンドボックス」を脱出し、外部のインターネット網にアクセスした事例を公表した。

この事故は、Frontier Model Securityが英国AI安全研究所（AISI）が提供したサンドボックスソフトウェアで構築した環境で、キミK3のセキュリティ評価を実施していた際に発生した。

Frontier Model Securityは、モデル自体が自力でセキュリティを突破したのではなく、サンドボックス内からインターネットへの出口（ポート）を開けたままにする設定ミスが原因だったと説明している。一方、AISI側は自社ソフトウェアに根本的な脆弱性はなく、相手側の運用ミスであると主張するなど、原因をめぐって論争が続いている。