米、Anthropic AIモデルの輸出規制拡大を見送り

米国政府は、AI企業Anthropicの最新モデルに対する輸出規制の拡大を見送った。米政府は以前、Anthropicの「Mythos5」および「Pebble5」モデルについて、外国人機関および個人のアクセスを制限する輸出規制指針を発表しており、Anthropicは当該指針を遵守するため、全てのユーザーのアクセスを遮断していた。

デイビッド・サックス大統領科学技術諮問委員会共同委員長は、信頼できるパートナーが安全装置回避方法を発見したと明らかにした。サックス委員長が言及した「信頼できるパートナー」はAmazonであることが判明した。アンディ・ジャシーAmazon最高経営責任者（CEO）は、同社の研究員が「Pebble5」モデルで特定のプロンプトを通じて安全装置を回避できる脆弱性を発見したと伝えた。米政府関係者はAmazonの主張を検証し、米政府の安全保障担当者は、外国人政府・企業・個人のアクセスを遮断することがリスクを解決する最も直接的な方策だと結論づけた。

Anthropicは、安全装置回避の可能性は誇張されており、OpenAIなど他のモデルでも同レベルの回避が可能だと反論したが、米政府はこれを「深刻ではない」と規定することはできないとの立場を示した。

Amazonは2023年からAnthropicに約130億ドルを投資した主要投資家であり、追加投資も約束している。Amazonは「政府が潜在的な安全保障リスクについて助言することは珍しくない」と述べた。

今回の措置はドナルド・トランプ大統領が最終承認したもので、ホワイトハウス高官は、今回の措置がモデルの安全性に関連するものであると説明した。サックス委員長は、この措置を国防総省とAnthropic間の対立と関連付けるのは誤解を招くと主張した。