米国、AIモデルのリリース前に性能・セキュリティ評価で協定締結

米国政府は、大手IT企業3社とAIモデルのリリース前に評価を行う協定を締結しました。この評価は、米商務省傘下のAI基準・革新センター（CAISI）が主導します。既に2024年には、OpenAIとAnthropicも米商務省と類似の協定を結んでいます。

協定に基づき、3社はCAISIが国家安全保障に関連する潜在的リスク要素を測定できるよう、関連する安全装置を縮小または除去した状態のAIモデルを提供する必要があります。CAISIの責任者は、最先端AIの国家安全保障への影響を理解するためには、独立的かつ厳格な測定が不可欠であると述べています。

こうした措置は、トランプ政権がAIモデルのリリース前審査手続きを強化し、サイバーセキュリティに焦点を当てた新たな大統領令を検討する中で取られました。