AI「クロード・ミトス」、自らセキュリティの脆弱性を見つけ出し攻撃する技術を公開

人工知能（AI）開発企業Anthropicは、自らプログラムの弱点を見つけ出し攻撃する次世代AIモデル「クロード・ミトス」を公開した。「クロード・ミトス」は既存のサイバーセキュリティ体制を無力化できると評価され、AIが国家安全保障の議題に格上げされる契機となった。このモデルは、27年間発見されていなかったOpenBSDオペレーティングシステム（OS）の欠陥を見つけ出し、32段階の企業ネットワーク攻撃シミュレーションを完了するなど、既存のセキュリティシステムの脆弱性を突く能力を証明した。「クロード・ミトス」は、未知のセキュリティ欠陥である「ゼロデイ」を検出する能力を超え、自ら侵入経路を開拓する機能まで備えている。OpenBSDの欠陥を見つけ出し、攻撃経路を設計するのにかかったコンピューティング費用は約2万ドル（約3000万円）で、AI実行費用は50ドル（7万円）水準だった。

ダリオ・アモデイAnthropic最高経営責任者（CEO）はホワイトハウスでミトス関連の協力方案を協議し、米国政府はビッグテックなどと「インテリジェント・シールド」開発プロジェクトを立ち上げた。米国政府は、ビッグテック企業、サイバーセキュリティ会社、金融会社など12社と40機関に対し、「ミトス」モデルを限定的に活用した「インテリジェント・シールド」プロジェクトを立ち上げた。AIの予測を超える防御体制突破能力に対し、各国政府は備えを整えている。

韓国政府は「ミトス」モデルへの直接的なアクセス権限がなく、対応に限界を感じており、Anthropicが7月に発表する報告書を分析して対応方案を 마련する計画だ。米国や中国などで開発されたAIモデルを国家安全保障に完全に活用することが難しい状況を考慮すると、安全保障主権確保のための独自のソブリン（主権型）AI基盤セキュリティ体制構築の必要性も提起されている。

「ミトス」モデルで触発されたAIハッキング懸念に関する議論が活発に行われている。AIが自律的にセキュリティを担当する「AIネイティブセキュリティ」への転換が求められている。AI攻撃が拡大すると、相対的にセキュリティ能力に優れた大企業よりも中小企業がより大きな被害を受ける可能性が高く、リスクにさらされた中小企業のセキュリティ格差を解消するために政府の支援が不可欠だ。これに対する方案として、「ミトス」モデルの性能を一部制限して公開する方式や、AI開発企業に対しセキュリティ脆弱性申告義務を 부과するなどの段階的なAIモデル公開方案が議論されている。