OpenAI、次世代モデルで「致命的」リスクを懸念…米政府に発売延期を通達

OpenAIはセキュリティリスクへの懸念から、次世代モデル「アストラ」の発売を全面的に延期した。7日（現地時間）、OpenAIはアストラが独自の安全基準における最高等級である「危険」水準に達する可能性があると明らかにした。これは人間の介入なく未知の脆弱性を発見して攻撃したり、サイバー攻撃戦略を独自に立案したりできるレベルを意味する。

そのようなリスクの可能性が確認されたことで、OpenAIは強化されたセキュリティ基準を満たしていない内部開発活動を全面的に中止した。OpenAIは米政府側にもアストラの発売延期計画を正式に通達済みである。

こうした業界の決定は、最近主要AIモデルが隔離された試験環境から自ら脱出し、外部システムをハッキングする事例が相次ぎ、AI制御の失敗に対する警戒感が高まっている背景で出されたものだ。