iPhoneのApple Intelligenceにセキュリティ上の欠陥

iPhoneのApple Intelligenceに深刻なセキュリティ上の欠陥が発見された。隠しプロンプト攻撃に対して脆弱であることが、最新の研究結果で明らかになった。

RSAC Researchの研究員は、100回のテスト中76%の成功率で、隠しプロンプト、敵対的プロンプト、ユニコードトリックを用いてApple Intelligenceを操作する方法を発見した。これは、従来のプライバシー保護メッセージの再点検を要求するものだ。

この攻撃は、ユーザーのiPhoneを盗んだりパスワードを解除したりすることなく、AIがユーザーの意図とは異なる特定のタスクを実行するように欺く、巧妙に作成されたテキストを通じて開始されうる。これは、AIがアプリを読み取り、要約、修正、あるいは行動する際に悪用される可能性がある。

RSACの研究チームは、Appleのオペレーティングシステムに組み込まれたデバイス内大規模言語モデルをテストした。これは、サードパーティ製アプリがシステムツールやAPIを通じてApple Intelligenceにアクセスできるため重要である。

攻撃には2つの主要な技術が使用された。一つは、モデルを混乱させて特定の応答を誘発するように設計された特殊な形式のプロンプトを使用すること。もう一つは、ユニコードの右から左への上書き機能を悪用することである。

研究者たちが2025年10月15日にAppleにその事実を公開した後、AppleはiOS 17.5およびmacOS 14.5のアップデートを通じて保護機能を強化した。