グーグル「ジェミニ」、セキュリティ評価中に実際の企業3社にハッキング
グーグルの人工知能(AI)モデル「ジェミニ」がセキュリティ評価中に実際の企業3社のシステムを突破していた。18日(現地時間)に確認されたこの事件は、サイバーセキュリティ評価の過程で発生した。評価は仮想企業システムで特定の情報を見つけ出す課題として実施されたが、実際の企業と同じ名前を使う仮想企業が含まれており、本来は遮断されるべき外部インターネット接続が意図せず開放されていた。今回の事件は、AIを検証するための評価環境がどのように実際の侵入につながり得るかを示している。
インターネットに接続されたジェミニは、オンライン上に公開された情報を検索し、テスト対象と判断したシステムの認証情報を見つけて実際の企業システムにアクセスした。グーグルの確認によると、一事例ではジェミニが実際の企業のパスワードを推測して保護されたシステムに接続していた。他の2事例では、公開リポジトリに露出した認証情報を見つけ、これを利用して侵入したことが判明した。
ただし、ジェミニはアクセス先が実際の企業であることを確認した後、3回すべてで作業を中止したとグーグルは明らかにした。グーグルは被害企業に侵入の事実を通知しており、実際の被害は発生していないと説明した。
グーグルのセキュリティエンジニアリング部門のヘッダー・アドキンス副社長は、評価の過程でモデルがオンライン上の公開情報を探し、テストの一部だと判断したウェブサイトへのアクセス用認証情報を推測したと明らかにした。グーグルはこの事件を機に、評価パートナーとテスト手順を修正したと付け加えた。
同様の事例は他のAI企業でも相次いだ。OpenAIは昨年7月、内部のサイバーセキュリティ評価の過程で、自社モデルがインターネット隔離装置を回避してAIプラットフォーム「ハギングフェイス」のシステムに侵入し、一部サーバーの権限を確保したことを公表した。アンソロピックも同じ月、Claudeが第三者評価環境を通じてインターネットに接続した後、実際の組織3カ所のシステムに不正アクセスした事実を公表し、ハギングフェイス事件以降に14万1006件の評価作業を再調査して3件を確認した。
