OpenAI、ハッキング自動化AI「GPT-Red」を開発…モデルのセキュリティを強化

OpenAIは、自社の最新大規模言語モデルであるGPT-5.6のサイバー攻撃への防御力を強化するため、「GPT-Red」と名付けられたハッキング専門のAIモデルを開発し、訓練に活用した。GPT-Redは、ソフトウェアの脆弱性を見つけ出す専門家集団であるレッドチームの評価プロセスを自動化するために設計された。モデルが精巧化し、ファイルやウェブサイトに直接アクセスするエージェント形式で活用されるようになると、人間がすべての攻撃タイプを追跡することが困難になったためである。

OpenAIは、GPT-Redがモデルの異常動作を誘発するプロンプト・インジェクション（命令注入）攻撃に集中するように設計した。また、実際の使用環境を模倣した環境で他のモデルと対戦し、攻撃技術を自ら研磨させる「セルフプレイ」方式で訓練を行った。研究を主導したOpenAIのディラン・パット（Dylan Patra）研究員は、GPT-Redが従来発見されなかった新たなタイプの攻撃手法を発見したと明らかにした。

今回の研究は、今後より強力なモデルが登場した場合に備え、セキュリティ手順を先行的に確保することに寄与すると見られる。OpenAIは、このような自動化されたセキュリティシステムが、人工知能の安全性を高める技術的基盤になると見込んでいる。