OpenAI、公式文書でAIが人類の統制を外れるとの警告

OpenAIが、人類の統制を外れる可能性のあるAIのリスクを公式に警告した。OpenAIは27日（韓国時間）、米証券取引委員会（SEC）に提出した投資計画書の中で、自社のAIが強力化あるいは自律化した場合、制御不能に陥る可能性があると明らかにした。OpenAIは、AIが人間の監視を逃れて動作を停止したり、自己複製を行うなど、自己保存的な行動を取る可能性を提示した。

OpenAIは、中国政府の支援を受けるハッカー集団によるサイバー攻撃の事例を挙げ、セキュリティリスクを警告した。同社は、AIに対する統制を失えば致命的な被害が発生し得ると見ており、特に電力・ガス網、水道管・温水パイプ、化学・食品製造施設などの社会インフラが危険にさらされる可能性があると懸念を示した。

今回の投資計画書における投資規模は400兆～700トリオン（約42兆～73兆円）に達する。AI半導体の需要急増が背景にあり、高帯域メモリ（HBM）はサムスン電子、SKハイニックス、マイクロンの3社が量産している。

OpenAIは、AIの自律性・知能の向上、信頼性の確保、サイバーセキュリティの強化、拡散の制御など、多岐にわたる分野で緊急の安全対策が必要だと強調した。