오픈AI, 해킹 자동화 AI 'GPT레드' 개발…모델 보안 강화

오픈AI는 자사의 최신 대규모 언어모델인 GPT-5.6의 사이버 공격 방어력을 강화하기 위해 GPT레드라는 이름의 해킹 전문 인공지능 모델을 개발해 훈련에 활용했다.

GPT레드는 소프트웨어의 취약점을 찾아내는 전문가 집단인 레드 팀의 평가 과정을 자동화하기 위해 고안됐다. 모델이 정교해지고 파일이나 웹사이트에 직접 접근하는 에이전트 형태로 활용되면서, 사람이 모든 공격 유형을 추격하기 어려워졌기 때문이다. 오픈AI는 GPT레드가 모델의 비정상적인 동작을 유도하는 프롬프트 인젝션(명령어 주입) 공격에 집중하도록 설계했으며, 실제 사용 환경을 모방한 환경에서 다른 모델과 대결하며 공격 기술을 스스로 연마하는 셀프 플레이 방식으로 훈련했다.

연구를 주도한 딜런 훈 오픈AI 연구원은 GPT레드가 기존에 발견되지 않았던 새로운 유형의 공격 방식을 발견했다고 밝혔다. 이번 연구는 향후 더 강력한 모델이 등장할 경우를 대비해 보안 절차를 선제적으로 확보하는 데 기여할 것으로 보인다. 오픈AI는 이러한 자동화된 보안 시스템이 인공지능의 안전성을 높이는 기술적 토대가 될 것으로 전망하고 있다.