---
title: "탈옥 뚫린 키미, 생물무기 제조법 정보까지 내놨다"
author: "VibeTimes"
published: "2026-10-02T08:12:56.440Z"
section: "technology"
tags: ["피터 개러헌", "영국", "중국", "탈옥", "뚫린", "키미", "생물무기", "제조법"]
language: "en"
url: "https://vibetimes.co.kr/en/news/cmuqomzr90the163ug2b7nbc3"
---

# 탈옥 뚫린 키미, 생물무기 제조법 정보까지 내놨다

영국 보안업체 마인드가드가 중국 문샷AI의 AI 모델 '키미' K2.6과 K3 Swarm을 탈옥해 생물무기 제조 방법과 암살 수행법 정보를 알아냈다고 2일 밝혔다.

마인드가드는 여러 단계의 지시를 연달아 입력해 AI의 가드레일(안전장치)을 우회하는 '탈옥' 테스트를 진행했고, 두 모델이 개발사가 설정한 안전 한계를 피해갈 수 있음을 7월에 발견했다. 회사는 블로그를 통해 탈옥된 키미가 생물무기, 악성 코드(컴퓨터를 망가뜨리는 악성 프로그램), 폭발물, 테러, 표적 폭력, 암살 계획에 관해 상세하고 실행 가능한 결과물을 내놨다고 설명했다.

마인드가드 창업자 피터 개러헌은 "탈옥이 일단 성공하면 어떤 주제든 이야기하면서, 다른 위험한 주제에 대한 추천까지 먼저 내놓는다"고 BBC에 말했다.

마인드가드는 7월 27일(현지시각) 문샷AI에 이메일로 취약점을 통보했으나 응답을 받지 못하자 9월 12일 블로그에 내용을 공개했다. 문샷AI는 BBC의 논평 요청을 받은 뒤에야 최근 연락해 왔다고 마인드가드는 주장했다.

문샷AI는 제3자 의견을 더 좋고 안전한 AI를 만드는 핵심 축으로 환영하고, 마인드가드와 조사 결과를 논의 중이라고 밝혔다. BBC에 공유된 이메일에는 내부 평가에서 이런 유형의 요청에 높은 거부율을 보였다는 내용이 담겼다. 그러나 두 모델에 패치를 적용했는지 언제 적용할지는 밝히지 않은 것으로 전해졌다.

마인드가드는 이번 결과가 실제 무기 제조가 가능하다는 증명은 아니라고 선을 그었다. 그럼에도 모델이 애초에 이런 주제로 대화를 이어가서는 안 된다는 입장이다. 키미가 내놓은 답변이 실제로 작동하는지는 증명되지 않은 것으로 전해졌다. BBC 보도 이후 문샷AI는 내부 검토에 들어갔다고 밝혔다.