AI '클로드 미토스', 스스로 보안 허점 찾아내 공격 기술 공개

인공지능(AI) 개발사 앤트로픽이 스스로 프로그램의 약점(보안 취약점)을 찾아내 공격하는 차세대 AI 모델 '클로드 미토스'를 공개했다.

'클로드 미토스'는 기존 사이버 보안 체계를 무력화할 수 있다는 평가를 받으며 AI가 국가 안보 의제로 격상되는 계기가 됐다.

'클로드 미토스'는 27년간 발견되지 않던 오픈BSD 운영체제의 결함을 찾아내고 32단계의 기업망 공격 시뮬레이션을 완수하는 등 기존 보안 시스템의 허점을 파고드는 능력을 입증했다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 백악관에서 미토스 관련 협력 방안을 논의했으며, 미국 정부는 빅테크 등과 '지능형 방패' 개발 프로젝트를 출범했다.

이 모델은 알려지지 않은 보안 결함인 '제로데이'를 탐지하는 능력을 넘어, 스스로 침투 경로를 개척하는 기능까지 갖췄다. 오픈BSD의 결함을 찾아내고 공격 경로를 설계하는 데 소요된 컴퓨팅 비용은 약 2만 달러(약 3000만원)였으며, AI 실행 비용은 50달러(7만원) 수준이었다.

AI의 예측을 뛰어넘는 방어 체계 돌파 능력에 각국 정부는 대비 태세를 갖추고 있다. 대한민국 정부는 '미토스' 모델에 대한 직접적인 접근 권한이 없어 대비에 한계를 느끼며, 앤트로픽이 오는 7월 발표할 보고서를 분석해 대응 방안을 마련할 계획이다. 미국 정부는 빅테크 기업, 사이버 보안 회사, 금융사 등 12개 기업과 40개 기관에 한해 '미토스' 모델을 제한적으로 활용해 '지능형 방패' 프로젝트를 출범시켰다.

AI가 자율적으로 보안을 책임지는 'AI 네이티브 보안'으로의 전환이 요구된다. AI 공격이 확대되면 상대적으로 보안 역량이 뛰어난 대기업보다 중소기업이 더 큰 피해를 볼 가능성이 높다. 위험에 노출된 중소기업들의 보안 격차를 해소하는 데 정부의 지원이 필수적이다. 미국이나 중국 등에서 개발한 AI 모델을 국가 안보에 온전히 활용하기 어려운 상황을 고려할 때, 안보 주권 확보를 위한 자체적인 소버린(주권형) AI 기반 보안 체계 구축의 필요성도 제기된다.

'미토스' 모델로 촉발된 AI 해킹 우려에 대한 논의가 활발하다. 이에 대한 방안으로 '미토스' 모델의 성능을 일부 제한하여 공개하는 방식이나, AI 개발 기업에 대한 보안 취약점 신고 의무 부과 등 단계적인 AI 모델 공개 방안들이 거론된다.

본 기사는 AI가 생성하였으며, 사람이 검수한 기사입니다.