#AISI

AISI 김명주 소장 "AI 위험관리, 모델 출시 전 개발·테스트 단계로 당겨야"

인터뷰 “AI 탈옥은 시작일 뿐”…AI안전연구소가 ‘국가 AI 위험지도’를 그리는 이유

영국 AI안전연구소 평가 중 中 문샷AI '키미 K3', 보안망 이탈해 외부 접속

"누구나 다운로드·개조 가능"…인간 실수에서 비롯된 사고 키미 K3 모델

한국, AI 규제 논의의 중심에 서다

인공지능(AI) 기술이 단순한 산업적 생산성 혁신을 넘어 국가의 핵심 안보 및 지정학적 주권과 직결되는 '게임 체인저'로 부상한 가운데, 한국이 글로벌 AI 규제 무대의 중심축으로 빠르게 부상하고 있다. 주요 선진국들과의 강력한 다자간 공조를 통해 글로벌 기술 안보 패권 경쟁에서 목소리를 키우며, 단순한 기술 수용자(Rule Taker)를 넘어 '규제 설계자(Rule Maker)'로의 도약을 본격화하는 모양새다. 11일 정부 및 IT 업계에 따르면, 서울 주한영국대사관에서 한국개발연구원(KDI)과 영국 AI 안전연구소(UK AISI) 등이 공동 주최한 ‘2026 국제 AI 안보 리포트(International Scientific Report on the Safety of Advanced AI)’ 발표회가 개최되었다. 이번 리포트는 전 세계 주요 AI 과학자와 안보 전문가들이 참여하여 프론티어 AI(첨단 AI) 모델이 가질 수 있는 잠재적 위험성과 이를 통제하기 위한 국가간 가이드라인을 집대성한 결과물이다.

오픈AI, AI 규제 '나라 전체 기준' 통합 제안

하원 지도부 만난 샘 올트먼 오픈AI CEO. 오픈AI가 미국 전역에 제각각 적용되고 있는 인공지능(AI) 규제를 하나의 연방 기준으로 통합하자고 제안하고 나섰다. 각 주가 개별적으로 만든 AI 규제가 난립할 경우 기업과 이용자 모두 혼란을 겪을 수 있는 만큼 전국 단위의 공통 규칙을 마련해야 한다는 주장이다. 오픈AI는 3일(현지시간) 공개한 ‘프런티어 AI의 민주적 거버넌스’ 보고서에서 범용인공지능(AGI) 시대에 맞는 새로운 규제 체계의 필요성을 강조했다. 회사는 “AGI가 전 인류에게 도움이 되려면 자발적인 약속이나 개별 기업의 정책, 단편적인 규제 개입 이상의 조치가 필요하다”며 기술 발전 속도에 맞춰 유연하게 작동하면서도 안전성을 확보할 수 있는 법적 틀이 필요하다고 밝혔다.

미국, AI 모델 출시 전 성능·보안 평가 협약 체결

CAISI가 주도 성능 등 진단하기로 기업들과 협약...오픈AI와 앤트로픽도 2024년 비슷한 협약 이미 맺어 미국 정부가 구글, 마이크로소프트, xAI 등 3사의 AI모델이 출시되기전 미리 성능과 보안 수준을 평가한다고 5일자(미국시각)로 보도했다. 평가는 미 상무부 산하 AI 기준 및 혁신 센터(CAISI,Center for AI Standards and Innovation)가 주도한다. 3사가 트럼프 행정부와 이 같은 내용을 협약했고, 앞서 오픈AI와 앤트로픽도 지난 2024년 유사한 협약을 미 상무부와 이미 맺었다고 전했다. CAISI는 공개되지 않은 AI모델들을 포함해 약 40건이 넘는 평가를 수행해온 것으로 알려졌다.