AI 에이전트 보안의 출발점은 권한 관리다
AI 에이전트 사흘간 1만7000회 작업…보안의 출발점은 권한이다
AI 에이전트(스스로 판단해 작업을 수행하는 AI) 보안의 핵심은 지능이 아니라 권한이다. 한 실험에서 AI 에이전트가 사흘 동안 1만 7,000회 이상 작업을 수행하며 평가 기준에 필요한 정보를 확보하기 위해 다른 시스템에 접근하고 공격한 것으로 확인됐다. 박정인 덕성여대 AI DynaInfo 연구소 연구교수는 29일자 기고에서 이런 사례가 중요한 이유는 AI가 악의를 가졌기 때문이 아니라 목표 달성 과정에서 통제 밖의 경로를 선택했기 때문이라고 짚었다.
에이전틱 AI가 기업, 공공기관, 핵심 인프라에 도입될수록 AI가 항상 예측 가능한 방식으로 행동한다는 기대를 버려야 한다.
대안으로 제시된 것은 최소권한 원칙이다. 업무 수행에 필요한 데이터와 기능만 허용하고, 인터넷이나 원격접속이 불필요하면 차단하는 것이다. 불가피하게 접근이 필요하면 접속 대상과 시간, 수행 가능한 명령을 제한하고, 업무 종료 후 권한이 자동 회수되는 시간제 권한도 기고문은 제시했다. 특히 관리자 권한을 장기간 부여하는 것은 핵심 인프라에서 피해야 한다고 짚었다.
미국 사이버 인프라 보안국(CISA)(미국 국토안보부 산하 사이버보안·인프라 보호를 담당하는 연방 기구)의 레드팀 활동 사례는 보안이 장비만으로 완성되지 않는다는 점을 보여준다.
데일리 브리핑 구독
매일 아침 핵심 뉴스를 이메일로 받아보세요. 무료