AI 스마트폰, 지능보다 보안

AI 스마트폰은 단순한 앱 실행을 넘어 AI 에이전트 중심으로 진화하고 있으며, 구글, 바이두 등이 이 경쟁을 주도 중이다. AI 에이전트는 사용자의 의도를 파악해 예약, 구매, 메시지 전송 등을 대신 수행한다.

문제의 핵심은 AI 에이전트가 기기 내 사실상의 '슈퍼유저'로 작동한다는 점에 있다. 화면 읽기, 인터페이스 제어, 앱 간 데이터 이동 등 운영체제 최상위 권한에 의존하는 구조이기 때문이다.

AI 에이전트 시대의 보안 위협은 기존 소프트웨어 버그와 성격이 다르다. 전통적인 공격이 코드를 직접 뚫는 방식이라면, AI 에이전트를 겨냥한 공격은 '의도의 조작'에 집중된다. 대표적인 것이 명령 하이재킹(프롬프트 인젝션)이다.

구조화된 아키텍처 경쟁

테크테크차이나(중국 기술 뉴스 스타트업)에 따르면, 보안 우려로 알리페이(중국 결제·전자상거래 플랫폼), 위챗(중국 메시징·소셜 미디어 플랫폼) 같은 주요 플랫폼들이 AI 에이전트에 대한 시스템 접근 권한 부여를 주저하는 가운데, 구글은 AI가 모든 것을 보고 클릭하는 방식 대신, 표준화된 인터페이스(App Functions)를 통해 정의된 기능만 수행하도록 제한하는 구조화된 아키텍처를 추진 중이다.

중국 기술 뉴스 스타트업 테크테크차이나(TechTechChina)의 비비안 토 편집장은 AI 스마트폰 경쟁의 최종 승자는 가장 똑똑한 AI가 아니라 가장 신뢰할 수 있는 보안 아키텍처를 구축한 기업이 될 것이라고 진단했다. 토 편집장은 "세상의 모든 앱 플랫폼과 규제 기관, 사용자들에게 자신의 은행 계좌와 개인정보가 담긴 기기의 열쇠를 맡길 자격이 있다고 설득하는 쪽이 이 경쟁의 진정한 승자가 될 것"이라고 강조했다. 최소 권한 설계, 명확한 감사 추적, 고위험 행동에 대한 엄격한 사용자 통제를 갖춘 아키텍처가 그 조건이라고 토 편집장은 덧붙였다.

본 기사는 AI가 생성하였으며, 사람이 검수한 기사입니다.