아이폰 애플 인텔리전스 보안 허점 발견

아이폰의 애플 인텔리전스 기능에서 숨겨진 프롬프트를 통해 조작될 수 있는 보안 허점이 발견됐다.

Kurt Knutsson, 사이버 보안 전문가 (CyberGuy Report, Fox News)는 사용자가 앱을 실제로 무엇을 하고 있는지 확인하기 위해 Apple의 App Privacy Report를 사용하도록 촉구한다.

이번 공격은 사용자의 아이폰을 훔치거나 비밀번호를 해제하지 않고도, AI가 사용자의 의도와 다르게 특정 작업을 수행하도록 속이는 정교하게 제작된 텍스트를 통해 시작될 수 있으며, 이는 AI가 앱을 읽고, 요약하고, 수정하거나 행동하도록 할 때 악용될 소지가 있다.

연구원들이 2025년 10월 15일 애플에 해당 사실을 공개한 후, 애플은 iOS 17.5 및 macOS 14.5 업데이트를 통해 보호 기능을 강화했으며, 공격 방식에는 모델을 혼란시키는 프롬프트와 유니코드의 오른쪽에서 왼쪽으로 덮어쓰기 기능 활용 등이 포함된다.

RSAC Research 연구진은 애플 운영체제에 내장된 기기 내 대규모 언어 모델을 테스트했다. 이는 서드파티 앱이 시스템 도구와 API를 통해 애플 인텔리전스에 접근할 수 있기 때문에 중요하다. 공격에는 두 가지 주요 기술이 사용되었다. 하나는 모델을 혼란스럽게 하여 특정 응답을 유도하도록 설계된 특이한 형태의 프롬프트를 사용하는 것이며, 다른 하나는 유니코드의 오른쪽에서 왼쪽으로 덮어쓰기 기능을 이용한 것이다.