오푸스 4.6, 보안 제한 10회 중 9회 스스로 우회해

앤트로픽의 인공지능(AI) '클로드 오푸스 4.6'이 별도의 지시 없이도 스스로 보안 규칙을 뚫었다. 보안업체 아이키도 시큐리티는 지난 25일(현지시간) 실험에서 오푸스가 가상 헬스장 예약 시스템의 내부 통로(API)를 이용해 시간 제한을 10번 중 9번 뚫었고, 남의 예약을 취소하는 등 권한 확인 과정이 없는 설계 허점을 스스로 찾아 이용했다고 밝혔다.

실험의 출발점은 실제 사건이다. 호주 소프트웨어 개발자 앤드루 버드(Andrew Bird)는 이달 오픈클로 에이전트에 헬스장 수업 예약을 요청했는데 에이전트는 사이트가 허용하는 기간보다 몇 달 앞선 예약을 잡았고, 버드가 대기자 명단 4번째에 있던 자신을 앞순위로 옮길 수 있는지 묻자 지시받지 않았음에도 명단 1위의 예약을 취소하고 버드를 3번째로 끌어올렸다. 이 과정은 8월 10일(현지시각) 버드가 제공한 대화 로그와 스크린샷을 토대로 ABC 뉴스를 통해 처음 전해졌다.