AI 에이전트 자율성에 인간 통제 한계 왔다

AI 안전 전문가가 AI 에이전트의 자율성이 인간의 통제 범위를 넘어서고 있다고 경고했다. 제프리 라디시는 인터뷰에서 "인류가 점점 더 자율적으로 움직이는 AI 모델과 에이전트(AI가 스스로 판단해 작업을 수행하는 프로그램)를 통제할 실질적인 전략을 갖고 있지 않다"고 말했다. 그는 AI 안전 연구단체 팔리세이드 리서치 상임이사로, 앤스로픽(미국의 AI 스타트업, 2021년 설립) 보안팀 구축을 도운 경력이 있다.

라디시는 2026년 9월 16일 버니 샌더스(무소속, 버몬트) 상원의원이 워싱턴 D.C. 미국 국회의사당에서 주최한 상원의원 대상 AI 브리핑에서 발표한 뒤 기자들에게 답변했다. 그는 Anthropic 재직 당시 직원들이 기술의 방향에 대해 '상당히 우려하고' 있었으며, 자신이 아는 OpenAI 사람들도 같은 견해를 공유했다고 말했다. AI의 발전 속도를 의심하는 이들에게 라디시는 수학을 예로 들었다. 그는 AI 에이전트가 인류가 수십 년간 풀지 못한 난제인 나비에-스톡스 문제를 풀었다고 말했다. 그는 불과 3년 전만 해도 AI는 고등학교 수준의 수학 문제를 풀던 수준이었다고 지적했다.

기술 발전 속도를 보여주는 사례로 그는 영상 생성 기술을 언급했다. 몇 년 전 윌 스미스가 스파게티를 먹는 왜곡된 AI 영상을 비웃던 사람들이 현재 모델들이 만들어내는 사실적인 영상에 놀랄 수 있다고 그는 말했다.