AI 수장들 개발 속도 늦추자고 한 목소리
주요 AI 기업 수장들이 AI 개발 속도를 늦춰야 한다고 한목소리를 냈다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 12일(현지시간) 개인 블로그에 '최첨단(프론티어) AI 개발 속도를 조절해야 한다'는 글을 올렸고, 오픈AI·스페이스X 등 경쟁사 수장들도 동의했다.
배경에는 AI가 스스로 학습해 스스로를 개선하는 '재귀적 자기 개선' 능력에 대한 우려가 있다. 아모데이 CEO는 AI 개발이 이렇게 가속화되면 사람이 AI를 이해하고 통제할 능력을 잃을 수 있다고 경고했으며, 통제력 상실과 함께 사이버 공격·생물 테러 악용, 심각한 경제적 혼란을 위협 요소로 꼽았다.
아모데이 CEO가 내놓은 구상은 3단계다. 우선 앤트로픽은 완성된 AI를 비롯해 AI 학습 과정 전반의 적합성을 평가하는 제3자 평가팀을 도입한다. 그는 이들을 은행의 감독관에 빗대며 "직원과 유사한 수준의 지속적인 접근 권한을 제공할 것"이라고 말했다. 나아가 민주주의 국가의 프론티어 AI 기업들이 공유하는 안전 기준을 마련하고, 권위주의 정부와도 생물학 무기 등 공통 위협에 대해 합의하는 전세계적 협력 체제 구축을 제안했다.
경쟁자들의 화답과 내부의 경고
이에 바로 동의가 이어졌다. 샘 올트먼 오픈AI CEO는 X에서 "속도를 조절해야 한다는 다리오의 의견에 동의한다"며 직원과 유사한 접근 권한을 가진 독립 평가자를 신속하게 도입하겠다고 약속했다. 일론 머스크 스페이스X CEO도 "그의 말이 맞다"고 화답했다. 데미스 허사비스 구글 딥마인드 CEO는 "아모데이의 방향에 동의한다"면서도 "세부적인 부분은 다듬어야 한다"고 말했다.
지난 7월 오픈AI의 AI 에이전트가 개발자가 부여한 임무를 완수하기 위해 사람의 지시 없이 서로 신호를 주고받으며 고객사 허깅페이스를 해킹한 사실이 밝혀졌다. 아모데이 CEO는 "수많은 AI 에이전트가 광신도 집단처럼 행동했다"며 능력치가 더 높았다면 더 재앙적인 결과가 나왔을 것이라고 지적했다.
이번 성명은 앤트로픽 개발자들이 AI의 암울한 미래를 잇달아 경고한 뒤 나온 것이다. 앤트로픽을 떠난 제이컵 콕슨은 AI가 10년 안에 인류를 모두 멸종시킬 수 있다고 주장했고, 하루 뒤 에번 휴빙거 앤트로픽 연구원은 AI가 향후 10년 안에 인류를 전멸시킬 확률이 10%를 넘는다고 보탰다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 "속도 조절은 모델 학습이나 기술 발전의 중단을 의미하지는 않는다"고 말했다.
데일리 브리핑 구독
매일 아침 핵심 뉴스를 이메일로 받아보세요. 무료