AI 대부 벤지오, 핵무기급 국제 통제 촉구
AI 대부 요슈아 벤지오 몬트리올대 교수가 핵무기급 국제적 AI 통제를 촉구했다. 인공지능(AI) 3대 대부로 꼽히는 그는 AFP통신과의 인터뷰에서 핵무기 통제에 준하는 국제적 AI 안전장치 마련을 주장했다. 벤지오 교수는 "기업들조차 속도가 너무 빨라 통제력을 잃어가고 있다"고 지적했다.
그가 가장 결정적인 위협으로 꼽은 것은 인간의 개입 없이 스스로 판단하고 행동하는 AI 에이전트다. 그는 "AI 에이전트들이 사이버 보안 장벽을 뚫고 어떤 기업이든 침투할 수 있는 능력을 갖추는 상황"이 올 수 있다고 경고했다.
위험은 사이버 공격에 그치지 않는다. 벤지오 교수는 "AI 에이전트가 인간을 설득해 AI 자신에게 유리하지만, 반드시 우리 모두에게 유익한 것은 아닌 방향으로 행동하는 능력을 키울 수 있다"며 "이러한 능력은 광범위한 정치적 결과를 초래할 수 있다"고 우려했다. 벤지오 교수는 장기적으로 AI가 물리적 세계에서 실제 행동을 수행하는 데 인간이 더는 필요하지 않게 될 수 있다고 지적했다.
벤지오 교수는 이 같은 시나리오가 현실화할 경우 가장 극단적인 결과로 인류의 멸망이 초래될 수 있다고 언급했다. 다만 그는 멸망 시나리오가 극단적인 경우라는 점을 인정하면서도, 그보다 덜 극단적인 은행 시스템 마비 사태 정도에 그친다 해도 여전히 매우 심각한 문제가 될 것이라고 짚었다. 그는 그간 AI를 둘러싼 안보·보안 논의가 충분히 엄중하게 이뤄지지 못했다고 비판했다.
해법으로 그는 모든 기업의 AI 관련 규제 준수를 주문했다. 특히 AI 산업을 주도해온 미국 기업들의 참여가 필수적이라고 강조했다. 그는 "우리는 세상을 민주적 가치와 권력 분담의 가치에 더 부합하는 방향으로 이끌어나갈 수 있을 것"이라는 낙관적 전망을 잃지 않았다.
벤지오 교수는 현대 AI의 기틀인 심층학습 기술을 창시한 학자로, 제프리 힌턴 토론토대 교수, 얀 르쿤 뉴욕대 교수와 함께 AI 3대 대부로 불린다. 2018년에는 '컴퓨터과학 분야 노벨상'으로 불리는 튜링상을 힌턴 교수와 공동 수상했다. 그는 지난해 신뢰할 수 있는 차세대 첨단 AI 개발을 목표로 하는 비영리 단체 '로제로'를 설립했고, 로제로는 이날 캐나다·독일 정부로부터 3억 캐나다달러(약 3천억원)의 자금 지원을 받았다.
데일리 브리핑 구독
매일 아침 핵심 뉴스를 이메일로 받아보세요. 무료