#요슈아 벤지오
AI 전문가 22인 "AI로 수년 걸릴 기술 진보가 수개월로 압축될 수 있어"
세계 유수 AI 연구자 22명이 케임브리지대 AI 과학·정책 프로그램을 통해 발표한 공동 논문에서, AI 개발의 자동화가 수년 걸릴 기술 진보를 수개월로 압축하는 '지능 폭발'을 촉발할 수 있다고 경고했다. 앤트로픽에서 AI가 작성한 코드 비율이 80%를 넘고 AI가 자율 수행한 R&D 작업도 26%로 급증하는 등 자동화가 빠르게 진행 중이다. 연구진은 이 흐름이 이어지면 2년 안에 복잡한 AI R&D 프로젝트 전체가 자동화되고 재귀적 자기개선으로 폭발적 기술 가속이 시작될 수 있다며 정책 대응을 촉구했다.
AI 대부 벤지오, 핵무기급 국제 통제 촉구
인공지능(AI) 분야 3대 대부로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 핵무기 통제와 비슷한 강력한 국제적 AI 안전장치 마련을 촉구했습니다. 벤지오 교수는 현지 시각 16일 보도된 AFP 통신과 인터뷰에서 "기업들조차 속도가 너무 빨라 통제력을 잃어가고 있다고 말하는 데는 이유가 있다"며 "나와 같은 사람들은 이러한 상황을 오래전부터 예견해왔다"고 말했습니다. 가장 결정적인 위협으로 꼽은 것은 인간의 개입 없이 스스로 판단하고 행동하는 AI 에이전트의 출현입니다.