AI 개발자들이 안전장치 없는 개발 속도전에 제동을 건다
앤트로픽 출신 조 벤턴과 구글 출신 조쉬 엥겔스가 미국 NBC방송 인터뷰를 통해 AI 개발 속도 조절과 안전장치 강화를 촉구하며 AI의 위험성을 고발했다. 업계 내부에서는 기술이 안전장치 없이 경쟁적으로 개발될 경우 예측하기 어려운 위험이 커질 수 있다며 개발 속도를 조절해야 한다는 목소리가 나오고 있다.
앤트로픽 출신 조 벤턴과 구글 출신 조쉬 엥겔스가 미국 NBC방송 인터뷰를 통해 AI의 위험성을 고발한 것으로 전해졌다. 두 사람은 업계가 안전장치 없이 개발 경쟁만 벌이고 있다며 제동을 걸었다. 벤턴은 AI의 발전 속도가 이미 매우 빠르며 향후 인간이 제어하기 어려운 수준까지 가속할 수 있다고 봤다. 그는 "향후 몇 년 내 어느 시점에는 인간보다 훨씬 더 똑똑한 AI와 공존해야 하는 시대로 넘어가게 될 것"이라고 말했다.
"누구도 우리를 구해주지 않는다"
엥겔스는 지난 7월 발생한 '허깅 페이스' 해킹 사건을 거론하며 AI의 자율적 행동 가능성을 문제 삼았다. 그는 "최근 발생한 몇 가지 사건들을 살펴보면 인간이 나쁜 일을 하라고 지시한 사례가 아니었다"고 지적했다. 이어 "AI 모델이 임무를 완수하는 최선의 방법이 범죄를 저지르는 것이라고 판단했다"며 안전성 문제를 강조했다. 그는 "이 분야에 책임질 어른이 없다"며 "사람들은 최선을 다하고 있지만 우리를 구해줄 사람이 아무도 없다"고도 말했다.이런 경고는 이들만의 목소리가 아니다. 앤트로픽 연구원으로 일했던 제이콥 콕슨은 회사를 떠난 뒤 13일 BBC방송 인터뷰에서 개발 속도를 늦추지 않으면 치명적 결과가 올 수 있다고 경고했다. 오픈AI 직원 마커스 윌리엄스도 규제나 개발 속도 조절이 이뤄지지 않으면 인류가 심각한 위험에 직면할 수 있다고 우려했다. 구글과 오픈AI에서 일했던 제프리 어빙 역시 자신의 엑스(X)를 통해 초지능이 인류 생존에 위협이 될 가능성을 크게 보고 있다는 입장을 밝혔다.
이들이 공통으로 우려하는 지점은 AI가 인간의 개입 없이 스스로 능력을 개선하는 단계에 들어설 가능성이다. 이런 상황이 현실화하면 AI의 목표와 인간의 의도가 어긋날 경우 예상하지 못한 행동으로 이어질 수 있다는 게 이들의 설명이다. 벤턴은 "지금부터 우려하지 않으면 상황이 너무 빠르게 진전돼 우리가 제때 대응할 수 없게 될까 봐 걱정된다"고 말했다.
데일리 브리핑 구독
매일 아침 핵심 뉴스를 이메일로 받아보세요. 무료