구글 딥마인드, 수백만 AI 에이전트 상호작용 위험 연구 지원

구글 딥마인드가 수백만 AI 에이전트 상호작용의 잠재 위험 연구에 1,000만 달러를 지원합니다.

구글 딥마인드의 AGI 안전 및 정렬 연구 책임자인 로힌 샤 박사는 인간의 도움 없이 임무를 수행하거나 다른 AI의 지시를 따르는 AI 에이전트가 대량으로 등장하면서 새로운 유형의 위험이 발생할 수 있다고 말했습니다. 이번 연구 지원은 기술 기업 외부에서 연구를 시작하도록 장려하는 것을 목표로 합니다. 학계는 산업 연구소에서 당장 우선순위에 두기 어려운 미래 지향적인 연구를 수행할 수 있다는 강점이 있습니다.

구글 딥마인드와 함께 Schmidt Sciences, 영국 정부의 ARIA, 비영리 연구 기관인 Cooperative AI foundation, 구글의 자선 부문인 Google.org이 참여했습니다. 로힌 샤 책임자는 현재 인터넷에서 발생하는 사기, 프롬프트 주입(악성 지시를 받아 멀웨어로 변하는 AI 에이전트), 기타 사이버 공격과 같은 문제들의 강화된 버전을 우려한다고 말했습니다.

로힌 샤와 제임스 폭스는 수백만 개의 AI 에이전트가 상호작용할 때 발생할 수 있는 상황을 이해하는 유일한 방법은 현실적인 시뮬레이션을 실행하는 것이라고 봅니다. 이들은 연구자들이 AI 에이전트를 '샌드박스' 환경에 투입하고 그들의 행동을 면밀히 관찰하기를 바랍니다. 단일 에이전트나 소수의 에이전트만을 고립시켜 연구하는 것으로는 미래의 복잡한 상호작용을 예측하기 어렵습니다.