#AI 통제

앤트로픽 전 연구원 "AI 통제 방법을 모른다"

뉴욕시의회 청문회에서 발언하는 제이컵 콕슨 인공지능(AI) 개발 경쟁의 위험성을 경고하며 앤트로픽을 퇴사한 연구원이 “인류가 AI에 통제권을 잃을 가능성이 더 크다”고 경고했다. 5일(현지시간) 앤트로픽 전 연구원 제이컵 콕슨은 이날 뉴욕시의회 AI 청문회에 출석해 “우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다”면서 이가이 말했다.

AI 경고 목소리가 기업가와 종교 지도자로 확산되고 있다. 빌 게이츠는 AI의 등장을 인간보다 똑똑한 외계 종족의 출현에 비유하며 안일한 대처를 경계했고, 레오 14세 교황은 AI 위협에서 눈을 감는 것은 책임 있는 태도가 아니라며 진지한 해법 모색을 촉구했다. 반면 젠슨 황 엔비디아 최고경영자는 벤플리트상 수상 자리에서 AI는 폭주하지 않는다며 안전을 위해 개발 속도를 줄여야 한다는 주장은 사실이 아니라고 반박했다.

젠슨 황 "AI는 폭주하지 않는다…소프트웨어일 뿐"

젠슨 황 엔비디아 CEO가 28일 미국 뉴욕에서 ABC뉴스와의 인터뷰에서 "AI는 폭주하지 않는다"며 AI 통제 불가 우려를 반박했다. 그는 AI가 살아있는 존재가 아닌 소프트웨어일 뿐이며 적절한 안전장치를 갖추면 통제 가능하다고 강조했다. 같은 날 그는 한미 관계 기여 공으로 밴 플리트상을 받고, 한국의 기술력과 사회적 수용성을 높이 평가하며 AI 기반으로 인구 한계를 넘어선 성과를 낼 것이라 전망했다.

트럼프 유엔총회서 AI 대신 '슈퍼지능' 쓰겠다 선언

도널드 트럼프 미국 대통령은 22일(현지시간) 유엔총회 연설에서 최근 대두된 '인공지능(AI) 속도조절론'에 대한 반대 의사를 재확인했다. 트럼프 대통령은 AI를 통제하려는 시도를 비판하면서 미국은 앞으로 AI 대신 '슈퍼지능'(Super Intelligence·SI)이라는 명칭을 쓰겠다는 뜻도 밝혔다. 트럼프 대통령은 이날 미국 뉴욕 유엔본부에서 열린 유엔총회 고위급 회기 연설에서 "미국은 AI 통제를 위해 국제적 차원의 책략을 마련하려는 어떤 시도도 완전히 거부한다"며 이같이 말했다. 그는 "산업혁명보다 더 큰 무언가의 성장을 억누르지 않을 것"이라고도 강조했다. 최근 트럼프 대통령은 AI가 통제 불가 영역으로 진입할 수 있다는 업계와 시민사회의 우려를 일축하면서 미국이 중국과의 AI 경쟁에서 우위를 유지해야 한다는 입장을 거듭 밝혀왔다.

AI 대부 벤지오, 핵무기급 국제 통제 촉구

인공지능(AI) 분야 3대 대부로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 핵무기 통제와 비슷한 강력한 국제적 AI 안전장치 마련을 촉구했습니다. 벤지오 교수는 현지 시각 16일 보도된 AFP 통신과 인터뷰에서 "기업들조차 속도가 너무 빨라 통제력을 잃어가고 있다고 말하는 데는 이유가 있다"며 "나와 같은 사람들은 이러한 상황을 오래전부터 예견해왔다"고 말했습니다. 가장 결정적인 위협으로 꼽은 것은 인간의 개입 없이 스스로 판단하고 행동하는 AI 에이전트의 출현입니다.

오픈AI, 차세대 모델 '치명적' 위험 우려…미 행정부에 출시 연기 통보

오픈AI는 인간 개입 없이 사이버 공격이 가능한 차세대 모델 '아스트라'의 개발을 중단하고 미 행정부에 출시를 연기했다. 해당 모델이 최고 등급 안전 기준에 미칠 가능성이 있다는 판단에 따라 회사는 강화된 보안 기준 충족을 우선하기로 했다.

中, 자체 AI 칩 개발...미국 통제에 맞서 기술 유출도 강력 제한

중국이 인공지능 분야에서 이른바 '기술 장성'을 쌓고 있습니다. 미국산 AI 반도체 의존을 줄이기 위해 자체칩 개발에 속도를 내는 동시에, 자국의 첨단 AI 모델이 해외로 빠져나가는 것도 제한하려는 움직임을 보이고 있습니다.

MS CEO, AI 기술 독점 현상 비판

사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)가 소수 인공지능(AI) 기업에 기술과 수익이 집중되는 현재의 AI 경쟁 구도를 비판했다. 최첨단 모델 개발사 중심의 시장에서 벗어나 더 저렴한 모델과 이용자 선택권을 확대해야 한다는 주장이다. 나델라 CEO는 21일(현지시간) 월스트리트저널(WSJ)과의 인터뷰에서 "일부 AI 기업들이 안전 위험과 일자리 감소 가능성을 경고하면서도, 정작 막대한 데이터센터와 컴퓨팅 자원을 요구하는 방식으로 사업을 키우고 있다"고 비판했다.

AI 개입 미군, 민간인 지역 오폭… 민주주의 위협

구글 딥마인드 CEO 데미스 허사비스는 인도 AI 정상회의에서 AI 통제 상실 위험성을 경고했고, 역사학자 유발 하라리도 AI 오용의 파괴력을 지적했다. AI가 개입된 미국 공습에서 정보 오류와 검증 부족으로 170여 명의 민간인이 희생되었으며, AI 추천 의존 심화는 민주주의 의사결정을 저해할 수 있다는 우려가 나왔다.