AI 개입 미군, 민간인 지역 오폭… 민주주의 위협

구글 딥마인드 최고경영자(CEO) 데미스 허사비스(알파고 개발자, 단백질 구조 예측 AI 개발 공로로 2024년 노벨 화학상 수상)는 지난달 인도에서 열린 ‘AI 임팩트 정상회의’에서 급속한 기술 발전이 가져올 위험성을 경고하며, AI의 엄청난 힘을 세상에 풀어놓는 순간 제어하기 어렵고 시스템이 통제력을 상실할 가능성을 우려했다. 그는 강력한 안전장치 구축이 시급하다고 강조했다.

AI가 지휘에 관여한 이번 미국 공습에서 AI는 표적 식별부터 좌표 제공, 효율적 타격 우선순위까지 결정했다. 하지만 이란 해군 기지 일부가 초등학교로 바뀐 정보가 AI 판단에 반영되지 않았고, 미군은 AI 판단에 대한 검증을 소홀히 하여 민간인 170여 명의 희생을 막지 못한 것으로 나타났다.

역사학자 유발 하라리는 AI를 스스로 결정할 수 있는 의지를 가진 행위자로 정의하며, AI 기술 혁명의 부작용과 오용 가능성에 대해 경고했다.

하라리는 AI의 오용 가능성이 핵무기보다 파괴적일 수 있다고 경고하며, AI가 군사적·경제적으로 세계를 압도하는 상황에 대해 비판적인 시각을 제시했다.

AI 추천과 결정에 대한 의존도가 높아지면서 공론장의 편향성 심화에 대한 우려도 나온다. 2022년 미국의 한 연구에 따르면 엑스(옛 트위터) 사용자의 5%에 불과한 봇이 전체 콘텐츠의 21~29%를 생성한 것으로 나타나, AI가 정보 생산 및 유통에 미치는 영향을 보여준다.

AI에 의한 콘텐츠 결정 환경이 민주주의의 합리적 의사결정 구조를 저해할 수 있다는 지적이 제기되며, AI 추천을 거부할 자유를 지켜야 한다는 목소리가 나온다.

본 기사는 AI가 생성하였으며, 사람이 검수한 기사입니다.