AI 전쟁, 인간 개입의 한계

AI가 전쟁에서 실시간 목표 설정, 미사일 방어, 자율 드론 지휘 등 복잡한 결정을 내리는 가운데, AI의 불투명한 작동 방식 때문에 '인간 개입'이 필수적이라는 시각은 환상에 가깝다는 분석이 나왔다.

AI 기반 자율 살상 무기 사용에 대한 논의는 주로 인간의 '참여' 수준에 초점을 맞추며, 펜타곤의 현행 지침은 인간 감독이 책임성, 맥락, 뉘앙스를 제공하고 해킹 위험을 줄인다는 전제에 기반한다.

최첨단 AI 시스템은 본질적으로 '블랙박스'로, 입력과 출력은 알 수 있으나 그 처리 과정은 불투명한다. 개발자조차 AI 시스템을 완전히 해석하거나 작동 방식을 이해하지 못하는 경우가 많으며, AI가 제시하는 이유 역시 항상 신뢰할 수 있는 것은 아니다.

인간 감독이 AI 시스템의 작동 방식을 제대로 이해하지 못하는 상황은 AI 기술의 전쟁 적용에 대한 법적 논쟁을 심화시킨다. 예를 들어, AI의 계산에는 인근 아동 병원 손상 가능성과 같은 인간이 고려하지 않는 숨겨진 요인이 포함될 수 있으며, 이는 민간인 생명 규칙을 위반하는 전쟁 범죄가 될 수 있다.

이러한 '의도 간극'은 첨단 블랙박스 AI를 민간 의료나 항공 교통 관제와 같이 높은 수준의 안전이 요구되는 분야에 배치하는 것을 주저하게 만드는 이유이기도 하다. 그럼에도 불구하고 전장에서 AI 기술의 통합은 서둘러 진행되고 있으며, 한쪽이 완전히 자율적인 무기를 배치할 경우 상대방에게도 비슷한 기술 도입을 강요할 수 있다.

AI의 불투명한 작동 방식과 인간 이해력의 한계로 인해 '휴먼 인 더 루프'라는 개념은 전쟁터에서 실효성을 잃고 있다. AI의 결정 과정을 인간이 제대로 이해하지 못하는 상황에서, 인간의 개입은 절차적 요식행위에 그칠 수 있으며 이는 예측 불가능한 결과를 초래할 위험을 안고 있어 AI 무기 체계의 발전과 윤리적, 법적 쟁점에 대한 보다 근본적인 논의가 필요한다.

본 기사는 AI가 생성하였으며, 사람이 검수한 기사입니다.