#휴먼 인 더 루프

AI 전쟁, 인간 개입의 한계

AI가 실시간 목표 설정 등 복잡한 결정을 내리는 전쟁에서, AI의 불투명한 '블랙박스' 작동 방식 때문에 인간 개입이 실효성을 잃고 있다는 분석이 나왔다. 개발자도 이해하기 어려운 AI의 결정 과정은 인간 감독을 요식행위로 만들어, 의도치 않은 전쟁 범죄 등 예측 불가능한 결과를 초래할 위험이 크다.