AI 필터링 의무화, 플랫폼 부담 가중

오는 7월 1일부터 플랫폼 사업자의 불법 촬영물 차단 의무 대상에 기존 동영상에 더해 이미지가 추가된다. 이에 따라 약 80개 플랫폼은 이용자가 올리는 이미지까지 불법 촬영물 여부를 사전에 걸러내야 하며, AI 필터링 도입이 필수화될 전망이다.

네이버는 서비스 전반에 걸쳐 식별 및 제재 조치를 적용하고 AI 이미지 인식 기술 고도화를 예고했으며, 카카오는 '패스트트랙' 및 '딥리서치' 체계로 대응 속도와 강도를 높여왔다. 정상 사진이 잘못 차단되는 오탐으로 이용자 피해 우려가 있다는 점은 앞서 언급된 중소 플랫폼의 부담과 연관되며, 특히 이미지 활용도가 높은 커뮤니티, 중고거래, 오픈채팅 서비스에서는 과도한 차단 기준이 이용자 불만을 확산시킬 수 있다. 제도의 성과는 단순히 적발 건수 증가가 아니라, 얼마나 정확하게 차단하고 오탐 발생 시 얼마나 신속하게 복구하느냐에 달려 있다.

방송통신위원회는 불법 촬영물 유통 방지를 위해 사업자의 책임 있는 대응과 기술적 조치 이행이 중요하다고 강조했다. 관계기관과 협력해 제도 이행을 지원하고, 디지털 성범죄물 유통 방지 체계를 지속적으로 강화한다.