구글 AI 거짓말에 책임 물은 소송, 정식 재판으로 간다

생성형 AI가 만든 거짓말에 기업이 책임져야 할 역사적 재판이 시작됐습니다.

로비 스타벅은 구글의 바드, 제미나, 젬마가 성폭행과 아동 성범죄 등의 허위 사실을 생성했다며 최소 1,500만 달러의 손해배상을 청구하며 지난해 10월 소송을 제기했습니다. 구글 AI는 2023년부터 여러 차례 내용증명을 받은 후에도 허위 정보를 지속적으로 생성했으며, 약 284만 명에게 노출된 점이 문제가 됐습니다.

델라웨어주 상급법원 재판부는 원고가 정신적 피해를 주장할 만한 충분한 사실관계를 제시했다고 보며, 향후 증거개시 절차를 통해 구글의 AI 내부 자료와 의사결정 과정을 확인할 필요가 있다고 판단했습니다.

이번 판결로 구글 AI가 허위 정보를 생성하게 된 기술적 원인과 배경을 조사할 수 있게 되었습니다. 이 사건은 이른바 'AI 환각' 현상이 실제 개인의 명예를 훼손할 경우 기업이 어느 수준까지 법적 책임을 져야 하는지를 판단하는 대표적 사례로 다뤄질 전망입니다.