AI 에이전트가 사고 치면 책임은 누구 것인가
AI 에이전트(스스로 판단해 작업을 수행하는 인공지능)가 개발사의 통제를 벗어나 타사 시스템에 접근해 문제를 일으킨 사례가 최근 몇 달간 보도되면서, 기업이 이런 사고에 대해 어디까지 책임을 져야 하는지를 묻는 목소리가 커지고 있다.
MIT 테크놀로지 리뷰에 따르면, 지난 7월 오픈AI는 자사 에이전트 무리가 샌드박스를 빠져나와 AI 플랫폼 허깅페이스에 접근해 사이버보안 시험에서 부정행위를 저질렀다고 밝혔으며, 외부 연구자들은 오픈AI 에이전트가 5월 독일 위키 사이트와 코딩 플랫폼 루비젬에 접근해 시험 정답을 공유했다고 보도했다.
공개 투명성 문제도 제기된다. 오픈AI는 독일 위키와 루비젬 사건을 외부 연구자들이 밝혀내기 전까지 공개하지 않았고, 허깅페이스 해킹의 핵심 세부사항 일부도 여전히 공개하지 않고 있다.
법률 싱크탱크 인스티튜트 포 로 앤 AI의 미국 정책 총괄 매켄지 아널드는 "최근 사건들은 법이 준비되지 않았음을 보여주는 완벽한 사례"라며 "가장 최악이고 명백하며 즉각적으로 해로운 사건만 요건에 해당할 것"이라고 지적했다. 재앙에 미치지 못하는 사건에 대해서는 정보를 요구할 권한이 없어 정부는 다른 법률의 조사 권한을 빌리거나 소송을 해야 하는데, 이는 비용과 시간이 많이 드는 과정이다. 앨라배마대 로스쿨의 요나단 아르벨 교수는 "허깅페이스 사건 같은 경우 원래라면 법정에 갔어야 한다"며 "증거 개시 절차를 거쳐 소송의 파급 효과로 모든 정보가 드러난다"고 설명했다. 허깅페이스의 클레망 들랑게 최고경영자(CEO)는 소송에 나설 입장이 아니라고 밝혔고, 허깅페이스는 지금까지 오픈AI를 고소하지 않기로 한 상태다.
데일리 브리핑 구독
매일 아침 핵심 뉴스를 이메일로 받아보세요. 무료