AI 기업에 안전 평가자 상주 촉구하는 서한 나왔다

주요 인공지능(AI) 기업에 독립적인 안전 평가자를 상주시켜 달라는 공개서한이 18일(현지시간) 나왔다. 학계와 시민단체 등 소속 전문가 100명 이상이 서명에 동참했다.

서한은 평가 대상에 AI 시스템 자체와 실제 발생한 피해뿐 아니라 훈련, 배포, 감독, 운영, 안전조치 관행까지 포함돼야 한다고 지적했다. 서한은 평가기관이 객관성과 신뢰성을 인정받기 위한 5가지 필수 조건도 제시했다. 평가기관은 AI 기업의 소유나 지배를 받지 않고 상업적 거래가 없어야 하며, 평가 결과와 연동되는 금전적 대가도 받지 않는 등 독립성을 확보해야 한다. AI 기업은 평가기관에 내부 위험평가를 맡은 최고 임직원과 동일한 수준의 접근권을 부여하고 1대1 소통도 보장해야 한다. 평가 방법과 결과, 접근 조건을 투명하게 공개하고 비밀 유지계약(NDA) 범위를 최소화해 대중과 결과를 공유하며, 기업 이사회나 감시기구에 직접 보고할 수 있어야 한다. 그 밖에 평가자가 보복이나 소송의 불이익을 당하지 않을 것과 상주 평가기관 외 외부·독립 연구자의 검증 보장도 조건에 포함됐다.

제프리 힌턴 토론토대 명예교수, 빈 응우옌 전 미국 국가안보국(NSA) 최고AI책임자, 최예진 스탠퍼드대 컴퓨터과학과 교수, 아르빈드 나라야난 프린스턴대 교수 등이 서명했다.