Naver AI、「生命軽視・二次加害防止AIクリーンボット 3.0」を公開

Naverは29日、悪質コメントを防ぐ「AIクリーンボット 3.0」のアップグレードを配布した。今回のアップグレードは特に、生命の尊さを軽んじたり、被害者をさらに苦しめたりする表現をより正確に検出し遮断することに重点を置いた。単純にコメント内容だけを見ていた従来の方式とは異なり、記事のタイトルと本文内容を共に分析し、悪意のある意図をより正確に把握できるよう性能を高めた。

Naverは2019年に業界で初めてAIクリーンボットを披露して以来、新語や嫌悪表現に対応するため、検出範囲と正確度を継続的に向上させてきた。2020年には文章の文脈判断機能を追加し、記号や文字を活用した迂回的な悪質コメント遮断機能を強化し、2023年にはKISO（韓国インターネット自律政策機構）の嫌悪表現自主政策ガイドラインを反映するアップグレードを続けてきた。

キム・スヒャンNaverリーダーは「罵倒語、俗語はもちろん、新たに生まれた嫌悪、侮辱、差別表現を検出するため、クリーンボットの性能を継続的に強化している」とし、「生命軽視の助長、被害者・遺族への嘲笑、嫌悪表現の集中遮断をはじめ、多様な意見を聞きながらクリーンボットの性能を高度化していく予定だ」と述べた。