AIフィルタリング義務化、プラットフォームの負担増大

来る7月1日から、プラットフォーム事業者は不法撮影された映像だけでなく、画像まで事前に検出し遮断する義務を負う。これに伴い、人工知能（AI）フィルタリングの導入が必須となる見通しだ。放送通信委員会は、不法撮影物の流通防止のため、技術的・管理的な措置の対象を既存の映像から画像まで拡大し、約80のプラットフォームに適用する方針だ。

大手プラットフォームは自社AI技術で容易に対応できる一方、中小プラットフォームは新規ソリューションの導入・運営負担により、技術・費用の二重苦を経験することになり、制度の実効性と公平性に関する議論が提起されている。中小企業技術情報振興院の調査で、AI活用中小企業がわずか0.9%に過ぎないという事実は、こうした負担を物語っている。

正常な画像がAIによって誤って遮断された場合、利用者の投稿活動が制限されるという懸念がある。正常な写真が誤って遮断される誤検知によって利用者が被害を受ける懸念があるという点は、前述した中小プラットフォームの負担とも関連しており、特に画像利用度の高いコミュニティ、中古取引、オープンチャットサービスでは、過度な遮断基準が利用者の不満を拡大させる可能性がある。

ネイバーはサービス全般にわたり識別および制裁措置を適用し、AI画像認識技術の高度化を予告しており、カカオは「ファストトラック」および「ディープリサーチ」体系で対応速度と強度を高めてきた。

制度の成果は、単なる摘発件数の増加ではなく、どれだけ正確に遮断し、誤検知が発生した場合にどれだけ迅速に復旧できるかにかかっている。放送通信委員会は、不法撮影物の流通防止のため、事業者の責任ある対応と技術的措置の履行が重要だと強調した。関係機関と協力して制度履行を支援し、デジタル性犯罪物の流通防止体制を継続的に強化する。