AIディープフェイクの悪用が拡散、規制強化が急務

人工知能（AI）技術で作られた偽の映像・画像（ディープフェイク）を利用した詐欺が増加しています。これに伴い、AI技術の悪用を防ぐための強力な規制整備とともに、偽情報を識別する能力を高めることが重要になっています。

指先を数回動かすだけで有名作家の絵を再現したり、チャレンジダンスを踊ったり、話す犬の映像を作成するなど、AIの生成物がSNSを飾り、一つの文化として定着しました。人々はAIが生成する映像美や音楽を楽しみ、現実と仮想の境界が曖昧になることを受け入れています。

楽しみの道具であったAIが、他者の信頼を奪う欺瞞的な手段へと変質する事例が増えています。食品医薬品安全処は、偽医師を登場させたディープフェイク広告に対し、強力な規制を開始しました。ディープフェイクは、実在人物の微細な表情や声のトーンまで再現し、人間の心理的な弱みに付け込みます。切迫感が深い医療分野などでは、偽の専門家に惑わされる傾向が見られます。偽ニュース型の広告がニュースキャスターの顔を借りて健康機能食品を紹介したり、架空の科学者が最先端工学技術だと称して消費者を惑わす事例が増えています。こうした欺瞞行為は、科学的事実に依拠すべき社会的なコミュニケーションシステム自体を汚染しています。