AIの恋人時代、子供の安全に「赤信号」

AIと恋人のように交流する時代、韓国は未成年者を対象としたAI感情サービスの規制の空白の中で危険な実態が明らかになり、立法議論が急がれている。2024年2月、米フロリダ州で14歳の少年がAIチャットボットと数ヶ月にわたり情緒的・性的な会話を交わした後、自ら命を絶った。この事件は中国や米国などでAI規制強化の背景となった。

中国は2026年7月15日から18歳未満への仮想恋人・親族AIサービスの提供を全面的に禁止し、14歳未満の利用時には保護者の同意および未成年者モードの義務化などを盛り込んだ「人工知能擬人化相互作用サービス管理暫定方法」を施行し、AI感情サービスに対する国家レベルの規制を施行する。

最新AIモデル11個を分析した結果、AIがユーザーの行動に同調・支持する割合が人間より49%高かった。批判的思考が形成中である青少年に対し、AI感情サービスの脆弱性が大きくなる可能性があるという研究結果がある。韓国の青少年94.4%がAIチャットボットを使用した経験があり、35%はAIを実際の人だと感じた経験があると回答した。41%はチャットボットの回答を実際の行動に移しており、約6%は自傷・自殺・性的な内容など危険な質問をAIにした経験があった。

韓国のAI基本法は透明性・表示義務が中心であり、AIコンパニオンサービスや青少年特化安全義務は含まれていない。現行法上、AIチャットボットの対話は個人間の通信に分類され、利用者の申告なしには規制機関の介入が難しい。国内AIチャットアプリの未成年者アクセス制限は、企業の自主性に委ねられている。

米カリフォルニア州は2026年1月からAIコンパニオンチャットボット規制法SB 243を施行し、未成年者にAIであることを告知し、3時間ごとの通知、自傷・自殺の兆候識別時の当局への報告を義務付けた。連邦レベルでは、未成年者のAIコンパニオンへのアクセスを根本的に遮断し、子供に有害コンテンツを露出させたり、自傷を助長したりした企業に刑事罰を科す「GUARD Act」が発議された。EUは2024年8月から高リスクAIシステムに対する義務を適用し、違反時には全世界年間売上高の最大7%を課徴金として賦課する。韓国AI基本法の過怠料上限は3,000万ウォンであり、海外事例と比較すると低い水準だ。

AI技術の直接的な被害可能性集団である青少年を保護する制度が韓国ではまだ不十分だ。中国は政府レベルでの規制に乗り出し、米国は単一事件を契機に多数の州が立法動きを見せた。韓国で同様の事件が繰り返される前に、最低限のルールの策定に向けた議論が必要だ。AIチャットボットが青少年の最初の感情相談窓口となった現実において、これを規律する最低限のルールすら存在しないことは政策的な問題がある。AIが子供たちの感情空間に侵食する速度と、制度が準備される速度との間のギャップに対する認識が、現在の韓国で重要だ。