中国、感情交流AIの規制を強化 人間のようなAIサービスに事業再編の兆し

中国国家インターネット情報弁公室（CAC）をはじめとする5省庁が「人工知能擬人化相互作用サービス管理暫定方法」を共同発表し、この規制案は7月15日から正式に施行される。この規制は、仮想恋人、キャラクターAIのようにユーザーと深い感情的な関係を築くAIサービスの社会・政治的リスクを防ぐために設けられた。関連業界では、事業モデルの再整備が避けられなくなった。

AIがユーザーの自傷行為を助長したり、盲目的な依存や中毒を誘発して現実の人間関係を損なう行為は厳しく禁止される。18歳未満の未成年者に仮想の親族や仮想の恋人など、親密な関係を模倣したサービスを提供することは禁じられ、14歳未満の子供に擬人化相互作用サービスを提供する際には、保護者などの同意を得なければならない。未成年者対象サービスには「未成年者モード」が義務的に搭載されなければならない。

ユーザーがAIと2時間以上連続で会話した場合、サービス提供者はユーザーに注意喚起を行う必要がある。AI企業は、ユーザーの心理的・安全上のリスクを適時に識別し、対応する義務がある。ユーザーが自傷・自殺の兆候を示したり、甚大な財産損失のリスクに直面したりした場合、企業は保護者や緊急連絡先に連絡して介入しなければならない。

ユーザーの同意なしには、チャット内容などの機密性の高い個人情報を含む相互作用データをAIモデルの学習に再利用することはできない。加入者100万人または月間アクティブユーザー（MAU）10万人を超えるサービスは、管轄部署にセキュリティ評価報告書を提出しなければならない。単純な戦闘補助用AIは規制対象から除外される場合があり、リアルタイムのテキスト生成と継続的な感情的相互作用を提供するRPG形式のスマートNPCは管理対象に含まれる可能性がある。

中国市場への進出を目指すグローバルゲーム企業は、プロンプトやアルゴリズム修正への負担が大きくなると見られる。当局は、AIが体制に反する思想を注入する政治的リスクや、若年層の現実恋愛回避による人口減少の深刻化を懸念した。エンターテインメント中心の仮想キャラクターAIは縮小せざるを得ず、業界は高齢者介護や児童教育など、公益的な領域へと事業モデルを転換する可能性がある。