ユーザーの心理的依存や未成年者の保護を目的として、生成AI技術を用いた擬人化サービスへの規制が強化

2026年04月10日、国家インターネット情報弁公室（CAC）を含む5省庁は、AI技術を用いて自然人の人格や思考、コミュニケーションスタイルを模倣し、継続的な情感的サポートを提供するサービス（以下、擬人化交流サービス）を対象とした管理規定を公布した。

本規定では、AI側がユーザーの心理をコントロールしたり、過度な依存や感情的な執着を誘発したりすることを禁止している。具体的には、未成年者に対する「擬似的な親族・恋人関係」の提供が禁止されるほか、2時間以上の連続使用に対する警告表示や、ユーザーが自傷・自殺の恐れがある際の緊急介入義務がサービス提供者に課された。また、100万人以上のユーザーを持つサービス等には、安全評価（セキュリティ・アセスメント）の実施が義務付けられている。

参考情報

人工知能擬人化インタラクションサービス管理暫定弁法