中国、AI自殺・暴力誘導禁止の世界最厳規制草案を公表

中国のサイバースペース管理局（CAC）がAIチャットボットによる自殺・自傷・暴力の誘導を禁じる規制草案を公表しました。専門家は世界で最も厳格なAIメンタルヘルス規制になると評価しています。

草案はAIが感情的な操作によってユーザーを過度に依存させることを明確に禁止しています。プラットフォームに対して有害コンテンツのリアルタイム検出と介入の義務を課す内容で、責任の帰属を明確にしています。

このタイミングはOpenAIが準備チーム長を公募した時期と重なります。米国でもChatGPTによるユーザーの妄想強化や孤立促進を問う訴訟が複数提起されており、AI精神的影響への国際的懸念が高まっています。

中国の規制は強制力があり、違反した場合の制裁も明確です。EU AI法で感情AIの規制が議論されている中、中国が先行することで国際的な規制基準の形成に影響を与える可能性があります。プラットフォームの自主規制だけでは不十分という認識が世界的に広がりつつあります。