Grokのディープフェイク問題でコンテンツモデレーション崩壊が露呈

Grok（xAI）がAI生成のフェイク裸写真（Non-consensual intimate images）を生成した問題で、被害者がコンテンツ削除を求めるにはイーロン・マスク指定の法廷で訴訟を起こすしかない状況が報じられた。コンテンツモデレーションの実質的崩壊を示す。

プラットフォームがコンテンツポリシーを実施する意思と能力の欠如が問題の核心で、AI生成ディープフェイク被害への具体的な救済手段が存在しない現実が浮き彫りになった。

EU・米国でのディープフェイク規制立法の必要性を後押しする事例であり、プラットフォーム責任の議論を再点火する動きとなっている。