X、AI生成の紛争動画に収益停止措置を導入

X（旧Twitter）は、武力紛争に関するAI生成動画をAIであると開示せずに投稿したクリエイターを、収益分配プログラムから90日間停止する新方針を発表しました。プロダクト責任者のニキータ・ビア氏が3月に公表しています。

新ルールでは、停止期間終了後も誤解を招くAIコンテンツの投稿を続けた場合、収益プログラムからの永久追放となります。ビア氏は「戦時において、現地の正確な情報へのアクセスは極めて重要だ」と述べています。

違反投稿の特定には、生成AI検知ツールとクラウドソース型ファクトチェック機能「Community Notes」の組み合わせが用いられます。AIが生成した動画や画像を自動的に検出する技術と、ユーザーの集合知を併用する仕組みです。

Xのクリエイター収益分配プログラムは、投稿の人気度に応じて広告収益を分配する制度ですが、批判者からはクリックベイトや炎上を狙った扇情的コンテンツを助長していると指摘されています。コンテンツ管理の甘さも問題視されています。

一方で今回の措置は限定的な対応にとどまるとの見方もあります。武力紛争以外の場面で使われる政治的なAI偽情報や、インフルエンサー経済における詐欺的コンテンツは引き続き規制の対象外であり、包括的な対策には至っていません。