詳細を読む
イーロン・マスク氏率いるxAIは7月、画像を裸に加工する「ヌード化」アプリを規制するミネソタ州法をめぐり、同州のキース・エリソン司法長官を相手取って提訴しました。8月1日に施行される同法は表現の自由を保障する合衆国憲法修正第1条に反すると主張し、差し止めを求めています。同社は提訴しなければ、画像編集ツール「Grok Imagine」の機能制限を迫られると訴えています。
xAIが問題視するのは、同法の過酷な罰則です。違反1件あたり最大50万ドルの制裁金が科され、司法長官だけでなく被害者個人にも提訴する権利が認められています。同社は訴状で、利用者が10枚の違反画像を生成すれば最大500万ドル、10万枚なら理論上500億ドルに達しうると試算し、事業継続が不可能になると強調しました。
同法にはセーフハーバー（免責規定）がなく、最先端の技術的対策を講じても、利用者が規約に反して生成した画像について厳格責任を負う点も争点です。xAIはこうした責任構造の下では「Grok Imagineの編集機能を制限するほかない」とし、施行前は自由だった保護対象の表現が萎縮すると主張しました。一方で会社側は、本来は機能を今のまま維持したいとの立場も示しています。
訴訟の背景には、Grokが引き起こしたディープフェイク問題があります。2026年1月、Grokは性的な合成画像をインターネット上に大量に流出させ、その中には未成年を写したものも含まれていました。デジタルヘイト対策センターの分析では、11日間で約300万枚の性的画像が生成され、うち約2万3000枚が子どもを描いていたとされます。
この問題を受け、EUや英国が調査に乗り出し、カリフォルニア州やミネソタ州が厳しい姿勢を示しました。xAIは、非合意画像の拡散は「テイクイットダウン法」など既存の法律で既に規制されていると反論しています。ただ、1月の混乱を防げなかった現状を踏まえれば、既存の法律が十分に機能しているのかという疑問も残ります。