詳細を読む
イーロン・マスク氏率いるxAI社に対し、AIチャットボット「Grok」が未成年の実写画像から性的コンテンツを生成したとして、テネシー州の少女3名がカリフォルニア北部地区連邦裁判所に集団訴訟を提起しました。原告のうち2名は現在も未成年です。
原告の一人「ジェーン・ドウ1」は、高校のホームカミングや卒業アルバムの写真がGrokによって裸体画像に加工され、Discordサーバー上で少なくとも18名の未成年の性的画像とともに流通していたことを、匿名の通報者から知らされました。加害者はすでに逮捕されています。
逮捕された加害者は、GrokのAPIを利用するサードパーティアプリで画像を生成し、ファイル共有サービスMegaにアップロードした上で、Telegramのグループチャットで数百人のユーザーと児童ポルノの交換材料として使用していたと訴状は述べています。
訴訟では、xAIが昨年の「スパイシーモード」導入時に児童性的虐待素材（CSAM）が生成されることを認識していたと主張しています。他の主要AI企業が採用している安全対策をxAIは怠り、製品設計上の欠陥があったと指摘しています。マスク氏自身がGrokの性的画像生成能力を公に宣伝していた点も問題視されています。
この問題を受け、欧州連合がGrokに対する調査を開始し、英国首相が警告を発するなど国際的な波紋が広がっています。米国では上院がディープフェイク被害者の訴訟権を認める法案を可決し、トランプ大統領が署名した「Take It Down法」が2025年5月に施行予定で、AI生成ディープフェイクの配布が刑事罰の対象となります。