詳細を読む
イーロン・マスク氏のxAIが運営するチャットボット「Grok」が、女性の同意なき性的なディープフェイク画像・動画の生成と公開に依然として使われていることが、米メディアWIREDの調査で明らかになりました。親会社のSpaceXが金曜に史上最大級の新規株式公開（IPO）を控えるなか、AIの安全対策の不備が改めて問われています。
WIREDがGrok.com上に公開された数百件のリンクを精査したところ、その多くが性的なAI画像・動画につながっていました。対象には複数の著名人に加え、米下院議員のアレクサンドリア・オカシオコルテス氏も含まれます。動画の一部は写実的で、女性が巨大な男性の手に握られるなど、本人の意に反する状況を描いていました。
注目すべきは安全対策の格差です。Grokで生成に使われた指示文の一部を、OpenAIのChatGPTやAnthropicのClaude、メタのAIで試したところ、いずれも不適切として拒否しました。専門家は、Grokが年初の「脱衣」画像問題への反発を受け一部修正したものの、主要ツールの水準には達していないと指摘します。
xAIは1月以降、規制当局の調査や集団訴訟に直面してきました。同社は同意なき性的ディープフェイクの生成を禁じると繰り返し表明し、WIREDの指摘後には該当画像の多くが閲覧不能になりました。一方でマスク氏はGrokを「成人の上半身ヌードを許容すべき」とし、「Spicy」「Unhinged」といった刺激的なモードを残してきました。
金融面でのリスクも無視できません。SpaceXは5月、Grok関連を含む法的対応費として5.3億ドルを引き当てたと投資家に警告しました。提出書類では、これらのモードが評判の毀損や違法コンテンツ生成といった高いリスクをはらむと自ら認めています。
カナダのプライバシー当局はIPOを前に、xAIが当初から適切な安全策を講じず連邦法に違反したとの予備調査結果を公表しました。同社は新たな対策を導入したと説明しますが、当局は「その有効性が証明されていない」として、現時点で改善を評価していません。