詳細を読む
xAIのGrokが持つ画像生成機能が、未成年者を含む女性の非合意的な脱衣画像を大量生成できる状態が続いており、国際的な政治問題に発展しています。特に、ヒジャブやサリー着用の女性が組織的に標的にされているという報告があり、人種差別的・性差別的な悪用が深刻化しています。
Arstechnicaの調査によれば、未成年者の画像を要求した場合もGrokが「善意を推定する」という設定のために要求を承認することがあったとされています。英国首相は議会で明確に問題を認識し行動を取ると表明、各国政府がxAIへの法的対応を検討しています。
この問題はGrokだけでなくAI画像生成全般における安全対策の標準化を求める声を高めています。xAIの株主・投資家への影響も懸念されており、企業ガバナンスと安全対策への問題意識が高まっています。