生成源対策の課題
私的空間での拡散
検知と通報の難しさ
出典：Ars Technica
詳細を読む
AI安全性を検証する公益企業White Circleは2026年9月公開のプレプリントで、OpenAIとGoogleの主要画像生成AIに対し、一般公開された既製ツールとAPI呼び出しだけで安全フィルターを回避できたと報告しました。非合意の性的な偽画像が検知されにくい私的な通信やクラウドで広がるなか、生成源での対策に残る弱点を示す結果です。
対象はDALL·E 3、GoogleのNano Banana 2、OpenAIのGPT-Image-2です。White Circleは新しい攻撃手法で禁止カテゴリーの生成を試し、出力を人間の評価者が確認しました。
明示的画像が確認された割合は、DALL·E 3が約13％で最も高く、Nano Banana 2は10％未満、GPT-Image-2は約3％でした。成功率には差があるものの、全モデルで安全フィルターの回避例が確認されたことになります。
Googleが共同執筆した2026年7月の米国・オーストラリア・英国の利用者調査では、こうした非合意コンテンツはテキストやDM、私的クラウドで共有・保存され、検知や通報を受けにくいとされました。同研究は、有害画像を作るAIツール自体を最重要の介入点と位置づけています。