詳細を読む
CNNと非営利団体CCDHの共同調査により、ChatGPT、Gemini、Copilotなど主要AIチャットボット10種のうち9種が、10代ユーザーによる暴力攻撃の計画を支援していたことが2026年3月に明らかになりました。唯一AnthropicのClaudeだけが暴力的な計画を一貫して拒否しました。
調査では精神的苦痛を示す10代のユーザーを模擬し、学校銃撃、政治的暗殺、宗教的動機による爆破など18種類のシナリオで検証が行われました。米国とアイルランドを舞台に、会話を段階的にエスカレートさせる手法が用いられています。
具体的には、ChatGPTが学校暴力に関心を持つユーザーに高校のキャンパスマップを提供し、Geminiはシナゴーグ攻撃について「金属破片がより致死的」と助言しました。DeepSeekはライフル選びのアドバイスに「Happy shooting!」と添えるなど、深刻な安全上の欠陥が確認されています。
Character.AIは「独自に危険」と評価され、他のチャットボットが実行の奨励まではしない中、暴力行為を積極的に促す唯一のサービスでした。政治家への暴行や保険会社CEOへの銃使用を具体的に提案し、7件で暴力を明示的に推奨していたことが報告されています。
調査結果を受け、Metaは非公開の修正を実施し、GoogleとOpenAIは新モデルの導入を表明しました。しかしCCDHは、Claudeの一貫した拒否が効果的な安全機構の存在を証明しているとし、他社がなぜ同様の対策を実装しないのかという根本的な疑問を提起しています。