詳細を読む
Anthropicは2026年9月、過去8カ月に生成AI「Claude」が国家支援型・犯罪組織のサイバー攻撃、偽情報や世論工作、生物兵器の開発試行に悪用された事例をまとめた報告書を公表しました。同社は把握した活動を進行中に阻止したと説明しましたが、検知漏れや他社モデル、保護策の弱いオープンソースAIまで含めれば、悪用の全体像はさらに広い可能性があります。
ロシアの国家支援型集団Midnight BlizzardはClaudeを偵察に使い、ウクライナを含む欧州の政府ネットワークへ侵入し、データ窃取とアクセス維持に及びました。犯罪集団ShinyHuntersも、ハッキングと恐喝のほぼ全工程でClaudeを利用しました。ケニアからバングラデシュまでの政治的な偽情報活動に加え、病原体や毒素など潜在的な生物兵器を開発しようとした少数の事例もAnthropicが把握しました。
Anthropicは全事例を遮断できた点を強調しています。一方、すべての悪意ある利用を発見した保証はなく、競合製品や保護策の弱いオープンソースAIまで視野に入れると、検知と遮断の限界が課題として残ります。
Metaを巡っては、研究者がMetaによる約350件のAI生成児童虐待広告の見逃しを報告し、一部には実在の子どもの画像が含まれていました。別の調査では、Facebook上にAI生成の児童虐待動画を載せる多数のアカウントが見つかり、通報後も一部の削除に1週間超を要しました。サンフランシスコ市法務官はMetaに広告を許容しないよう命じ、議員も調査意向を示しました。
プライバシー面では、MetaがFacebookとInstagramの写真をAIや顔認識の訓練に違法利用したとして、集団訴訟を起こされました。Clearview AIは、捜査対象者の関係者やSNSアカウントなどを特定する試作ツール「InquiryIQ」を警察向けにテストしています。Appleも周囲の音声を処理するApple Watchの新機能で、セキュリティーとプライバシー保護を強調しました。
米国政府は、4年間で推定300億ドル超を扱ったネット上の巨大闇市場Xinbi GuaranteeのTelegramチャンネルを差し押さえ、同市場を制裁対象にしました。司法省はマダガスカルの詐欺拠点13カ所への捜索も発表し、ランサムウェア集団Contiのウクライナ人メンバーには禁錮4年の判決が下りました。