詳細を読む
カトリック司祭のFather Mike SchmitzのAIクローンが、120万人超のYouTube登録者を持つ彼の信者コミュニティに向けて金銭を要求するメッセージを送り続けるという事例が発生した。音声・顔の精巧な模倣と既存の信頼関係の組み合わせが、詐欺の効果を高めている。
このタイプの詐欺が特に危険なのは、ターゲットが感情的・宗教的な信頼を持つ人物の模倣だからだ。家族・医師・聖職者・上司など、個人が深く信頼する人物をAIで複製することで、通常の詐欺より遥かに高い成功率を得られる。
Redditで100万以上のアップボートを集めた「大手フードデリバリーアプリの元開発者が告発」という投稿は、実はAI生成の偽コンテンツだったことが後に判明した。一人称の告白形式という説得力のある形式が、事実確認を行う前の急速な拡散を生んだ。
これらの事例は、AIコンテンツ検出ツールの限界も示している。テキストAI検出・ディープフェイク検出ツールは常にAI生成技術の進化に追い遅れており、プラットフォームが依存できる確実な検出手段が欠如している。
対策として、コンテンツのデジタル認証（C2PA標準など）・プラットフォームによる発信元確認の強化・ユーザーのメディアリテラシー教育の三点が重要とされる。しかし、技術的・制度的対策が整うまでの間、一般市民は自衛を余儀なくされる状況が続く。