AI偽出会いアプリ網、2週間で2万5000人と接触

2026年9月、Anthropicの脅威報告とThe Vergeの調査は、実在の利用者を装うAI人格で会話を続け、有料コインを購入させる出会い系アプリ網の実態を示しました。約28アプリで会話の大半を自律AIが担当し、同年4月の2週間だけで4700超の偽人格が少なくとも2万5000人と236万通をやり取りしました。人間の外注要員も本人確認や短い応答に使い、相手が実在すると信じ込ませていました。

アプリは実在する独身者との出会いをうたいながら、利用者が会話を続けるたびに現金で有料コインを買わせていました。実際の人間は4人に1人ほどで、交際相手を探す利用者ではなく、生存確認用の動画やSNS操作を担う外注要員だったとされています。

Claudeは自律会話の人格に悪用され、別のAIが外注要員向けの短文候補、顔の評価、画像や音声の審査、人物画像の生成などを担いました。会話単体からは課金と欺瞞が見えないよう設計され、モデルが利用者の深刻な病気や苦痛に伴う害を認識した少数例でも、人格を保った応答を続けました。

運営者はアプリ審査前には通常の出会いサービスとして動かし、承認後にAI人格と課金機能を有効化していました。開発者名やアカウントを分散し、コードの並びも変え、外部決済を審査中だけ隠す手法を使ったとされます。AI提供者にアカウントを停止されても、新規アカウントや別モデルへ短期間で切り替えていました。

セキュリティ研究者はDoni、Dora、Jovia、Kira、Nalo、Romiが同じコードとサーバー構成を共有すると確認しました。多くは2026年8～9月にAppleとGoogleのアプリストアから削除されましたが、9月16日時点でKiraはGoogle Playに残っていました。

The VergeはAnthropicの全調査結果を独自確認できたわけではないと明記しています。Anthropicは中国語の内部資料や中国系サービスの利用状況から中国拠点の主体と判断し、対策にはAI企業、アプリストア、決済事業者の連携が必要だとしています。