詳細を読む
OpenAIは7月31日、カンボジアを拠点とする詐欺ネットワークがChatGPTを悪用していたとして、関連アカウントを一斉に停止したと発表しました。調査の端緒は提携先WhatsAppからの情報提供で、同社は判明した脅威の兆候を業界パートナーや関係当局と共有しています。この集団は投資、恋愛、オンライン賭博、法執行機関へのなりすましという複数の詐欺を同時並行で展開していました。
手口は接触、感情の揺さぶり、金銭の搾取という三段階で構成されていました。ネットワークはChatGPTでWhatsAppやTelegram上の会話を翻訳・生成し、恋愛感情や元本保証といった言葉で信頼を築いたうえで、入金や手数料の支払いを迫っています。被害者には送金画面のスクリーンショットを提出させ、支払いの証拠としていました。
特徴的なのは、単一の手口に固執しない柔軟さです。出会い系の人格で信頼を得てから暗号資産や金の現物取引を持ちかけるなど、複数の詐欺を組み合わせる例が目立ちました。生成されたのはパスポート、法的通知、株式購入の確認書、賭博サイトの画面といった偽造書類の画像です。
さらに深刻なのは、詐欺の実行者自身が被害者である可能性です。一部の利用者はポイペトでのチャット要員の求人広告を作成し、航空券や住居、ビザ、就労許可を約束する内容をSNSで発信していました。別の会話では従業員の借金や給与天引き、規律違反の罰金の記録に加え、監禁や逃亡に関するやり取りも確認されています。
OpenAIは被害総額を把握できていないものの、詐欺師自身のやり取りから、標的は数百人規模に達した可能性があるとしています。今回の事例が示すのは、オンライン詐欺と組織犯罪、人身取引の境界が曖昧になっている現実ではないでしょうか。同社は、被害者に接する詐欺行為だけでなく、背後で利益を得る犯罪組織そのものを標的にしなければ実効性ある遮断はできないと指摘します。