DetectifAI、端末内で偽音声を即時判定

サンフランシスコの新興企業DetectifAIは、通話中の声がAI生成かどうかをスマートフォン上で即時判定する技術を開発しています。音声をクラウドへ送らず、端末のOSに組み込める小型モデルを電話メーカーへライセンスし、深刻化する偽音声詐欺から利用者を守る狙いです。通話や音声メッセージなど幅広い音声を対象とします。

創業のきっかけは約2年前、創業者タリニ・パドマナブニ氏の祖父が、兄弟の声を模したディープフェイクによる誘拐詐欺を信じ、身代金を支払ったことでした。同氏は、祖父に偽音声を見分ける手段がなかった点を課題と捉え、DetectifAIを立ち上げました。

FBIによると、米国でのAIを使った詐欺の被害額は前年に約9億ドルとなり、2024年比で24%増えました。60歳以上の被害額は50～59歳の2倍であり、高齢者を狙う詐欺への対策が急務です。

同社によると、既存の偽音声検知製品の多くはクラウド上で動くため、電話メーカーが端末へ直接組み込みにくいといいます。DetectifAIは大型モデルを縮小するのではなく、当初から小型モデルを設計し、通話や音声メッセージを端末外へ出さずに判定します。

主力商品は、電話のOSへ組み込めるソフトウェア開発キットです。まず電話メーカーへライセンスし、企業や不正対策会社への提供も第2の収益源として計画しています。

パドマナブニ氏によると、同社はすでに初期売上があり、インドの金融機関向けに月10万件超の通話を処理しています。債権回収や融資書類の確認を担うAI音声エージェントの全通話で、偽音声検知と話者本人の確認を行っていますが、顧客名は秘密保持契約を理由に明かしていません。