詳細を読む
2026年9月3日、WIREDは、米国の監視技術企業Flock Safetyが警察に提供するAI人物検索の画面コードを収集・分析し、文章で人物を探し、指定区域のカメラで継続監視できる仕組みを明らかにしました。Flockは年末までに事件コードや自動監査を必須化するとしていますが、分析では一部の不適切な検索を記録・警告しても、実行自体は止めない設計が確認されました。
人物向けのFreeFormは、捜査員が入力した自然言語とカメラ画像を数値化し、近い映像から順位付けします。Smart Sortでは結果画像を承認・却下すると順位が変わり、説明に合う映像を絞り込めます。さらに地図上の区域を囲むと、記述に合う人物を各カメラが継続検索して通知します。
検索前にはAIが説明文を8種類の機微カテゴリで採点し、許可・遮断・警告のいずれかを返します。人種や宗教などには遮断条件がある一方、政治・社会・文化的表現は警告のみで、捜査員は確認欄とコメントを入力すれば検索を続行でき、所属組織の管理者に通知されます。
判断モデルや閾値はFlockのサーバー上にあり、警察や外部の専門家は誤判定の頻度や偏りを検証できません。専門家は、大規模なコンテンツ審査に完全な精度はなく、入力だけを調べて検索結果を同等に監査しない安全策には限界があると指摘します。宗教名を遮断しても特徴的な服装で検索できるなど、回避余地もあります。
不正利用は仮定ではなく、Washington Postが把握したナンバープレート読取機の不正利用疑惑50件以上のうち46件がFlockに関係し、標的の多くは交際相手や元交際相手でした。Flockは異常パターンを示すAudit Assistanceを導入しましたが、WIREDが確認したコードでは初期設定が無効で、8月時点の顧客の利用率は3分の1超でした。サウスカロライナ州の保安官事務所では有効化翌日に2,700件超の無許可とされる検索が見つかり、監査を実際に運用する重要性も浮かびます。