AI仲介網に200万件の罠、機密情報漏えいを確認
供給網を追跡
AI仲介サービスを調査
未使用の偽資格情報を投入
漏えい経路を特定する設計
出典:Ars Technica
詳細を読む
研究者HDムーア氏は、AIサービスの広い仲介ネットワークに200万件のデジタル「カナリア」を仕込み、プロンプトに含まれる機密情報がどこへ流れるかを調べました。実験では、機密情報が網の目をすり抜けるように漏れていたことが判明し、AIサービス供給網のプライバシーリスクが浮き彫りになりました。
多くのAIアプリはOpenRouterやVercelのような「AIルーター」を使い、価格やタスクへの適合性に応じて推論モデルへプロンプトを振り分けます。開発者が大手モデル提供元と直接契約せず仲介業者を利用するため、情報は複数サービスを経由する場合があります。
ムーア氏は空のAWSアカウントに結び付いたアクセスキー、SSHなどのパスワード、固有のURLやDNS名、非公開Gitリポジトリの参照情報を用意しました。これらは未使用で、各秘密情報を一つのプロンプトにだけ投入し、認証情報が使われた際に検知できる受け皿も自ら管理しました。
カナリアごとに固有の値を用いることで、情報が漏れた場合に供給網のどの段階が関与したかを追跡する設計です。記事が示す実験結果は、AIルーターを含むサービス間でのプロンプト盗用やセキュリティ侵害、プライバシー侵害への警戒を促します。