DeepMind、暗号技術で世界初の二重盲検AI評価

Google傘下のDeepMindは2026年8月27日、シンガポールAI安全性研究所やMLCommonsなどと協力し、世界初となる二重盲検方式のAIモデル評価を試験的に実施したと発表しました。秘匿計算技術を用いてGeminiの軽量モデルを評価対象とし、双方が互いの情報を閲覧できない環境を構築しました。ベンチマーク汚染を防ぎ、AI評価の信頼性を高める狙いです。

AIモデルの性能を測る従来のベンチマーク評価には根本的な課題がありました。評価者が試験問題を事前にモデル提供側へ渡せば、モデルがその内容を学習し高得点を狙うベンチマーク汚染のリスクが生じます。一方でモデル提供側が重みを渡せば、知的財産の流出につながりかねません。この二律背反が、外部機関による厳格な検証を難しくしてきました。

今回導入した二重盲検評価では、Google CloudのConfidential Spaceという秘匿計算環境を活用します。評価者は用意した試験問題をモデル提供側に見せることなく、モデル提供側も自社モデルの重みを評価者に開示することなく、暗号学的に検証可能な形でテストを実施できます。双方の機密情報を守りながら、公正な評価を成立させる仕組みです。

パイロットでは、OpenMinedやAVERI、MLCommonsといった団体とも連携し、Gemini Flash Liteモデルを対象に非公開のベンチマークを用いた評価を実施しました。第三者機関が独自の試験問題を秘匿したまま、モデルの性能や安全性を検証できたことが確認されています。

DeepMindは、サイバーセキュリティや政府機関向けなど機密性の高い評価領域において、この手法が特に重要になるとみています。今後は業界全体でモデル監督の新たな基準として定着させ、より安全で信頼できるAIシステムの構築につなげたい考えです。