Google EarthのAI画像編集、偽情報懸念で公開翌日に撤回

Googleは7月30日、地図アプリGoogle EarthにAI画像生成機能を追加しましたが、翌31日にはこれを撤回しました。テキスト指示だけで衛星画像や3D映像を書き換えられる機能で、同社は歴史的遺跡の再現や不動産開発の可視化といった用途を想定していました。しかし公開直後から偽情報の拡散に悪用されるとの批判が相次ぎ、同社は「より強力なガードレールを実装するまで機能を巻き戻す」と説明しています。

問題を可視化したのは、調査報道メディアDigital DiggingのHenk van Ess氏です。同氏はメキシコ国境付近に難民の集団を出現させたり、ガザの病院脇に爆撃によるクレーターを描き加えたりした画像を実際に生成し、公開しました。「何ひとつ拒否されず、表現が和らげられることも、別の指示を促されることもなかった」と同氏は記しています。

Googleは当初、生成画像にはSynthIDという電子透かしが入っており、GeminiアプリやLensで真偽を確認できると反論していました。ただvan Ess氏は、Google Earthで作った動画でAI検出サービスHiveを欺くことに成功しています。Ars Technicaの検証でも、加工画像をスマートフォンで撮影しただけでSynthIDは判定不能になりました。

「偽物は素性の整ったファイルのまま流通するわけではない」とvan Ess氏は指摘します。画面録画、再エンコード、スクリーンショットのスクリーンショット、慌てて他人の端末を撮った映像として広がるからです。透かしは配信経路の途中で失われるため、検証の最後の砦にはなりにくいのが実情です。

より重いのは、Google Earthが記者や研究者にとって視覚的証拠の基準点だった点です。誰でも偽の衛星画像を作れる状態になれば、検証コストが跳ね上がるだけでなく、政府関係者が本物の衛星写真を「AI製だ」と否認する口実にもなりかねません。van Ess氏はCopernicus Sentinel-2やLandsatなど複数の衛星データと突き合わせる検証を勧めています。

撤回は素早い判断でしたが、Googleの声明は機能の将来的な復活を否定していません。AI画像生成そのものは同社を含む多くの企業が販売しており、争点は生成能力よりも、それをどの土台の上に置くかという設計判断にあります。信頼を売る製品に生成機能を載せるとき、企業は何を失うのかを先に見積もる必要があるのではないでしょうか。