MIT、AIの児童性的虐待画像の生成能力を生成せずに検出

マサチューセッツ工科大（MIT）の研究チームは7月13日、児童保護団体Thornと共同で、AIモデルが違法な児童性的虐待資料（CSAM）を生成できるかどうかを、実際に画像を生成せずに判定する新たな監査手法を発表しました。モデル内部の隠れ表現を解析することで、有害な画像生成に特化したモデルを高精度で見抜けるのが特徴です。試験ではCSAM生成用に改変されたモデルを100%の精度で特定しました。

背景には、生成AIの急速な普及があります。誰でも改変できるオープンソースモデルが悪用され、全米行方不明・被搾取児童センターへのAI生成CSAMの通報は2024年の6万7000件から2025年には150万件超へと急増しました。しかし米国では意図に関わらずCSAMの生成自体が違法なため、従来の「生成して出力を確認する」監査手法が使えないという深刻なジレンマがありました。

研究チームが着目したのは、モデルを効率的に特化させるLoRA（低ランク適応）という微調整技術がもたらす内部の変化です。「Gaussian probing（ガウス探査）」と呼ぶ手法で、ランダムなデータをモデルに入力し、多層構造の内部でどう処理されるかを解析します。出力を最後まで生成しないため、有害画像を作り出すことなく能力を推定できる点が画期的です。

3種類のモデルの改変版で検証したところ、CSAM生成用に調整されたモデルを100%正確に識別できました。手法は安価で拡張性が高く、毎月何千もの改変モデルが公開される現状にも対応できます。ホスティング事業者はこれを使い、危険なモデルにフラグを立てて削除したり、アップロード自体を防いだりできます。

筆頭著者のMIT大学院生Vinith Suriyakumar氏は「これまで測定手段がなく、悪用される大きな死角だった。今回、深刻な悪影響を及ぼすAI安全性の問題に対処できる」と語ります。研究チームは今後、より多くのモデルで検証を進め、微調整前の基盤モデルの段階で有害な能力を検出できるかも探る方針です。