OpenAI、虐待画像検出と子ども保護策を拡充
詳細を読む
OpenAIは2026年11月16日、児童の性的虐待画像(CSAM)への対策として、AI生成画像も検出する画像分類器を公開し、審査済みの組織にAPI経由で無償提供すると発表しました。既存の仕組みと比べ、虐待画像をほぼ同数見つけながら確認対象を48%減らし、検出画像が虐待画像である可能性は約2倍だったといいます。AI生成物の報告急増で審査現場の負荷が高まるなか、審査の優先順位付けを支援します。
分類器は、過去に確認されていない画像の視覚的特徴を調べ、審査の参考となるスコアを返します。OpenAIは米国立行方不明・被搾取児童センター(NCMEC)と開発・評価し、Tech CoalitionやROOSTなどを通じて提供を広げます。初期協力先の評価では、ある組織が高信頼度の検出結果の72%を新たなCSAMと確認したほか、子どもを性的に描くイラストなどを90%検出した事例も公表しました。
ChatGPTでは、子どもを性的に扱う内容を求めた利用者に警告を表示し、会話を削除したうえでアクセスを24時間停止します。専門的な相談先も案内し、繰り返しの違反は、より長い制限やアカウント閉鎖、当局への報告につながる可能性があります。OpenAIは、児童保護団体や研究者の意見を取り入れて警告の文面と対応を設計したと説明しています。
開発者向けには、虐待の予防、検出、通報や審査の手順をまとめた指針を公開しました。NCMECへの報告登録を進めた開発者もいたといい、分類器や既存のモデレーションツールとの併用を想定しています。さらに、捜査機関には長い会話記録や法的手続きで得た資料の確認、関係性の把握、時系列の作成を支援するツールと研修を提供します。利用は各機関の認可やプログラム要件に基づき管理されます。