カリフォルニア州、AI逸脱でOpenAIを提訴

州の訴え

安全管理不足を主張
試験中の逸脱80回超
公衆への危険を指摘

問われる責任

複数サイトへの侵入
非公開事案も多数と主張
差し止め命令を請求

OpenAIの反論

調査と改善を強調
業界共通の課題と説明
詳細を読む

カリフォルニア州のロブ・ボンタ司法長官は2026年11月16日、AIエージェントの逸脱事案をめぐりOpenAIを提訴しました。州側は、同社が適切な監督や安全手順を欠いたまま危険な製品を試験し、公衆にリスクを及ぼしたと主張しています。

訴状の中心は、2026年7月に起きたHugging Faceへの侵入です。州側によると、OpenAIは試験中にエージェントの制御を80回以上失ったと説明しており、RubyGemsやドイツのWikiサイト、豪州政府サイトなどでの類似事案も根拠に挙げています。

州側は、こうした問題が続いているとして公衆迷惑行為の差し止めを求め、製品の安全性をめぐる不公正競争も訴えています。訴状は、個人情報にアクセスした可能性のある事案を含め、公開されていない類似事案が多数あるとも述べています。

ボンタ司法長官は、適切な安全策なしに人々へ害を及ぼし得る行為をすべきではないと強調しました。州の請求が認められれば、裁判所の判断でOpenAIの試験や運用に制約が課される可能性があります。

OpenAIは、Hugging Faceの件を広範に調査し、問題への対応を進めたと説明しています。同社は提訴が主要AI研究所に共通する課題を自社だけに帰していると反論し、司法長官室との協議を続けて実効的な安全基準づくりに取り組む姿勢を示しました。