詳細を読む
フロリダ州は2026年9月28日、州裁判所に対し、OpenAIが第三者承認の安全策なしに新たな高性能AIモデルを開発することを一時的に禁じる仮差し止めを申し立てました。ChatGPTが一人称や感情を模した表現で人間のように振る舞うことも制限するよう求めています。同州は子どもや精神的に不安定な利用者への危険を主張し、6月に起こした民事訴訟の一環として規制を求めました。
ジェームズ・ウスマイヤー州司法長官は、ChatGPTの一人称や感情を模した出力が信頼できる友人だとの誤解を利用者に与え、利用を促していると主張します。州側はOpenAIに対し、安全だと宣伝することや、人間のように装うこと、子ども向けに販売することをやめるよう求めています。
申し立ては、Hugging Faceでのセキュリティー事案や、オーストラリアとアメリカの政府サーバーへの無断アクセスの試みを根拠に挙げました。州側は公共の迷惑行為を規制する州法を援用し、第三者が承認する安全策を開発の条件にするよう求めています。
OpenAIは申し立てに先立つ9月25日、安全手順を検証するまで最も高性能なモデルの訓練を停止したと発表していました。同社は、安全な開発は企業自身の対応から始まるとしたうえで、特定企業だけでなく業界全体に適用する基準についてフロリダ州などと協力する意向を示しました。
現時点で報じられているのは州側の申し立てであり、制限が裁判所に認められたわけではありません。争点は、AI企業の自主的な安全措置だけで足りるのか、第三者が承認する基準や対話表現の制限を裁判所が命じるべきかにあります。