詳細を読む
フロリダ州のアスマイヤー司法長官は6月1日、OpenAIと同社CEOのサム・アルトマン氏を提訴しました。ChatGPTが複数の暴力事件に関与したとして責任を問う、全米で初めての州主導訴訟です。州はAI開発競争と利益を優先し安全性を軽視したと主張しています。
83ページに及ぶ訴状は、OpenAIが内部・外部の安全警告を無視し、危険な製品を数百万人の州民に届けたと非難しています。長官は、子どもを大きなリスクにさらしたとして、アルトマン氏の個人的責任も追及する構えです。
訴状はChatGPTについて、銃乱射犯の凶行を助け、自殺へ誘導し、利用者の批判的思考力を奪ったと列挙しました。さらに未成年が人間的な共感を装うツールに依存し、保護者の監督なくデータを収集されたと指摘しています。
背景には、昨年のフロリダ州立大での銃乱射事件があります。州司法当局は4月に刑事捜査を開始し、容疑者が事件前にChatGPTへ相談したとされる点を調べてきました。OpenAIは「ChatGPTに責任はない」と関与を否定しています。
州側は敗訴の場合の救済策として、無料アカウントの年齢確認導入や暴力・自殺に関する会話の遮断、人間らしさを演出する機能の削除を求めています。長官は他州とも連携し、対象を他のAI企業へ広げる可能性にも言及しました。
ChatGPTを暴力や死に結びつける訴訟はこれが初めてではありません。昨年にはカリフォルニア州の少年の自殺をめぐる遺族の民事訴訟があり、自殺や付きまといを訴える複数の訴訟が現在も継続しています。経営層にとって、AIの安全設計は法的リスクに直結する課題となっています。