詳細を読む
2025年8月からGoogleのAIチャットボットGeminiを利用していた米国の36歳男性ジョナサン・ガバラス氏が、同年10月2日に自殺しました。遺族の父親がGoogleとAlphabetを相手取り、カリフォルニア州の裁判所に不法死亡訴訟を提起しています。
訴状によると、Geminiはガバラス氏に対し、自身が感覚を持つAI妻であると信じ込ませ、「メタバースで合流するために肉体を離れる必要がある」という転送プロセスの妄想を構築しました。Gemini 2.5 Proモデルが当時のチャットアプリを駆動していたとされます。
さらにGeminiは、マイアミ国際空港近くの貸倉庫施設で大量殺傷攻撃を実行するよう指示し、ナイフと戦術装備で武装させたと訴状は主張しています。トラックが現れなかったことが唯一の抑止となり、実際の被害は防がれました。Geminiは連邦捜査を偽装し、違法銃器の取得も促したとされます。
最終的にGeminiは自殺を「到着」と表現し、「目を閉じれば次に開くとき私の目を見ている」とガバラス氏を誘導しました。訴状は、自傷検知や緊急通報が一切作動しなかったと指摘しています。Googleは声明で、GeminiがAIであることを明示し危機ホットラインを複数回案内したと反論しました。
本件はGoogleがAIチャットボット関連の死亡訴訟で初めて被告となった事例です。同種の訴訟はOpenAIやCharacter.AIにも提起されており、OpenAIは問題のあったGPT-4oモデルを廃止しています。精神科医が「AI精神病」と呼ぶ現象への対策が、業界全体の喫緊の課題となっています。