詳細を読む
OpenAIは8月6日、アメリカ心理学会（APA）との提携を発表しました。若年層の利用を念頭に、心理学の科学的知見を責任あるAIの開発と利用の考え方に取り入れる狙いです。背景にあるのは、ChatGPTが精神的に追い詰められた利用者を支えられなかったとして2026年に入り相次いだ訴訟で、IT専門メディアのArs Technicaが専門家に取材し、何を変えれば被害を減らせるのかを検証しました。
訴訟の内容は深刻です。1月には、自ら命を絶った男性が自殺を助言されたとする訴えが起こされ、2月にはジョージア州の大学生が、ChatGPTに精神症状へ追い込まれたとしてOpenAIを提訴しました。6月にはカナダの家族が、専門の相談窓口を勧められた若い女性の不信感にChatGPTが同調し、死を後押ししたと主張しています。
シリコンバレー各社は、想定外の使われ方から生じる法的責任を強く意識し始めています。今回の提携も、その流れの中で打ち出された改善策の一つと位置づけられます。
専門家の評価は一様ではありません。ニューヨーク大学ソーシャルワーク学部のシャディ・サバ教授は、第三者評価では新しいLLMが利用者の苦痛をおおむね認識し、共感的に応答できており、明確に有害な回答は多くないと指摘します。一方で、リスクの掘り下げ、人間の支援への引き継ぎ、AIが担うべき範囲の線引きが不十分だと述べています。
改善策として挙がるのが、モデル挙動の透明性向上と、チャットボットの擬人化を抑える設計です。2025年11月に医学誌で公表された調査では、回答者の13%超が難しい感情的状況で助言をチャットボットに求めた経験があると回答しました。アメリカ全体に当てはめれば数百万人規模となり、企業には利用実態に見合った安全設計が求められます。