GoogleがAI概要の医療クエリへの表示を停止、危険な誤情報問題が発覚

問題の経緯と規模

肝機能血液検査の基準値を誤表示
膵臓がん患者への逆効果な食事指示
The Guardianの調査で発覚
専門家が「危険」「警戒すべき」と批判
一部クエリでAI概要が無効化

Googleの対応と課題

特定クエリのAI概要を削除
内部医療チームが「概ね正確」と反論
類似クエリでは依然表示継続
医療分野でのAI信頼性に疑問
根本的な問題未解決との批判
詳細を読む

Google医療関連の一部検索クエリに対してAI概要(AI Overviews)の表示を停止しました。The Guardianの調査により、肝臓の血液検査基準値や膵臓がん患者への食事アドバイスなど、医療専門家が「危険」と指摘する誤情報が表示されていたことが明らかになりました。

「liver blood tests normal range」などのクエリでAI概要が無効化されましたが、「lft reference range」など類似するクエリでは依然としてAI生成の概要が表示される場合があります。Googleの広報担当者は、内部の医師チームが調査した結果「多くの場合、情報は不正確ではなかった」と述べましたが、削除については明確なコメントを避けました。

英国肝臓信託の広報・政策責任者は削除を「良いニュース」としながらも「個別の検索結果を問題とするだけで、医療分野でのAI概要の根本的な問題を解決していない」と警告しています。今後Googleがどのように医療クエリでのAI品質管理を強化するかが注目されます。