出典：Ars Technica
詳細を読む
カナダ・オンタリオ州の監査総監が、州政府が推奨するAI医療スクライブ（診察内容の自動要約ツール）全20社を対象に精度検証を実施しました。2件の模擬診察の文字起こしテストを行った結果、全社が正確性または網羅性に問題を抱えていることが判明しました。多忙な医師の負担を軽減する目的で急速に普及が進むAIスクライブですが、その信頼性に重大な疑問が突きつけられた形です。
具体的には、20社中9社が患者情報を捏造（ハルシネーション）し、12社が情報を誤って記録、17社がメンタルヘルスに関する重要な詳細を見落としていました。これらは簡易的なテストにもかかわらず発生しており、実際の複雑な診察場面ではさらに深刻な問題が起こり得ると懸念されます。
報告書では、患者ケアに直接悪影響を及ぼしかねない具体例が複数示されています。存在しない血液検査や心理療法への紹介状をAIが勝手に生成したケース、処方薬の名称を誤って記録したケース、診察で話し合われたメンタルヘルスの重要事項が記録から欠落したケースなどです。いずれも「不適切または有害な治療計画につながり、患者の健康に影響を及ぼす可能性がある」と監査総監は警告しています。
この監査結果は、医療分野におけるAI導入の難しさを改めて浮き彫りにしています。州政府が事前審査・認定した製品であっても品質が担保されていなかった点は、AI調達の審査プロセスそのものの見直しを迫るものです。医療現場でのAI活用が世界的に加速する中、導入前の厳格な精度検証と継続的なモニタリングの重要性を、この報告は強く示唆しています。