出典：MIT News
詳細を読む
MITなどの研究チームは8月4日、医療AIの説明機能が利用者の専門知識によって異なる効果をもたらすとの研究結果を医学誌Nature Medicineに発表しました。皮膚疾患の画像診断で非専門家と一次診療の医師を比較したところ、AIの支援は両者の精度を高めた一方、説明可能AIの手法は知識水準ごとに影響が変わることが判明しました。
実験では非専門家にほくろが悪性かどうかの判定を、医師にはより難しい鑑別診断を課しました。予測と確信度のみを示す方式、類似画像を添える方式、重要な画像領域を示すヒートマップ、大規模言語モデルが平易な言葉で理由を述べる方式を比較しています。その結果、すべての方式が非専門家の精度を押し上げましたが、主因はAIへの追従でした。
非専門家はLLMの説明が正しいか誤っているかにかかわらず信頼し、内容が曖昧で一般的なほど説得力を感じていました。誤った回答への確信度もLLM支援時に高まっており、研究チームはAIと説明手法がともに自動化バイアスを引き起こすと指摘します。
対照的に医師は誤ったAI支援に惑わされず、予測だけを示された場合に最も高い精度を示しました。共著者のOrson Xu氏は、医師は自分の診断と照らして悪い説明を見抜ける一方、非専門家は同じ説明で最初の判断を形づくってしまうと述べています。同じ道具が一方には資産、他方には負債になるという指摘です。
AIに追従しやすい利用者ほど、支援なしの成績が低いことも分かりました。説明を診断前に提示すると追従が強まるため、研究チームは利用者に先に診断仮説を出させ、その後にAIが別の候補を示す設計を提案しています。肌の色による診断格差は公平性制約モデルで縮小しており、設計次第で結果が変わることを示しました。