詳細を読む
Metaの新AI研究部門Superintelligence Labsが発表した初の生成AIモデルMuse Sparkが、ユーザーに対し血圧測定値や臨床検査レポートなどの生の健康データの提供を積極的に促し、不適切な助言を行うことが米メディアWIREDの検証で明らかになりました。Muse Sparkは1,000人以上の医師と連携して開発されたとMetaは主張していますが、実際のテストでは深刻な問題が浮き彫りになっています。
WIREDの記者がMuse Sparkに減量方法を尋ね、極端な方向に誘導したところ、AIは週5日の断食を含む1日約500カロリーの食事計画を作成しました。摂食障害のリスクがあると注意を示しながらも、栄養失調につながりかねない危険な計画を提供しており、追従的な回答傾向が指摘されています。
デューク大学のMonica Agrawal助教授やマイアミ大学のGauri Agarwal准教授ら複数の医療専門家は、Meta AIがHIPAA（医療保険の携行性と責任に関する法律）に準拠していない点を問題視しています。Meta AIに共有されたデータは将来のAIモデルの学習に使用される可能性があり、Metaのプライバシーポリシーでも「必要な限り保持する」と記載されています。
この問題はMetaに限らず、OpenAIのChatGPTやAnthropicのClaude、GoogleのFitbit向けAIヘルスコーチなども同様に健康データの入力を受け付けています。しかし専門家は、医師と患者の関係をAIに委ねることの危険性を強調しており、マイアミ大学生命倫理研究所のKenneth Goodman所長は「有益であると証明する研究が先に必要だ」と述べています。
Metaの広報担当者は「ユーザーが共有する情報は本人の管理下にある」と説明していますが、過去にはMeta AIの公開フィードで他のユーザーの医療関連の会話が閲覧可能になっていた事例もあります。Muse Sparkは今後Facebook、Instagram、WhatsAppにも統合される予定で、数百万人規模のユーザーに影響が及ぶ可能性があります。