詳細を読む
Anthropicが2026年6月9日に公開したClaude Fable 5は、同社初のMythosクラスモデルの一般提供版ですが、リリース直後から安全制限の厳しさに対する批判が相次いでいます。生物兵器対策を目的とした分類器が過剰に機能し、「ミトコンドリアとは何か」「細胞膜について教えて」といった高校レベルの生物学の質問すら拒否される事態となっています。
サイバーセキュリティ分野でも同様の問題が発生しています。IBM X-Forceの研究者をはじめ、多くのセキュリティ専門家がSNS上で不満を表明しました。安全なコードの書き方を尋ねただけでガードレールが発動し、旧モデルのClaude Opus 4.8にダウングレードされるケースが報告されています。判定がキーワードベースであるため、正当な業務利用まで広く遮断されてしまう構造的な問題が指摘されています。
企業への影響も広がっています。MicrosoftはFable 5の社内利用を制限しました。GitHub CopilotやFoundryの外部顧客には提供している一方、社内のエンジニアには利用を認めていません。Anthropicの新たなデータ保持要件により、プロンプトと出力が30日間保存され、利用規約違反と判断された場合は最大2年間保持される点が法的な懸念材料となっています。
Anthropicはこうした制限が意図的かつ保守的な選択であることを認めています。同社の広報担当者は、Mythosクラスのモデルが悪意ある生物学研究に利用されるリスクを考慮し、「早期に能力を提供するためのトレードオフ」だと説明しました。今後、検出精度の向上と誤検知の削減に取り組むとともに、生命科学コミュニティには制限なしでのアクセスを提供する計画を示しています。
一方、サイバーセキュリティ分野では、Anthropicが設けたCyber Verification Programに申請・承認されれば制限が緩和される仕組みがあります。ただし、現時点ではガードレールの粗さが正当な利用者の業務効率を著しく下げており、安全性と利便性のバランスが今後のAIモデル提供における重要な課題となっています。