出典：Anthropic公式
詳細を読む
Anthropicは8月7日、最上位モデルClaude Fable 5の生物学分野の安全装置を更新し、誤検知を大きく減らしたと発表しました。生物学に関する質問で下位モデルへ自動的に切り替わる「フォールバック」は、同社製品全体で約85%減少したといいます。検査値の解釈や症状の理解といった日常的な健康・教育目的の質問が、これまでより通りやすくなります。
恩恵を受けるのは、一般の利用者と医療従事者です。同社は、臨床業務でもFable 5からより多くの支援を受けられるようになると説明しています。生物学と医療こそAIが世界に最も貢献できる領域だという見立てが、今回の緩和の背景にあります。
一方で、ウイルス学や毒性学、分子設計のようにデュアルユース（軍民両用）と判断される依頼は、引き続きOpus 5へ振り向けられます。そのためFable 5は、専門的な生物学研究や創薬の現場ではまだ使えません。同社は信頼できる利用者に限って最先端の生物学能力を開放する仕組みづくりを進めるとしています。
安全装置の中核は、危険な依頼や出力を検知する小型の安全分類器です。Fable 5の公開時、同社は生物学関連の質問をほぼ全面的に遮断する広い分類器を使い、誤検知の多さを承知のうえで公開を優先しました。悪用された場合の被害が甚大になりうると判断したためです。
この数週間、同社は分類器の判断基準となる「憲法」を書き直し、社内外の専門家の助言を受けて訓練データを作り直しました。再学習後の分類器は、有害な内容やデュアルユースの内容には従来どおり反応しつつ、良性の依頼を通す精度が上がったといいます。誤検知はなお残るとしたうえで、利用者からの報告を基に改善を続ける方針です。