Multiverse Computing、過剰拒否4.16%

Multiverse Computingの研究チームは2026年9月8日、LLMが政治などの話題全体を拒むのではなく、配備方針に反する有害な部分だけを拒否する境界認識型の安全調整手法を公開しました。政治的な操作や個別説得は拒否しつつ、選挙の事実質問には答える設計です。Qwen3-8Bを使い、有害側の拒否率と隣接する無害側の過剰拒否を同時に測定しました。

有害プロンプト1件につき1回だけ拒否応答を生成する手法では、19.88%に当たる8,009件が訓練データから脱落しました。段階的に誘導を強めて再試行すると失敗は0.20%、79件まで減り、40,293件の有害プロンプトを確保しました。

安全調整による誤拒否を抑えるため、危険に見える表現を含む安全なプロンプト11,955件を18種類に分けて訓練に追加しました。さらに意図だけが異なる有害・無害プロンプトを各1,539件用意し、方針の境界を両側から評価しました。

Qwen3-8Bでは有害な政治プロンプトへの拒否率が9.47%から84.75%に上昇し、3種の有害性ベンチマークで危険な回答率が26.26%から0.14%に低下しました。しかし同じ設定でXSTestの過剰拒否は2.00%から74.00%に増え、拒否率だけでは安全性を判断できないことが示されました。

無害な境界データを加えると、回答すべき側の過剰拒否は32.94%から4.16%に低下する一方、有害側の拒否率は91.88%から87.72%への小幅な低下にとどまりました。安全調整では有害要求の拒否と正当な要求への応答を同時に測り、訓練データの構成を選ぶ必要があります。