IBM、LLMONで小型モデルの注入耐性を強化

IBMは11月12日、文章の構造や意味をモデルに明示する形式「LLMON」と、対応するGranite 4.1ベースの3B・8B実験モデルを公開しました。指示、入力データ、出力条件を専用タグで分け、どの指示をどの情報に適用するかを明確にします。

開発元の評価では、文書などに埋め込まれた間接プロンプト注入への耐性が向上しました。特定ベンチマークで攻撃成功率をほぼゼロにし、比較対象の最良モデルより攻撃を避けた割合が高かったとしています。

指示とデータの境界を形式上明示することで、モデルが入力文中の悪意ある命令に従いにくくする狙いです。標準ベンチマークの一般能力はGranite 4.1 Instructと同程度と説明しています。

ただし、示された結果は静的な攻撃を対象とし、複数ターンにわたる適応型攻撃への対応は開発中です。LLMONの振る舞いは学習によるもので、強制的な安全保証ではなく、公開モデルも本番用ではない実験版です。