出典：Hugging Face
詳細を読む
2026年9月3日、Hugging FaceはLiquid AIの3億5000万パラメータモデル「LFM2.5-350M」を、約500件のデータと100ステップのGRPOで構造化出力向けに調整する手順を公開しました。IFStructの2000件評価では、同一のllama.cpp・BF16環境で合格率が22.6%から29.7%へ7.1ポイント上昇し、小型モデルへの用途別学習の効果を示しました。
基準モデルの総合成績は452件、合格率22.6%でした。内訳はJSONが18.0%、YAMLが27.2%、ラッパーキーが28.5%、トップレベルの裸の配列が16.6%で、必須項目の欠落や項目数の誤りが目立ちました。
学習にはNVIDIAの構造化出力データ約500件を使い、40%のプロンプトにコードブロック指定、別の20%にトップレベル配列の課題を加えました。LoRAで約600万パラメータ、モデル全体の約1.66%を学習対象にしています。
報酬は解析可能性と指定形式、最上位フィールド数、JSON Schema適合性の3軸で採点し、重みを1.0、0.5、2.0に設定しました。16GBのGPUで100ステップを回し、各プロンプト群から8出力を生成するGRPO学習です。
調整後はJSONが18.0%から31.9%、裸の配列が16.6%から29.7%へ伸びた一方、YAMLは27.2%から27.5%とほぼ横ばいでした。狙った形式で改善した結果は、運用で重要なスキーマ準拠を小型モデルに学ばせる際、用途に沿ったデータ拡張と報酬設計が鍵になることを示します。