Hugging Face、ローカル向けInkling 2 Miniを公開

小型MoEモデル

総計約260億、稼働時30億パラメーター
中間層を3回巡るループ構造
画像・テキストと100万トークンに対応

ローカル実行を支援

Transformersやllama.cppなどに対応
48ベンチマーク中32項目で優位と報告
可変ループの研究版も公開
詳細を読む

Hugging Faceは2026年11月20日、Thinking Machines Labと連携し、ローカル環境向けのマルチモーダルモデル「Inkling 2 Mini」を公開しました。Mixture-of-Experts(MoE)構成で総計約260億、トークンごとの稼働パラメーターは約30億とし、画像とテキストを入力でき、最大100万トークンの文脈に対応します。

モデルは24の物理層を持ち、そのうち中間の12層を3回繰り返して実行します。重みを再利用しながら計算時には48層相当の訪問を行う設計で、Hugging Faceは小規模なローカル構成での利用を想定しています。

配布形式にはNVFP4とMXFP8の専門家重みを含み、推論を速めるDSpark drafterも提供します。実行環境としてTransformers、llama.cpp、MLXをサポートし、データセンター向けにはSGLangも初日から対応するとしています。

Hugging Faceの発表によると、Artificial Analysis Intelligence Index v5などの評価で同クラスの複数モデルと比較し、48ベンチマーク中32項目で優位でした。コーディング、ツール利用、視覚理解、推論、安全性などを含む結果ですが、同社自身も一部比較は追加検証が必要と記しています。

固定3回ループの通常版に加え、ループ回数を1回や2回に変更できる研究用モデルも公開されました。ループ数を減らせば推論は速くなる一方、生成品質がやや下がる可能性があり、十分な評価はこれからです。