4分の1規模でほぼ同性能
詳細を読む
元OpenAI最高技術責任者のミラ・ムラティ氏が率いるThinking Machinesは7月31日、オープンソースの推論モデルInkling Smallを公開しました。総パラメータは2760億と、2週間前の旗艦モデルInklingの9750億から約4分の1に縮みましたが、第三者機関の知能指数は40と、Inklingの41に1点差まで迫ります。ライセンスは商用利用しやすいApache 2.0です。
性能は単に近いだけではありません。同社の計測では、コーディング能力を測るSWE-bench Verifiedで80.2%とInklingの77.6%を上回り、Terminal Bench 2.1でも64.7%対63.8%と逆転しました。一方で事実知識や一部のエージェント課題は旗艦が優位で、金融系のτ³-Bankingは15.5%とInklingの23.7%に届きません。
規模を抑えられた理由は、疎なMixture-of-Experts構成にあります。42層のデコーダーが各トークンを256の専門家のうち6つに振り分け、常時働く共有専門家2つと合わせて、1トークンあたりの実効パラメータは120億に収まります。テキスト・画像・音声を同じ表現空間で処理する設計で、推論にかける計算量も課題の難易度に応じて調整できます。
ただしSmallという名前は、あくまで旗艦との比較です。BF16版の実行には合計600GB以上のGPUメモリが必要で、同社はNVIDIA B300を4基、またはH200を8基という構成を挙げています。NVFP4に量子化すれば約180GBまで下がりますが、それでもノートPCや一般的なワークステーションでは動きません。
企業にとっては、ベンチマーク以上にライセンスが効いてきます。Apache 2.0は改変・再配布・自社製品への組み込みを広く認めるため、売上条件や利用制限を付ける独自の「オープン」ライセンス、たとえば今週重みが公開されたMoonshotのKimi K3と比べて、法務や調達の負担が軽くなります。ただし利用規約やデータ来歴の確認まで免除されるわけではありません。
同社の研究者Horace He氏はXで、Inklingの公開には大勢の手が必要だったのに対し、Inkling Smallは既存のパイプラインに小さいモデルを通すだけの定型作業に近かったと述べています。事前学習データの改良と、Inklingを教師にしたオンポリシー蒸留、2週間の強化学習を積み上げた成果です。オープンな多モーダルモデルを継続的に出す体制が整いつつある、という点こそが最大の合図かもしれません。