Diffusersが4ビット画像生成を標準対応

Hugging Faceは2026年7月23日、画像生成AIを4ビットで高速に動かす量子化技術を、標準ライブラリのDiffusersへ正式に統合したと発表しました。これまで専用の推論エンジンが必要だったNunchakuの仕組みを、通常のモデルと同じfrom_pretrained()だけで読み込めるようにする「Nunchaku Lite」を新たに提供します。ローカルでのCUDAコンパイルも不要で、必要なカーネルはHubから自動で取得されます。

中核となるのは、開発元がSVDQuantと呼ぶ量子化手法です。一般的な低精度化は重みだけを圧縮して計算時に元へ戻すため、メモリは減っても速度は上がりにくいという課題がありました。SVDQuantは変換器の主要層を重みと活性化の両方を4ビットで処理し、外れ値を重み側へ移して低ランク補正を加えることで、精度を保ちながら生成ループそのものを高速化します。

効果は数値にも表れています。RTX PRO 6000での測定では、BF16基準に対しピークVRAMを31.1GBから20.6GBへと最大50%削減しつつ、処理を約30%高速化しました。さらにtorch.compileを併用すると全体で1.8倍速となり、テキストエンコーダもNF4で量子化すればVRAMは16GBまで下がります。

一方で制約もあります。最速のNVFP4版はNVIDIAのBlackwell世代GPU(RTX 50シリーズなど)が必須で、旧世代向けにはINT4版が用意されています。また旧来のNunchakuエンジンが持つ機種別の最適化は省かれるため、絶対的な速度では及びません。しかしその代わりにアーキテクチャに依存しない汎用的な統合を実現し、多様なモデルへ手間なく適用できる点が今回の狙いです。