Sentence Transformersマルチベクトル対応

後期相互作用とは

トークン単位でベクトル保持
MaxSimで精密照合
画像検索でも最先端性能

主な新機能

MultiVectorEncoderを追加
画像音声動画に対応
トークン圧縮で軽量化

対応エコシステム

Qdrant・Weaviate等に対応
PyLateの機能を統合
詳細を読む

Hugging Faceは2026年8月18日、文埋め込みライブラリSentence Transformersの最新版で、ColBERTスタイルの後期相互作用(マルチベクトル)型埋め込みモデルを標準機能として公開しました。トークン単位でベクトルを保持し、単一ベクトルでは失われがちな情報を検索時に活用できるようにする狙いです。

従来の密ベクトル型埋め込みモデルは、文章全体を1つの固定長ベクトルに圧縮するため、固有名詞や複数条件を含む複雑なクエリで情報が失われやすいという課題がありました。新しいマルチベクトルモデルはトークンごとに個別のベクトルを保持し、クエリとドキュメントの類似度計算にはMaxSimという手法を用います。各クエリトークンについて最も類似度の高いドキュメントトークンを選び、その合計をスコアとする仕組みです。

今回追加されたMultiVectorEncoderクラスは、PyLateやStanford-NLPのColBERT、ColPaliファミリーなど、これまで形式がばらばらだったチェックポイントを統一的に読み込めるようにしました。これにより開発者は数行のコードでモデルを切り替え、検索やスコアリングを実行できます。

マルチベクトル方式はテキストだけでなく、ページ画像を直接検索する視覚文書検索でも最先端の性能を発揮します。OCRを介さずに画像とクエリを照合できるほか、音声動画にも同じAPIで対応し、字幕なしで会話を検索する例も紹介されました。

インデックスサイズの増大という課題には、トークンプーリングによって類似ベクトルをまとめ、性能をほぼ落とさずに圧縮する手法が用意されています。またQdrantWeaviateVespaなど主要なベクトルデータベースも後期相互作用検索にネイティブ対応しており、実運用への道筋が整いつつあります。