Box、Nvidia技術でAI検索を高速化
新機能
Nemotron埋め込みを採用
関連文書の断片を抽出
回答速度4倍を見込む
トークン使用90%減の予測
提供計画
誤り20%減を見込む
企業向けに来年展開
権限管理と既存情報を活用
出典:TechCrunch
詳細を読む
Boxは開発者会議で、NvidiaのNemotron埋め込み技術を組み込んだ「Box Content Retrieval」を発表しました。AIエージェントが文書全体を読む代わりに、質問や作業に関連する箇所を検索して返します。
Nvidiaの担当副社長は、従来比で回答が4倍速くなり、誤りが20%減り、トークン使用量を90%削減できるとの見通しを示しました。これらは同社側の予測です。
Nemotronの埋め込みモデルは、単語の一致だけでなく概念上の関連を捉えます。Boxは、異なる表現で書かれた法律文書から条項や先例を探す用途を例に挙げました。
機能はEnterprise Advanced顧客向けに来年初めから提供する予定です。Boxが蓄積したメタデータやアクセス権限管理も組み合わせるため、モデル単体では再現しにくいと説明しています。