Salesforce・NVIDIA、推論モデルKoa発表
学習データと安全性
実顧客データは未使用
合成データによる追加学習
顧客のデータ規則を順守
基盤と運用コスト
少ないトークン消費
Nemotron基盤の重み公開
出典:TechCrunch
詳細を読む
Salesforceは9月15日、NVIDIAと開発した企業向け推論モデル「Koa」を発表しました。営業、マーケティング、顧客対応に特化し、重み公開モデルNemotronを基盤に追加学習しています。Agentforceで閉鎖型の先端モデルに代わる選択肢として提供し、実顧客データを学習に使わず、少ないトークンで処理して費用と情報管理の課題を抑える狙いです。
Salesforceはこれまで、小規模な業務特化モデルをAgentforceに用意していました。一方、長時間にわたる複数手順の推論はAIゲートウェイを通じ、ClaudeやChatGPTなど外部の先端モデルへ振り分けていました。
Koaの追加学習には、顧客対応担当者や営業担当者の業務を模した合成データを使いました。Salesforceの実顧客データは使っていないため、学習データを通じて他社へ情報が漏れるリスクを避けられるとしています。
Salesforceによると、Koaは同じ業務をClaudeやChatGPTへ送る場合より少ないトークンで処理し、AI費用を抑えます。AgentforceのAIゲートウェイが用途に応じてモデルを選び、Salesforce内に設定された顧客のデータ要件と安全管理を適用します。
SalesforceはAnthropicやOpenAIとの関係を打ち切るわけではありません。Anthropicとの「Claudeforce」も発表しており、企業データをSalesforceの記録システムに残したままClaudeを操作画面として使えるようにします。