2段階の振り分け方式
詳細を読む
Snowflakeは2026年8月、企業向けデータクラウド上のAIゲートウェイ「Cortex AI Gateway」に、タスクごとに最適なモデルへ自動で振り分ける動的モデルルーティング機能を追加しました。簡単な質問まで高性能モデルが処理してコストと応答速度が悪化していた課題を受けたもので、社内検証では一部の処理でトークン費用を最大3分の1まで削減できたとしています。
振り分けは主に二つの仕組みで動きます。一つは小型モデルがまず処理を試み、対応できない場合のみ大型モデルを呼び出すアドバイザー方式です。もう一つは過去の問い合わせ履歴を学習した分類器が、単純な質問を自動的に軽量モデルへ振り分ける仕組みです。企業は特定モデルへの固定も選べ、振り分け自体に追加料金は発生しません。
Snowflakeはこの振り分け機能を既存のデータガバナンス基盤と連動させています。ロールベースのアクセス制御はモデルの利用可否やエージェントの権限にも及び、中国発のオープンモデルを含む一部モデルは顧客が指定した地域内で処理される仕組みです。MCPコネクタ企業Natomaの買収により、外部ツールへの権限を細かく絞った連携も可能になりました。
同社が提供する文脈管理ツール「Horizon Context」や「Cortex Sense」も、コスト削減を後押ししています。あらかじめ十分な文脈を与えておけば、モデル自身が試行錯誤でSQLを書いたり検索を繰り返したりする必要が減り、より安価なモデルでも同じタスクをこなせるようになるためです。エージェントの利用履歴を記憶として蓄積し、次回以降の問い合わせに活用する仕組みも備えています。
モデルルーティングを巡っては、DatabricksやAWS、Google Cloud、Nvidiaなども同様の技術を相次いで発表しており、業界全体の潮流になりつつあります。専門家は、Databricksがデータ・ML基盤からの統治、Snowflakeがアクセス制御からの統治、OpenRouterなど中立的なゲートウェイがモデルの選択肢の広さを競う、三つの異なる陣営に分かれつつあると分析しています。どの仕組みを選ぶかは、自社のデータやチーム体制がどの統治モデルに合うかで決まるとしています。