TrueFoundryがモデル障害時の自動トラフィック切替を提供

TrueFoundryは「TrueFailover」を発表した。エンタープライズのAIシステムでモデル障害やサービス停止が発生した際、自動でトラフィックを切り替える機能を提供する。

OpenAI・Anthropic・Google等の複数のLLMプロバイダーに対応し、1つのプロバイダーが停止しても即座に別プロバイダーへ切り替えることでサービス継続性を確保する。

AIをビジネスクリティカルな用途に使う企業にとって、可用性保証は必須条件であり、LLMOpsツールの成熟が進んでいることを示す。