InferactがvLLM商業化で1.5億ドルを調達
推論市場の競争
RadixArk・Together AIとの競合
オープンソース商業化モデル
詳細を読む∨
AI推論スタートアップのInferactはvLLM(大規模言語モデル推論ライブラリ)を商業化するため、1.5億ドルの資金調達を完了したとTechCrunchが報じた。AI推論市場への大規模投資が続いている。
vLLMはUCバークレー発のオープンソース推論エンジンで、高スループット・低レイテンシを実現する。Inferactはこれをエンタープライズ向けのマネージドサービスとして提供する。
RadixArk(SGLang)など類似の推論商業化スタートアップへの投資も相次いでおり、AI推論インフラ市場が急速に形成されている。