Durable、エンジニア6人で300万顧客のAI基盤をVercelに統合
出典:vercel.com
詳細を読む
Durableは、起業家が数分でビジネスを立ち上げられるAIビジネスビルダーです。SEOやコンテンツ、業務運営をAIエージェントが代行し、現在300万以上の事業者にサービスを提供しています。わずか6人のエンジニアチームで、年間3600億トークンを処理する大規模プラットフォームを運営しています。
同社はもともとAWSでセルフホストしていましたが、マルチテナント環境の運用が深刻な課題となっていました。数百万の顧客サイトごとに異なるトラフィックパターンがあり、カスタムドメインのSSL管理、複数リージョンのクラスタ維持、DDoS対策、テナント別コスト計測など、インフラ管理だけで開発リソースが圧迫されていました。
CTOのKhan氏は「Vercelを自前で作るか、Vercel上に構築するかの二択だった」と語ります。移行はiframeで旧プロダクトをラップしてVercelにデプロイし、その後セルフホスト基盤を完全に撤去するという大胆な手法で実行されました。コーディングエージェントを活用してコードベースの全面書き換えも同時に進めています。
AI機能においては、モデルの切り替え柔軟性、テナント間のコンテキスト漏洩防止、顧客単位のAIコスト可視化という3つの課題を解決しました。マルチエージェント・マルチモデル・マルチモーダルのプロダクトを安全に運用できる体制が整っています。
創業者のClift氏は「数年前の10倍のアウトプットをエンジニア・PM・デザイナー全員が出せるようになった」と述べています。インフラチーム不在で1日11億トークンを処理し、新しいエージェントを1日で顧客に届けられる体制は、今後のテック企業の標準になるとの見方を示しました。