詳細を読む
企業のAI活用が「何を作れるか」から「投資に見合う価値を得ているか」へと転換期を迎えています。VentureBeatのAI Impact Tourセッションで、Red Hatのポートフォリオ戦略ディレクターであるBrian Gracely氏は、大企業内部のAI運用の実態として、AI活用の無秩序な拡大、推論コストの上昇、投資対効果の見えにくさを指摘しました。パイロットから本番環境へ移行する「Day 2」の段階に入り、コスト管理やガバナンスがシステム構築以上に困難になっているといいます。
Gracely氏は「Copilotの5万ライセンスを持つ顧客が、何を得ているかわからないまま世界で最も高価なGPUコンピューティングに支払っている」という事例を紹介しました。過去2年間は実験段階として自由な支出が許容されていましたが、2〜3回目の予算サイクルに入った今、支出と成果を結びつける計測基盤の欠如が深刻な問題となっています。
同氏は「トークンの消費者から生成者へ」という戦略転換を提唱しています。すべてのワークロードに最先端モデルが必要なわけではなく、DeepSeekなどのオープンモデルや小型モデルの選択肢が増えたことで、企業は自社でGPUを運用・レンタルする判断が現実的になりました。2年前に市場を独占していた少数のプロバイダー以外にも、実用的な代替手段が揃ってきています。
一方で、トークン単価が年間約60%下落しているにもかかわらず、利用量の急増が効率化の恩恵を相殺するジェボンズのパラドックスが生じています。利用量が3倍になりコストが半減しても、総支出は以前より増加するため、どのワークロードに高性能モデルを使い、どれを低コストモデルで処理するかの見極めが重要です。
Gracely氏が強調するのは、AI投資を減速させることではなく、柔軟性を最優先に設計することです。抽象化レイヤーを設けて実験コストを抑えつつ事業リスクも最小化する。AI活用はまだ3年程度の歴史しかなく、次に何が起きるかは予測困難です。今の費用構造に最適化するのではなく、変化が起きたときに適応できる組織的・技術的な柔軟性を構築することが、最も実践的な戦略だと同氏は結論づけています。