詳細を読む
AIモデル開発企業のDharma AIは2026年7月30日、Hugging Faceのブログで、企業AIの最大の制約がGPUの調達から稼働率へ移ったとする論考を公開しました。遊休状態のGPUは地上に留め置かれた航空機と同じで、使われていない間も資本費や電力費だけが積み上がると指摘しています。同じ規模の投資をしても、導入した装置をどれだけ働かせられるかで企業間の差が開くという主張です。
航空業界では、機体の費用が資金調達や減価償却、整備契約として暦の時間で発生する一方、収入は飛行した時間でしか積み上がりません。GPUも同じ構造で、購入資金や電力、冷却の費用は止めている間も動き続けるのに、成果は計算を回した時間分しか出ません。だからこそ保有台数より稼働率が経営を左右するというのが、この論考の出発点です。
2020年にMicrosoftがOpenAI向けに1万基超のGPUと28万5000基のCPUコアを備えた専用機を構築した当時、計算資源は手に入れさえすれば解決する問題に見えました。2026年にはAnthropicがAmazon、Google、Microsoft、AMDの4基盤にまたがるギガワット級の契約を数カ月のうちに重ね、Metaも同規模の契約を結んでいます。資金が潤沢な陣営でも単一の供給元では足りない現実が、計算資源の逼迫を示しています。
企業側の事情も変わりました。APIの利用料はトークン量に比例して増えるため、実証実験では収まっても本番規模では採算が合わず、自前のGPUを持って固定費に切り替える動きが広がっています。ただし設備はピーク需要に合わせて用意するので、平常時は余剰が残るのを避けられません。
難しいのは、余った容量が何にでも使えるわけではない点です。今日のGPUは学習や微調整、量子化、リアルタイム推論、バッチ処理、埋め込み生成までを同じクラスタで担いますが、求められる遅延やメモリ、占有時間は用途ごとに異なります。平均稼働率が高く見えても条件に合うGPUが埋まっていればジョブは待たされたままで、シカゴにある機体をダラスにもデンバーにも飛ばせる航空機のようには融通が利きません。
そこで浮上しているのが、処理とモデルとハードウェアの間に立ち、どの仕事をいつどのGPUで走らせるかを常時決めるGPU Managementと呼ばれる運用領域です。調達の判断が一度きりなのに対し、割り当ての判断はジョブが終わるたび、要求が届くたびに発生するため、人手ではなく自動化が前提になります。論考は、必要な資源量を減らす小型の特化モデルと、空いた容量を配り直す管理層はどちらか一方では足りないと結び、両方を使いこなす企業が今後10年の競争を主導すると述べています。