Cloud Intelligence™Cloud Intelligence™

Cloud Intelligence™

開発者はセルフホストLLMを望み、CFOは数字を求めている

LLMセルフホストの損益分岐点は、チーム規模ではなく支出水準で決まります。そして実際のエンタープライズ利用データで見ると、料金ページが示唆するよりも早く訪れます。H100レンタル価格の3.2倍の開きから、API請求額がGPUノードを追い越す月まで、その計算をお見せします

このページはEnglishDeutschEspañolFrançaisItalianoPortuguêsでもご覧いただけます。

Aug 18, 20268 min read

本記事はAIスタックのコストを明らかにします。Attributeは、そのコストがどのチームとプロダクトに帰属するかを明らかにします。

Vadim Solovey

About Vadim Solovey

Founded DoiT in 2011 and have been here ever since — in every flavor of CTO, co-CEO, and now CEO. I started my career in 1999 building data centers before anyone called it "the cloud," and I've spent the two decades since trying to deliver on what the cloud was actually supposed to be. I still write code most weeks.

My personal page

定価だけを見れば、勝ち目はないように思えます。Claude CodeはMaxプランで月額100〜200ドル、Team Premiumなら年間契約で1シート100ドル。Codexも同じ価格帯です。開発者50人でも月額5,000〜10,000ドルと、そのチームをまかなえるGPUクラスタのごく一部のコストで済み、セルフホストの議論はそこで終わるはずでした。

しかし、これらのプランには厳格な利用上限があり、本格的な利用はもはや人間の使い方の枠に収まっていません。すべてのプルリクエストをレビューするバックグラウンドエージェント、400のリポジトリを対象とした夜間のcodemod一括処理、テストを生成・修復するCIパイプライン。これらは従量課金(定価はSonnet 5で入力100万トークンあたり3ドル、出力100万トークンあたり15ドル。Opus 5は5ドルと25ドル)で動き、誰も上限を設けてくれず、請求額は人数ではなく野心に比例して増えていきます。

この変化は数字で示せます。私たち自身に起きたことだからです。DoiTのエンジニアリングチーム全体では、従量課金のClaude Code Enterpriseで、現在の平均は開発者1人あたり月額約2,200ドル。上限ではなく平均であり、固定でもありません。エージェント型ワークフローの普及に伴い毎月増え続けており、頭打ちの兆しはありません。あなたの数字は違うでしょう。上限付きプランのライトユーザーだけのチームなら本当に1人100ドルで済みますし、それがあなたのチームならサブスクリプションの勝ちなので、ここで読むのをやめて構いません。ただ、私たちが見る限り、曲線の向きはどこでも同じです。つまり本当の問いは「開発者10人でGPUを借りるべきか」ではなく、「オープンウェイトモデルが本当にこなせる仕事について、どの水準の継続的支出でレンタルノードが従量APIを上回るのか」なのです。

ノードの実際のコスト

GPU価格の比較は本当に難しいものです。執筆時点で、H100のオンデマンド料金は、Nebiusで1時間あたり3.85ドル、AWSで6.88ドル(us-east-1のシングルGPUのp5.4xlarge。8GPUのp5.48xlargeは55.04ドルで、ちょうど8倍)、GCPで10.98ドル(a3-highgpu-8g、us-central1)、Azureで12.29ドル(ND96isr、East US)。同一のシリコンに3.2倍の開きがあります。

そして実際には、GPUを1基借りるのではなく、8基入りの箱を借りることになります。本格的なGPUインスタンスのほとんどが8GPUノードとして提供されるため、サイジングの問いは「GPUを何基か」ではなく「ノードを何台か」です。1ノードを1か月間、24時間稼働させた場合:

GPU1基・1時間あたり ノード月額(約730時間)
Nebius Spot $2.15 約$12,600
Nebius オンデマンド $3.85 約$22,500
AWS オンデマンド $6.88 約$40,200
GCP オンデマンド $10.98 約$64,100
Azure オンデマンド $12.29 約$71,800

同じGPU、同じ1か月で、表の両端には59,000ドルの差があります。どちらかの端を基準にする前に、2つ補正を加えておきます。まず、commitmentsで差は縮まります。AWSの1年リザーブドならノードは1時間あたり約43ドル(月額およそ31,600ドル)になり、Capacity Blocksは最近ではGPU1基・1時間あたり約5.20ドル前後で取引されており、ハイパースケーラーの3年コミットメントならオンデマンドの半額程度になり得ます。そして安い側にはトレードオフがあります。Spotはリクエストの途中で回収される可能性があり——キャパシティが逼迫した市場では、必要なときに単に存在しないかもしれません——低価格プロバイダーには、プラットフォームチームがすでに熟知しているエコシステムがありません。それが月30,000ドルの価値に見合うかどうかは検討に値する問いですが、デフォルトにするのではなく、きちんと検討すべき問いです。

損益分岐点はどこか

ここで2つの曲線が交わります。継続的バッチングの下で120Bクラスのオープンウェイトモデルを提供する、飽和状態の8xH100ノードは、月に数十億の出力トークンを生成します。Sonnet 5のレートなら数万ドル台半ばの請求になるトークン量が、12,600〜40,200ドルのノードから得られるのです。経験則は自ずと導かれます。オープンウェイトモデルが本当にこなせる仕事——大量・反復的・評価可能な仕事——に対する従量ベースのAI支出が、ノードの月額価格をおおむね継続的に上回るようになったら、セルフホストの方が安く、その優位性はボリュームとともに拡大します。開発者1人あたり2,200ドルなら、その分岐点は開発者7〜18人のあいだのどこかにあります。

これをCFOに転送する前に、ハードルを上げる正直な補足を2つ。APIが無償で提供してくれる可用性が必要なら、1台ではなく2台のノードで見積もってください。レプリカが1つしかなければ、再起動のたびにアシスタントが全員分止まります。そして誰かが運用しなければなりません——モデルサービング、量子化、フェイルオーバー、アップグレード。エンジニア1人分の総人件費は、脚注ではなく比較の中に含めるべきです。両方を織り込むと、正直な分岐点は「ノード2台+エンジニアの一部の人件費を余裕をもって上回る継続的支出」になります。それでも実際の利用レートで見れば、数十人分の開発者のエージェント型ワークロードに相当する程度です。

計算を丸ごとスキップできる境界ケースもあります。コードやデータが自社の境界の外に出せないなら、セルフホストはそもそもコストの問題ではなく、分岐点はコンプライアンスチームが言う場所にあります。

チーム規模で検算する

それでもチーム規模で考えると計算は具体的になります。ただし、人数ではなく同時実行数でサイジングすること。開発者の生成はバースト的で、任意の瞬間にリクエストを実行中なのはチームの10〜20%程度です。

開発者10人なら同時セッションは2〜3。良くてもノード半分の容量です。私たちの利用水準でのアシスタント費用は月約22,000ドルで、チームが使い切れないノードの12,600〜40,200ドルとほぼ同等。しかもサブスクリプションで買えるのはフロンティアモデルなので、依然としてそちらの勝ちです。データ境界の制約がない限り、この規模でのセルフホストは避けてください。

Cloud bill shouldn't be a mystery

One platform for AI and Cloud optimization.

開発者50人なら同時セッションは5〜10。120Bクラスまでのモデルであれば、8xH100ノード1台でチーム全体をまかなえます。実利用でのアシスタント費用は月約110,000ドル。同じノードと比べれば、実機コストの3〜9倍です。

開発者100人ならノード2〜3台、オンデマンドのレンタルで月45,000〜80,000ドル。対するアシスタント費用は約220,000ドルです。ここからはハードウェアの所有も視野に入ります。8xH100サーバーは約280,000ドル。3年の定額償却で月7,800ドル、電力・コロケーション・運用込みで月10,000〜12,000ドルと見れば、AWSオンデマンドの40,200ドルに対して1年以内に元が取れます。ただし財務チームには、これが純粋なキャッシュ回収の計算であることを明確に伝えてください。3年の定額計算がそのまま減価償却スケジュールそのものであり、資本コストも残存価値の見積もりも含まれていません。反論となるのは稼働率です。この回収計算はノードが24時間フル稼働する前提であり、週50時間しか稼働しないワークロードでは、購入した時間の30%しか使いません。その時点でオンプレの実効レートは3倍になり、クラウドなら夜間や週末の分を払わずに済み、リザーブド価格が残りの差の大半を埋めます。稼働率が高く予測可能なら所有の勝ち、そうでなければレンタルの勝ちです。スプレッドシートはたいてい「買え」と言い、稼働率データはたいてい「借りろ」と言います。信じるべきは稼働率データです。

プレミアムが実際に買っているもの

開発者50人の規模では、アシスタント費用とノードの差は月およそ70,000〜100,000ドルです。これはモデルのラベルだけに払うプレミアムではありません。従量APIには、本来なら2台目のノードとして買うことになる耐障害性、アイドルの余剰として買うことになる弾力性、他者が引き受けてくれるキャパシティリスク、セキュリティツールとサポート、ハードウェア更新なしのモデルアップグレード、そして来年のモデルが来年のGPUを要求したときにハードウェアが塩漬けになるリスクゼロが含まれています。API側にはさらに2つの利点があります。フロンティアモデルは1回の試行で解決できる問題が多く——マージされたプルリクエストあたりのコストで見れば倍率の一部は縮まりますが、どれだけ縮まるかは自社の評価でしか分かりません——トークンの定価は低価格のフロンティアプロバイダーの圧力で下がり続けており、この比較のAPI側は、契約済みのGPUコミットメントにはない形で勝手に改善していきます。

一方、セルフホストが適する場面では、その対極にある強みが効きます。予測可能性です。この比較で変動するのは開発者1人あたりの支出の側で——私たちの数字は毎月伸びています——レンタルノードは固定の既知の数字です。そもそもオープンウェイトモデルに載せるべき大量・評価可能な仕事については、青天井の請求を定額の請求に置き換えることになります。プレミアムに含まれる価値をすべて差し引いても、開発者50人以上での差は、ノードを運用するエンジニアを雇えるだけの幅が残ります。

実際にどうすべきか

結論は二者択一ではなく、ポートフォリオです。

  • 上限付きシートはライトユーザーに——1人100ドルに勝るものはありません。
  • 従量制のフロンティアAPIは、本当にフロンティア品質が必要な問題に——評価で元が取れると示せる場所でだけプレミアムを払いましょう。
  • セルフホストのオープンウェイトノードは、大量・反復的・評価可能な仕事に——その仕事への継続的な従量支出がノードの価格(可用性と運用に正直であるなら、ノード2台+エンジニア分)を超えた日から始めます。
  • コストに関係なくセルフホスト——コードが境界の外に出せない場合です。

実際のエンタープライズ利用の数字で見れば、ほとんどのチームは、料金ページ——そしてベンダー——が示唆するより早く、セルフホストの分岐点を越えます。

自分の数字で計算する

どの区分に当てはまるにせよ、結果を左右する入力は4つです。どのモデルか(パラメータ数がGPUの下限を決めます)、量子化(FP8はFP16のメモリを半分に、INT4はさらに半分にしますが、それぞれ品質コストを伴います)、コンテキスト長(長いコンテキストのKVキャッシュはメモリ上でウェイトに匹敵し得ます)、そして同時実行数の目標(レプリカ数が決まり、上記すべてに掛け算されます)。

顧客との会話のたびにこのスプレッドシートを作り直すのに疲れたので、Web上に公開しました。AIホスティング計算ツールは、約29のオープンウェイトモデルを、プロバイダー自身の料金APIから定期的に取得した最新のGPU価格、そしてオンプレ構築の見積もりと並べてサイジングできます。本記事のすべての数字はこのツール由来で、ツール上のすべての数字は、数式か、異論を挟める明示的な前提にさかのぼれます。

本記事の価格は特定時点のもの(2026年8月、上記の参照リージョン)であり、今後変動します——GPUレンタル料金は一方向に、トークン価格はおそらく逆方向に。あなたのチームが「立ち消えたスレッド」と「ノード3台とコロケーション契約」のあいだのどこかにいるなら、どちらかの陣営がデフォルトで勝ってしまう前に、自分の数字で計算してみてください。