Cloud Intelligence™
Ihre Entwickler wollen ein self-hosted LLM. Ihr CFO will die Zahlen.
Der Break-even fürs Self-Hosting eines LLM ist keine Teamgröße, sondern ein Ausgabenniveau – und mit echten Enterprise-Nutzungsdaten ist er früher erreicht, als die Preisseiten vermuten lassen. Hier ist die Rechnung: von der 3,2-fachen Spanne bei H100-Mietpreisen bis zu dem Monat, in dem Ihre API-Rechnung einen GPU-Node überholt
Diese Seite ist auch in English, Español, Français, Italiano, 日本語 und Português verfügbar.
Dieser Beitrag zeigt, was Ihr AI-Stack kostet. Attribute zeigt, welchen Teams und Produkten diese Kosten zuzuordnen sind.
About Vadim Solovey
Founded DoiT in 2011 and have been here ever since — in every flavor of CTO, co-CEO, and now CEO. I started my career in 1999 building data centers before anyone called it "the cloud," and I've spent the two decades since trying to deliver on what the cloud was actually supposed to be. I still write code most weeks.
My personal pageDie Listenpreise wirken unschlagbar. Claude Code kostet auf den Max-Plänen 100 bis 200 $ im Monat, oder 100 $ pro Seat bei jährlicher Abrechnung auf Team Premium; Codex liegt in derselben Größenordnung. Fünfzig Entwickler kosten 5.000 bis 10.000 $ im Monat – ein Bruchteil jedes GPU-Clusters, der sie bedienen könnte – und die Self-Hosting-Diskussion wäre an dieser Stelle beendet.
Doch diese Pläne haben harte Nutzungslimits, und ernsthafte Nutzung hat längst kein menschliches Maß mehr. Ein Hintergrund-Agent, der jeden Pull Request prüft, ein nächtlicher Codemod-Lauf über 400 Repositories, eine CI-Pipeline, die Tests generiert und repariert: All das läuft auf nutzungsbasierten Preisen (Listenpreis 3 $ pro Million Input-Tokens und 15 $ pro Million Output-Tokens bei Sonnet 5; 5 $ und 25 $ bei Opus 5), niemand deckelt das für Sie, und die Rechnung skaliert mit dem Ehrgeiz, nicht mit dem Headcount.
Diesen Umbruch können wir beziffern, denn er ist uns selbst passiert. Im Engineering-Team von DoiT liegt der Durchschnitt auf nutzungsbasiertem Claude Code Enterprise Pricing inzwischen bei rund 2.200 $ pro Entwickler und Monat. Nicht die Obergrenze – der Durchschnitt – und nicht statisch: Er ist jeden Monat gewachsen, während sich agentische Workflows ausbreiten, ohne dass ein Plateau in Sicht wäre. Ihre Zahl wird abweichen – ein Team aus Wenignutzern auf gedeckelten Plänen kostet tatsächlich 100 $ pro Kopf, und wenn das Ihr Team ist, gewinnt das Abo und Sie können hier aufhören zu lesen –, aber die Richtung der Kurve ist überall dieselbe, wo wir hinschauen. Die eigentliche Frage lautet also nicht "sollten zehn Entwickler eine GPU mieten", sondern: Ab welchem dauerhaften Ausgabenniveau schlägt ein gemieteter Node eine nutzungsbasierte API – für die Arbeit, die ein Open-Weight-Modell wirklich stemmen kann?
Was ein Node wirklich kostet
GPU-Preise sind tatsächlich schwer zu vergleichen. Zum Zeitpunkt der Veröffentlichung kostet eine H100 on-demand 3,85 $ pro Stunde bei Nebius, 6,88 $ bei AWS (die Single-GPU p5.4xlarge in us-east-1 – die 8-GPU p5.48xlarge liegt bei 55,04 $, exakt das Achtfache), 10,98 $ bei GCP (a3-highgpu-8g, us-central1) und 12,29 $ bei Azure (ND96isr, East US). Das ist eine 3,2-fache Spanne für identisches Silizium.
Und Sie mieten nicht wirklich eine GPU – Sie mieten eine Kiste mit acht davon. Fast jede ernstzunehmende GPU-Instanz kommt als 8-GPU-Node, die Sizing-Frage lautet also "wie viele Nodes", nicht "wie viele GPUs". Ein Node, rund um die Uhr, einen Monat lang:
| $/GPU-Std. | Node/Monat (~730 Std.) | |
|---|---|---|
| Nebius Spot | 2,15 $ | ~12.600 $ |
| Nebius on-demand | 3,85 $ | ~22.500 $ |
| AWS on-demand | 6,88 $ | ~40.200 $ |
| GCP on-demand | 10,98 $ | ~64.100 $ |
| Azure on-demand | 12,29 $ | ~71.800 $ |
Dieselben GPUs, derselbe Monat, 59.000 $ Unterschied zwischen den Ecken der Tabelle. Zwei Anpassungen, bevor Sie sich auf eine der beiden Ecken festlegen. Commitments verkleinern die Spanne: Eine 1-Jahres-Reservierung bei AWS bringt den Node auf etwa 43 $ pro Stunde (rund 31.600 $ im Monat), Capacity Blocks lagen zuletzt bei rund 5,20 $ pro GPU-Stunde, und 3-Jahres-Commitments bei den Hyperscalern können den On-Demand-Preis grob halbieren. Und die günstige Ecke hat ihre Haken: Spot kann mitten in einem Request zurückgezogen werden – und in einem Markt mit knapper Kapazität schlicht nicht verfügbar sein, wenn Sie ihn brauchen –, während den Low-Cost-Anbietern das Ökosystem fehlt, das Ihr Plattform-Team bereits kennt. Ob das 30.000 $ im Monat wert ist, ist eine berechtigte Diskussion – aber es sollte eine Diskussion sein, kein Default.
Wo die Grenze verläuft
Jetzt können sich die beiden Kurven treffen. Ein ausgelasteter 8xH100-Node, der ein Open-Weight-Modell der 120B-Klasse mit Continuous Batching bedient, produziert mehrere Milliarden Output-Tokens pro Monat – Tokens, die zu Sonnet-5-Preisen im mittleren fünfstelligen Dollarbereich abgerechnet würden, aus einem Node, der 12.600 bis 40.200 $ kostet. Daraus ergibt sich die Faustregel direkt: Sobald Ihre nutzungsbasierten AI-Ausgaben für Arbeit, die ein Open-Weight-Modell wirklich bewältigt – hochvolumig, repetitiv, evaluierbar –, dauerhaft über ungefähr dem Monatspreis eines Nodes liegen, ist Self-Hosting günstiger, und der Vorteil wächst mit dem Volumen. Bei 2.200 $ pro Entwickler liegt diese Grenze irgendwo zwischen sieben und achtzehn Entwicklern.
Bevor jemand das an einen CFO weiterleitet, zwei ehrliche Ergänzungen, die die Messlatte höher legen. Wenn Sie die Verfügbarkeit brauchen, die eine API Ihnen gratis mitliefert, kalkulieren Sie zwei Nodes, nicht einen: Eine einzelne Replica bedeutet, dass ein Neustart den Assistenten für alle lahmlegt. Und jemand muss das Ganze betreiben – Model Serving, Quantisierung, Failover, Upgrades –, also gehören die Vollkosten eines Engineers in den Vergleich, nicht in eine Fußnote. Mit beiden Anpassungen lautet die ehrliche Grenze: dauerhafte Ausgaben deutlich über dem Preis von zwei Nodes plus einem anteiligen Engineer – was bei realen Nutzungsraten immer noch nur dem agentischen Workload von ein paar Dutzend Entwicklern entspricht.
Der Sonderfall, bei dem sich die ganze Rechnung erübrigt: Wenn Ihr Code oder Ihre Daten Ihre Systemgrenzen nicht verlassen dürfen, war Self-Hosting nie eine Kostenentscheidung, und der Break-even liegt dort, wo Ihr Compliance-Team ihn festlegt.
Der Realitätscheck nach Teamgröße
Teamgrößen machen die Rechnung trotzdem greifbar – solange Sie nach Concurrency dimensionieren statt nach Headcount: Entwickler generieren in Schüben, und zu jedem Zeitpunkt haben vielleicht 10 bis 20 Prozent eines Teams gerade einen laufenden Request.
Zehn Entwickler bedeuten zwei bis drei gleichzeitige Sessions – bestenfalls die halbe Kapazität eines Nodes. Die Assistenten-Rechnung liegt bei unserer Nutzung bei ~22.000 $ im Monat, gegenüber 12.600 bis 40.200 $ für einen Node, den das Team gar nicht auslasten kann: Das läuft ungefähr aufs Gleiche hinaus, und mit dem Abo bekommen Sie ein Frontier-Modell – also gewinnt es trotzdem. Bei dieser Größe lohnt Self-Hosting nicht, es sei denn, Ihre Daten dürfen die Systemgrenzen nicht verlassen.
Fünfzig Entwickler bedeuten fünf bis zehn gleichzeitige Sessions – ein einzelner 8xH100-Node bedient das ganze Team für Modelle bis zur 120B-Klasse. Die Assistenten-Rechnung liegt bei realer Nutzung bei ~110.000 $ im Monat, gegenüber demselben Node: das Drei- bis Neunfache der Hardware.
Cloud bill shouldn't be a mystery
One platform for AI and Cloud optimization.
Hundert Entwickler bedeuten zwei bis drei Nodes, on-demand gemietet 45.000 bis 80.000 $ im Monat, gegenüber einer Assistenten-Rechnung von ~220.000 $. Hier kommt auch eigene Hardware ins Spiel. Ein 8xH100-Server kostet etwa 280.000 $; linear über drei Jahre gerechnet sind das 7.800 $ im Monat, mit Strom, Colocation und Betrieb sagen wir 10.000 bis 12.000 $ – gegenüber 40.200 $ on-demand bei AWS amortisiert sich die Hardware also in weniger als einem Jahr. Machen Sie Ihrem Finance-Team klar, dass das eine reine Cash-Payback-Rechnung ist – die lineare Verteilung über drei Jahre ist der Abschreibungsplan, ohne Kapitalkosten oder geschätzten Restwert. Das Gegenargument ist die Auslastung: Diese Amortisation setzt voraus, dass der Node rund um die Uhr unter Volllast läuft, und ein Workload, der 50 Stunden pro Woche läuft, nutzt 30 Prozent der gekauften Stunden – womit sich Ihr effektiver On-Prem-Preis verdreifacht, die Cloud Ihnen Nächte und Wochenenden erspart und Reserved Pricing den Großteil der verbleibenden Lücke schließt. Kaufen gewinnt, wenn die Auslastung hoch und vorhersehbar ist; Mieten gewinnt, wenn nicht. Das Spreadsheet sagt meistens kaufen; die Auslastungsdaten sagen meistens mieten. Vertrauen Sie den Auslastungsdaten.
Was der Aufpreis wirklich bringt
Bei fünfzig Entwicklern liegt die Lücke zwischen Assistenten-Rechnung und Node bei grob 70.000 bis 100.000 $ im Monat. Das ist nicht nur ein Aufpreis für das Label auf dem Modell – die nutzungsbasierte API bündelt Resilienz, für die Sie sonst einen zweiten Node bezahlen würden, Elastizität, für die Sie sonst ungenutzten Puffer vorhalten müssten, Kapazitätsrisiko, das jemand anderes trägt, Security-Tooling und Support, Modell-Upgrades ohne Hardware-Refresh und kein Risiko, auf nutzloser Hardware sitzen zu bleiben, wenn das Modell des nächsten Jahres die GPUs des nächsten Jahres verlangt. Zwei weitere Pluspunkte: Das Frontier-Modell löst mehr Probleme pro Versuch – gemessen an den Kosten pro gemergtem Pull Request schrumpft ein Teil des Faktors, und wie viel, sagt Ihnen nur Ihre eigene Evaluierung –, und die Token-Listenpreise fallen weiter, weil günstigere Frontier-Anbieter Druck machen. Die API-Seite dieses Vergleichs verbessert sich also von selbst – auf eine Weise, wie es ein unterschriebenes GPU-Commitment nicht tut.
Das Gegengewicht spricht genau dort für Self-Hosting, wo es zutrifft: Planbarkeit. Die Ausgaben pro Entwickler sind die volatile Seite dieser Rechnung – unsere sind jeden Monat gewachsen –, während ein gemieteter Node eine feste, bekannte Zahl ist. Für die hochvolumige, evaluierbare Arbeit, die ohnehin auf ein Open-Weight-Modell gehört, tauschen Sie eine nach oben offene Rechnung gegen einen Festbetrag. Selbst wenn man alles anrechnet, was im Aufpreis steckt, ist die Lücke ab fünfzig Entwicklern immer noch groß genug, um den Engineer zu finanzieren, der den Node betreibt.
Was Sie konkret tun sollten
Das Fazit ist ein Portfolio, keine Entweder-oder-Entscheidung:
- Gedeckelte Seats für Wenignutzer – bei 100 $ pro Kopf schlägt sie nichts.
- Nutzungsbasierte Frontier-API für die Probleme, die wirklich Frontier-Qualität brauchen – zahlen Sie den Aufpreis dort, wo die Evaluierung zeigt, dass er sich lohnt.
- Ein self-hosted Open-Weight-Node für die hochvolumige, repetitive, evaluierbare Arbeit – ab dem Tag, an dem Ihre dauerhaften nutzungsbasierten Ausgaben für diese Arbeit den Preis des Nodes übersteigen (oder zwei Nodes plus einen Engineer, wenn Sie bei Verfügbarkeit und Betrieb ehrlich rechnen).
- Self-Hosting unabhängig von den Kosten, wenn der Code Ihre Systemgrenzen nicht verlassen darf.
Mit echten Enterprise-Nutzungszahlen überschreiten die meisten Teams die Self-Hosting-Grenze früher, als die Preisseiten – und die Anbieter – vermuten lassen.
Rechnen Sie selbst nach
Egal, in welcher Stufe Sie unterwegs sind: Vier Stellgrößen bestimmen das Ergebnis. Welches Modell (die Parameterzahl setzt das GPU-Minimum), Quantisierung (FP8 halbiert den Speicherbedarf von FP16, INT4 halbiert ihn noch einmal, jeweils mit Qualitätskosten), Kontextlänge (der KV-Cache für lange Kontexte kann speicherseitig mit den Gewichten konkurrieren) und Concurrency-Ziel (es bestimmt die Replicas, die alles Vorherige multiplizieren).
Wir hatten es satt, dieses Spreadsheet für jedes Kundengespräch neu zu bauen, also haben wir es ins Web gestellt: Der AI-Hosting-Rechner rechnet jedes von ~29 Open-Weight-Modellen gegen aktuelle GPU-Preise durch – regelmäßig direkt aus den Pricing-APIs der Anbieter gezogen – neben einer On-Prem-Kostenschätzung. Jede Zahl in diesem Beitrag stammt daraus, und jede Zahl darin führt zurück auf eine Formel oder eine offengelegte Annahme, über die Sie streiten können.
Die Preise in diesem Beitrag sind eine Momentaufnahme (August 2026, Referenzregionen wie oben genannt) und werden sich verschieben – GPU-Mieten in die eine Richtung, Token-Preise höchstwahrscheinlich in die andere. Wenn Ihr Team irgendwo zwischen "eingeschlafenem Thread" und "drei Nodes plus Colo-Vertrag" steht: Rechnen Sie selbst nach, bevor eines der beiden Lager per Default gewinnt.
