Betrieb, Observability und Produktbegriffe
Total Cost of Ownership
Gesamtkosten des Betriebs einschließlich Infrastruktur und Betreuung.
Total Cost of Ownership meint die Gesamtkosten über den Lebenszyklus, nicht den Anschaffungs- oder Nutzungspreis allein. Bei KI-Systemen ist der Unterschied zwischen beiden Zahlen besonders groß, weil die sichtbaren Tokenkosten oft der kleinere Posten sind. AWS Well-Architected
Die unsichtbaren Posten überwiegen regelmäßig
Zur Rechnung gehören: Entwicklung und Anbindung, Aufbau und Pflege von Prüfungen, Betrieb der Aufzeichnung, Personal für Betreuung und Fehlersuche, wiederkehrende Anpassung bei Modellwechseln, rechtliche Prüfung und Dokumentation, sowie Schulung der Nutzer. Bei Eigenbetrieb kommen Hardware, Strom, Ersatzteile und Bereitschaft dazu.
Der Posten, der am häufigsten fehlt, ist die Pflege. Modelle werden abgekündigt, Prompts verlieren ihre Wirkung, Prüfungen müssen nachgezogen werden. Das ist kein Projekt, sondern laufender Aufwand. OpenAI
So kannst du dir das vorstellen
Die Anschaffung eines Firmenwagens gegenüber den Kosten über fünf Jahre: Versicherung, Wartung, Reifen, Sprit, Wertverlust. Der Kaufpreis ist der kleinste Teil der Rechnung. Das Bild erklärt den Blick auf den Lebenszyklus, es rechnet keinen Fall vor.
Was es in der Praxis konkret bedeutet
Setze bei einer Kalkulation drei Posten ausdrücklich an, die sonst untergehen: Personentage für Pflege pro Quartal, Kosten der Qualitätsprüfung, und ein Budget für den nächsten Modellwechsel. Beim Vergleich zwischen Dienst und Eigenbetrieb entscheidet fast nie der Tokenpreis, sondern die Frage, wer den Betrieb macht und was diese Zeit kostet.
Wo es verwechselt wird
Niedrige Tokenkosten sind kein niedriger Gesamtpreis, und Eigenbetrieb ist nicht automatisch günstiger, auch wenn keine Rechnung pro Anfrage kommt. Die Kosten wandern dann in Personal und Hardware.
Verwandte Begriffe
Inference Cost, Cost per Million Tokens, Self-Hosting, Managed Inference, AI Readiness, Model Snapshot.