Dedicated Deployment

Bei einer dedizierten Bereitstellung wird Rechenkapazität fest für dich reserviert, statt dass du dir eine geteilte Umgebung mit anderen Kunden teilst. Die Kapazität steht bereit, ob du Anfragen stellst oder nicht, und wird entsprechend auch dann berechnet. Microsoft Learn

Der Grund ist Vorhersagbarkeit, nicht Geschwindigkeit

In geteilten Umgebungen schwankt die Antwortzeit mit der Last aller Nutzer, und bei Spitzen kann eine Anfrage abgewiesen werden. Reservierte Kapazität macht beides berechenbar: Der Durchsatz ist zugesichert, und Nachbarn beeinflussen ihn nicht. Abgerechnet wird nach Kapazitätseinheiten pro Zeitraum statt pro Token. AWS

Was „dediziert" jeweils umfasst, ist Auslegungssache des Anbieters. Es kann reservierten Durchsatz in geteilter Hardware bedeuten oder eigene Maschinen. Beides wird mit demselben Wort beworben, hat aber verschiedene Folgen für Isolation und Datenschutz.

So kannst du dir das vorstellen

Ein fest gebuchter Tisch im Restaurant gegenüber dem Anstellen an der Theke. Der Tisch ist deiner, auch wenn du zu spät kommst, und bezahlt wird er trotzdem. Das Bild erklärt das Abrechnungsmodell, es sagt nichts über die Küche dahinter.

Was es in der Praxis konkret bedeutet

Die Rechnung dreht sich um: Bei Abrechnung pro Token zahlst du für Nutzung, bei reservierter Kapazität für Bereitstellung. Das lohnt ab einem gleichmäßig hohen Grundvolumen und wird teuer, wenn deine Last nachts und am Wochenende einbricht. Prüfe außerdem die Mindestlaufzeit, denn reservierte Kapazität kommt oft mit Bindung über Monate.

Wo es verwechselt wird

Dediziert heißt nicht schneller pro Anfrage. Die Latenz eines einzelnen Aufrufs bleibt weitgehend gleich, planbar wird sie unter Last. Und dediziert ist keine Aussage über Mandantentrennung: Ob die Hardware wirklich nur dir gehört, steht in den Angebotsdetails.

Verwandte Begriffe

Provisioned Throughput, Single-Tenant Deployment, Managed Inference, Serverless Inference, Inference Cost, Scale to Zero.