OpenAI-Compatible API

Eine kompatible Schnittstelle folgt dem Aufrufformat, das sich als faktischer Standard durchgesetzt hat: dieselben Endpunkte, dieselbe Struktur aus Nachrichten mit Rollen, dieselben Antwortfelder. Anwendungen können dadurch den Anbieter wechseln, indem sie Adresse und Schlüssel ändern. OpenAI

Kompatibel ist keine Ja-Nein-Eigenschaft

Der Umfang schwankt erheblich. Die Grundfunktion, also Nachrichten senden und eine Antwort bekommen, unterstützen praktisch alle. Darüber hinaus wird es lückenhaft: Werkzeugaufrufe, erzwungene Ausgabeformate, Bildeingaben, Zählung der Tokens in der Antwort, Abbruchgründe und das Verhalten beim Streamen unterscheiden sich. vLLM

Deshalb funktioniert ein Wechsel oft für einfache Aufrufe sofort und scheitert an der Stelle, an der eine Anwendung Werkzeuge oder strukturierte Ausgaben nutzt.

So kannst du dir das vorstellen

Ein Steckdosenadapter, der überall passt. Ob das Gerät auch mit der Spannung dahinter zurechtkommt, ist eine andere Frage. Das Bild erklärt den Unterschied zwischen Form und Funktion, es beschreibt keine konkrete Schnittstelle.

Was es in der Praxis konkret bedeutet

Wenn du Austauschbarkeit brauchst, teste vor der Entscheidung genau die Funktionen, die deine Anwendung wirklich nutzt: Werkzeugaufrufe mit mehreren Werkzeugen, erzwungenes Ausgabeformat, Verhalten bei abgebrochenen Antworten und die Felder der Nutzungsstatistik. Schreibe dazu einen kleinen Testsatz, der gegen jede Schnittstelle läuft. Das ist in einer Stunde erledigt und erspart später Überraschungen.

Wo es verwechselt wird

Kompatibel heißt nicht gleichwertig: Dasselbe Aufrufformat sagt nichts über Modellqualität, Antwortzeiten oder Datenschutz. Und die Angabe im Datenblatt eines Anbieters nennt selten, welche Teile nicht unterstützt sind.

Verwandte Begriffe

vLLM, Ollama, llama.cpp, Tool Calling, Structured Output, Managed Inference.