Begriff
TPM/RPM
TPM (Tokens pro Minute) und RPM (Requests pro Minute) sind die beiden gängigen Einheiten, in denen KI-API-Anbieter ihre Rate Limits ausdrücken — TPM begrenzt das Token-Volumen, RPM die Anzahl der Anfragen pro Minute.
TPM/RPM — ausführlich erklärt
TPM und RPM sind die beiden Maßeinheiten, mit denen Anbieter von KI-APIs ihre Nutzungsgrenzen festlegen. RPM steht für „Requests per Minute” und begrenzt, wie viele einzelne Anfragen ein Account pro Minute senden darf. TPM steht für „Tokens per Minute” und begrenzt die Summe der verarbeiteten Token pro Minute — meist Eingabe- und Ausgabe-Token zusammen.
Beide Grenzen gelten in der Regel gleichzeitig: Erreicht eine Anwendung zuerst das RPM-Limit, blockiert dieses; verbraucht sie pro Anfrage sehr viele Token, greift zuerst das TPM-Limit. Welche der beiden Achsen zuerst bremst, hängt vom Nutzungsmuster ab. Viele kleine Anfragen laufen eher ins RPM-Limit; wenige, sehr große Prompts eher ins TPM-Limit. Manche Anbieter ergänzen längere Fenster wie Tokens pro Tag (TPD).
Wird eine der Grenzen überschritten, antwortet die API üblicherweise mit dem Statuscode HTTP 429 und oft einem Retry-After-Hinweis. Die TPM- und RPM-Werte steigen bei den meisten Anbietern mit der Nutzungs- und Zahlungshistorie (Tier-System).
Beispiel / Praxisbezug
Ein Dienst hat ein Limit von 500 RPM und 90.000 TPM. Schickt er 500 kurze Anfragen mit je 100 Token, bleibt er beim Token-Volumen (50.000) unter dem TPM-Limit, läuft aber genau ins RPM-Limit. Schickt er stattdessen nur 50 Anfragen mit je 3.000 Token, ist das RPM-Limit unkritisch, aber 150.000 Token überschreiten das TPM-Limit. Wer das einplant, wählt für einfache Massenaufgaben kleinere Prompts und bündelt Arbeit über die Batch-API, die ein separates Kontingent nutzt.
Abgrenzung zu ähnlichen Begriffen
TPM und RPM sind die Einheiten; das übergeordnete Konzept ist das Rate Limit. Beide sind nicht mit dem Kontextfenster zu verwechseln, das die Token-Zahl innerhalb einer einzelnen Anfrage begrenzt — TPM dagegen summiert über viele Anfragen pro Minute. TPM ist außerdem keine Kostengröße: Was die Verarbeitung kostet, drückt der Preis pro Million Token aus (siehe Cost per MTok).
Entdecke mehr
Headless ohne API-Rechnung — wie kommt man 2026 an die besten KI-Modelle für Automatisierung?
Anbieter-Vergleich Mitte 2026: Wer hat Headless-Modus, wessen Abo deckt ihn noch — und warum BYOK das stabilste Fundament ist.
GlossarDSGVO-konformer LLM-Einsatz
DSGVO-konformer LLM-Einsatz bezeichnet die datenschutzgerechte Nutzung grosser Sprachmodelle wie ChatGPT, Claude oder Gemini im Unternehmen — mit Rechtsgrundlage, Auftragsverarbeitungsvertrag, kontrollierter Eingabe personenbezogener Daten, EU-Hosting und Trainings-Opt-out.
LexikonFunction Calling / Tool Use
Wie ein LLM Werkzeuge aufruft: Tool-Definition als Schema, Modell wählt Funktion und Argumente, Ergebnis zurück ins Gespräch — der Grundbaustein jedes Agenten.