Begriff
Rate Limit (KI)
Vom API-Anbieter durchgesetzte Obergrenze für Anfragen oder Tokens pro Zeitfenster — schützt die Infrastruktur und sichert faire Nutzung über alle Kunden hinweg.
Rate Limit (KI) — ausführlicher erklärt
Rate Limits sind Obergrenzen, die KI-API-Anbieter pro Account, Modell und Zeitfenster setzen. Üblich sind zwei Achsen gleichzeitig: Anfragen pro Minute (RPM) und Tokens pro Minute (TPM); manche Anbieter ergänzen Tokens-pro-Tag (TPD) für die Tageskontingente. Wird ein Limit überschritten, antwortet die API mit HTTP-429 und einem Retry-After-Header.
Beispiel / Praxisbezug
Wer per OpenAI-, Anthropic- oder Google-API große Mengen verarbeitet, stößt regelmäßig an Rate Limits. Standardstrategie: exponentielles Backoff mit Jitter, also nach einem 429er warten und mit zunehmender Pause erneut probieren. Für planbar hohe Lasten gibt es Tier-Systeme (Limits steigen mit Nutzungshistorie und Vorabzahlung) und alternative Modi wie die Batch-API, die ein eigenes, höheres Kontingent nutzt. Auf der Anwendungsseite hilft es, Anfragen zu bündeln, kleinere Modelle für simple Aufgaben zu wählen und ein Token-Budget pro Job einzuziehen.
Abgrenzung zu ähnlichen Begriffen
Ein Rate Limit ist nicht dasselbe wie das Kontextfenster: Das Kontextfenster begrenzt die Tokens innerhalb einer einzelnen Anfrage, das Rate Limit die Summe über viele Anfragen hinweg. Ebenfalls abzugrenzen ist das Quota — das ist meist ein harter Monatsdeckel, während Rate Limits in viel kürzeren Fenstern (Sekunden, Minuten) greifen.
Entdecke mehr
Headless ohne API-Rechnung — wie kommt man 2026 an die besten KI-Modelle für Automatisierung?
Anbieter-Vergleich Mitte 2026: Wer hat Headless-Modus, wessen Abo deckt ihn noch — und warum BYOK das stabilste Fundament ist.
Glossar$/MTok (Kosten pro Million Tokens)
Standard-Preisangabe bei KI-APIs — Kosten in US-Dollar pro eine Million verarbeitete Tokens. Wird getrennt für Input, Output und ggf. Cache angegeben.
LexikonFunction Calling / Tool Use
Wie ein LLM Werkzeuge aufruft: Tool-Definition als Schema, Modell wählt Funktion und Argumente, Ergebnis zurück ins Gespräch — der Grundbaustein jedes Agenten.