Lösungen für
Bitte auswählen
Web-App testen
arbeiten-mit-ki

Token-Budget im Alltag steuern — die größten Kostenhebel bei LLMs

Redaktion ·

Wenn du ernsthaft mit LLMs arbeitest, ist das Token-Budget der Punkt, an dem aus Spielerei eine Rechnung wird. Die Grundlagen — was ein Token ist, wie Pricing funktioniert — behandeln andere Artikel (siehe KI-Pricing einfach erklärt). Hier geht es um die Praxis: Welche Hebel senken deine Kosten am stärksten, ohne dass die Qualität leidet? Die Antwort ist meist nicht „kleineres Modell”, sondern „weniger Tokens, klüger eingesetzt”.

Tokens sind die Rechnungseinheit

LLM-APIs rechnen pro Token ab — pro Textfragment, das rein- und rausgeht. Zwei Zahlen stehen auf jeder Rechnung:

  • Input-Tokens: alles, was du ins Modell schickst (System-Prompt, Verlauf, Frage, Dokumente).
  • Output-Tokens: alles, was das Modell zurückgibt.

Der entscheidende Punkt, den viele übersehen: Output ist meist deutlich teurer als Input. Bei aktuellen Spitzenmodellen liegt der Output-Preis oft beim Vier- bis Fünffachen des Input-Preises. Als datierte Momentaufnahme (Anthropic, Stand 2026): ein Opus-Modell bei rund 5 USD pro Million Input-Tokens, aber 25 USD pro Million Output-Tokens. Das heißt: Eine geschwätzige Antwort kostet dich überproportional viel.

Hebel 1: Prompt Caching

Der wirksamste Hebel bei wiederkehrenden Kontexten. Schickst du bei vielen Anfragen denselben großen Block (einen langen System-Prompt, ein festes Referenzdokument, Few-Shot-Beispiele), kannst du diesen Teil cachen. Der Anbieter speichert den verarbeiteten Prefix zwischen; Folgeanfragen lesen ihn aus dem Cache, statt ihn neu zu verarbeiten.

Die Ersparnis ist erheblich: Ein Cache-Read kostet typischerweise nur einen Bruchteil des normalen Input-Preises (bei Anthropic etwa ein Zehntel, Stand 2026). Der erste Cache-Write ist minimal teurer (~1,25-fach bei kurzer Lebensdauer), amortisiert sich aber schon ab der zweiten Anfrage.

Die Bedingung: Der gecachte Teil muss byte-identisch und am Anfang des Prompts stehen. Ein Zeitstempel oder eine wechselnde ID im System-Prompt zerstört den Cache. Stabiles nach vorn, Variables nach hinten.

Hebel 2: Batch-Verarbeitung

Wenn deine Aufgaben nicht in Echtzeit beantwortet werden müssen — nächtliche Klassifikation tausender Datensätze, Bulk-Zusammenfassungen, Offline-Auswertungen —, nutze die Batch-API. Du schickst alle Anfragen auf einmal, das Ergebnis kommt asynchron (meist innerhalb einer Stunde, garantiert binnen 24 Stunden).

Der Gegenwert: ein deutlicher Rabatt, bei den gängigen Anbietern rund 50 Prozent auf alle Tokens (Stand 2026). Für alles, was Latenz verträgt, ist das die einfachste Halbierung der Kosten, die es gibt.

Hebel 3: Den Kontext schlank halten

Der häufigste Fehler: aus Bequemlichkeit zu viel in jeden Prompt kippen. Das halbe Wiki, der komplette Gesprächsverlauf, fünf Dokumente, von denen nur eines relevant ist. Jeder dieser Tokens kostet — bei jeder einzelnen Anfrage.

Die Disziplin lautet: Nur rein, was diese Aufgabe braucht. Was zu groß oder zu selten gebraucht ist, holst du gezielt per RAG (Retrieval-Augmented Generation) statt es dauerhaft mitzuschleppen. Statt 50 Seiten in den Prompt zu zwingen, rufst du die zwei relevanten Absätze ab. Das senkt nicht nur Kosten, sondern verbessert auch die Antwortqualität (siehe Lost in the Middle im Kontextfenster-Artikel).

Hebel 4: Das richtige Modell für die Aufgabe

Nicht jede Aufgabe braucht das teuerste Modell. Eine einfache Klassifikation, eine Formatumwandlung, eine Sentiment-Erkennung erledigt ein kleines, schnelles Modell genauso gut — zu einem Bruchteil der Kosten.

Als datierte Momentaufnahme (Anthropic, Stand 2026) liegt ein kleines Modell bei rund 1 USD Input / 5 USD Output pro Million Tokens, ein Spitzenmodell beim Fünffachen. Die Faustregel: Spitzenmodell nur dort, wo es auf echte Reasoning-Tiefe ankommt. Routine-Tasks auf das kleine Modell, anspruchsvolle Aufgaben auf das große. Diese Aufteilung spart oft mehr als alle anderen Hebel zusammen.

Hebel 5: Die Output-Länge begrenzen

Weil Output teurer ist als Input, ist die Antwortlänge ein direkter Kostenhebel. Zwei Maßnahmen:

  • max_tokens setzen. Eine harte Obergrenze für die Antwort verhindert ausufernde Ausgaben. Vorsicht: zu niedrig schneidet mittendrin ab — realistisch ansetzen.
  • Im Prompt um Knappheit bitten. „Antworte in maximal drei Sätzen” oder „nur die Tabelle, keine Erklärung” spart reale Output-Tokens.

Ein Rechenbeispiel

Angenommen, du verarbeitest 10.000 Support-Anfragen. Jede hat einen 2.000-Token-System-Prompt (Anweisungen, Beispiele), 500 Token Anfrage und erzeugt 300 Token Antwort. Mit einem Modell zu 3 USD Input / 15 USD Output pro Million Tokens:

  • Naiv (kein Caching, synchron): Input 10.000 × 2.500 = 25 Mio. Tokens → 75 USD. Output 10.000 × 300 = 3 Mio. → 45 USD. Summe ~120 USD.
  • Mit Caching des System-Prompts (Read ~0,1×): Die 2.000 stabilen Token kosten nur ein Zehntel. Input fällt auf etwa 10.000 × (200 + 500) = 7 Mio. effektiv → ~21 USD. Output unverändert 45 USD. Summe ~66 USD.
  • Zusätzlich per Batch (−50 %): ~33 USD.

Aus 120 werden 33 USD — ohne Qualitätsverlust, allein durch Caching und Batch. Die Zahlen sind illustrativ und je nach Anbieter/Preis-Stand verschieden, das Verhältnis bleibt.

FAQ

Warum ist Output teurer als Input? Das Generieren von Text ist rechenintensiver als das Einlesen: Jedes Output-Token wird einzeln und sequenziell erzeugt, während Input parallel verarbeitet werden kann. Bei aktuellen Modellen liegt der Output-Preis oft beim Vier- bis Fünffachen des Input-Preises — kurze Antworten sparen also überproportional.

Lohnt sich Prompt Caching immer? Nein. Es lohnt sich, wenn derselbe große, stabile Kontext über mehrere Anfragen hinweg wiederkehrt. Für einmalige Prompts mit ständig wechselndem Inhalt bringt es nichts — du zahlst dann nur den minimalen Cache-Write-Aufschlag ohne je einen Read zu kassieren.

Wann sollte ich die Batch-API nehmen? Immer wenn die Aufgabe keine Echtzeit-Antwort braucht: nächtliche Auswertungen, Massen-Klassifikation, Offline-Zusammenfassungen. Der Rabatt liegt bei rund 50 Prozent. Für interaktive Anwendungen (Chat) ist Batch ungeeignet, weil die Antwort asynchron kommt.

Bringt ein kleineres Modell wirklich so viel? Für einfache, klar umrissene Tasks ja. Klassifikation, Formatkonvertierung oder Sentiment-Analyse erledigt ein kleines Modell zu einem Bruchteil der Kosten ebenso gut. Den Aufpreis fürs Spitzenmodell zahlst du nur dort, wo echte Reasoning-Tiefe nötig ist.

Wie schätze ich mein Budget vorab? Multipliziere erwartete Anfragen × (durchschnittliche Input-Tokens × Input-Preis + durchschnittliche Output-Tokens × Output-Preis). Viele Anbieter bieten einen Token-Counting-Endpoint, mit dem du die Token-Zahl eines Prompts exakt misst, statt sie zu raten.

Themenuebersicht

Arbeiten mit KIToken-Budget