Token Tsunamis: warum agentische KI-Systeme die Kosten sprengen

Redaktion · · 4 Min. Lesezeit

Mehrere Branchen- und Research-Auswertungen aus dem ersten Halbjahr 2026 beziffern erstmals konkret, was agentische KI-Systeme im Betrieb kosten — und die Zahlen erklären, warum Budgets reihenweise reißen. Der Kern: Ein autonomer Agent, der Aufgaben in Schleifen abarbeitet, verbraucht ein Vielfaches der Tokens eines einfachen Chat-Prompts. In den Auswertungen kursiert dafür der Begriff „Token Tsunamis” — Kostenwellen, die durch Loops, Retries und ständiges Neuladen von Kontext entstehen. Die folgenden Zahlen stammen aus Branchen- und Research-Quellen und sind als Schätzungen, nicht als harte Herstellerangaben zu lesen.

Was vorher galt

In der Chat-Ära war die Token-Rechnung übersichtlich: ein Prompt rein, eine Antwort raus. Die Kosten ließen sich grob über die durchschnittliche Prompt- und Antwortlänge abschätzen. Wer ein Feature plante, multiplizierte erwartete Anfragen mal durchschnittliche Token-Zahl mal Preis pro Token — und lag damit nah an der Realität.

Dieses Modell trägt bei agentischen Systemen nicht mehr. Ein Agent ist keine einzelne Anfrage, sondern eine Kette: Er liest Kontext, plant, ruft Tools auf, prüft Ergebnisse, korrigiert sich und beginnt bei Fehlern erneut. Jeder dieser Schritte ist ein eigener Modell-Aufruf mit eigenem Token-Verbrauch. Was nach außen wie „eine Aufgabe” aussieht, ist intern oft eine zwei- bis dreistellige Zahl von Aufrufen.

Was jetzt gilt

1. Loops sind der dominante Kostentreiber, nicht die Prompt-Länge. Die Auswertungen zeigen, dass nicht die Größe eines einzelnen Prompts entscheidet, sondern wie oft der Agent iteriert. Ein Agent, der bei einem schwierigen Problem zehn Korrektur-Runden dreht, kann grob das 50-Fache eines sauberen Durchlaufs verbrauchen. Die Spanne zwischen einem gut laufenden und einem in Schleifen festhängenden Agenten ist damit nicht 20 %, sondern ein bis zwei Größenordnungen.

2. Context-Reloads addieren sich still. Jedes Mal, wenn ein Agent den gesammelten Kontext neu in den Prompt lädt, zahlt man die Tokens erneut. Bei langen Läufen mit vielen Tool-Ergebnissen wird das Nachladen des Kontexts zum eigenen Kostenblock — einer, der in der Planung nach Listenpreis komplett fehlt.

3. Hierarchische Architektur senkt die Kosten messbar. Ein in den Auswertungen genannter Lösungsweg: nicht jedes Modell im System muss ein Frontier-Modell sein. Wenn günstige Budget-Modelle die Worker-Rollen übernehmen und nur der orchestrierende Lead-Agent ein Frontier-Modell nutzt, lässt sich laut einer der Quellen rund 97,7 % der Full-Frontier-Genauigkeit bei etwa 61 % der Kosten erreichen. Das ist kein Gratis-Gewinn, aber ein klarer Hebel.

Einordnung

Die Zahlen sind mit Vorsicht zu lesen — sie stammen aus Anbieter-nahen Auswertungen und einzelnen Research-Papers, nicht aus einem standardisierten Benchmark. Die Größenordnung ist aber über mehrere unabhängige Quellen hinweg konsistent: agentische Systeme kosten pro Aufgabe nicht ein bisschen mehr, sondern ein Vielfaches. Das deckt sich mit dem, was große Anwender berichten — etwa Uber, das sein 2026-Budget für KI-Coding-Tools in vier Monaten aufbrauchte.

Für die Praxis heißt das: Multi-Agent-Orchestrierung ist kein reines Engineering-Thema, sondern auch eine Budget-Frage. Wer mehrere Agenten parallel arbeiten lässt, ohne den Verbrauch zu messen und zu deckeln, baut sich ein Kostenrisiko ein, das im Worst Case zwei Größenordnungen über der Planung liegt. Die Antwort ist nicht, agentische Tools zu meiden — sie sind nützlich — sondern sie wie eine variable Kostenposition zu behandeln.

Was du jetzt tun kannst

Wenn du Multi-Agent-Systeme baust: Setze ein Token-Budget pro Aufgabe und brich Läufe ab, die es überschreiten. Ein Agent ohne Loop-Limit ist ein offenes Kostenrisiko.

Wenn du die Architektur entwirfst: Prüfe, welche Rollen wirklich ein Frontier-Modell brauchen. Worker-Schritte (Dateien lesen, Formate prüfen, einfache Tool-Calls) laufen oft auf günstigeren Modellen ausreichend gut — das Frontier-Modell bleibt dem Orchestrator vorbehalten.

Wenn du Verbrauch verantwortest: Miss Tokens pro typischer Aufgabe in einem Slice-Test, bevor du hochrechnest. Die Listenpreise sagen nichts über die reale Iterationszahl deiner Agenten — und genau die entscheidet über die Rechnung.

Entdecke mehr