Zurück zum Glossar

Begriff

Kontextfenster

Das Kontextfenster ist die maximale Anzahl Tokens, die ein Sprachmodell gleichzeitig verarbeiten kann — Eingabe und Ausgabe zusammen.

Kontextfenster — ausführlicher erklärt

Das Kontextfenster eines Sprachmodells legt fest, wie viel Text es in einer einzigen Anfrage gleichzeitig im Blick haben kann. Eingabe-Prompt und vom Modell erzeugte Antwort teilen sich dieses Budget. Ist es voll, wird älterer Inhalt entweder abgeschnitten oder muss durch externe Mechanismen wie Retrieval ergänzt werden.

Praxisbezug

Die Größen variieren stark. Kleinere lokale Modelle bewegen sich oft zwischen 4.000 und 32.000 Tokens. GPT-4o liegt bei rund 128.000 Tokens, aktuelle Claude-Modelle erreichen bis zu einer Million Tokens. Wer große Codebasen oder lange Dokumente in einer einzigen Anfrage verarbeiten möchte, muss entsprechend dimensionieren.

Abgrenzung zu ähnlichen Begriffen

Das Kontextfenster ist nicht das Trainingsdatenvolumen des Modells — letzteres ist um Größenordnungen größer und liegt fix. Auch zu unterscheiden vom Arbeitsspeicher der Hardware: das Kontextfenster ist eine Modell-Eigenschaft, der RAM-Bedarf wächst mit ihr, ist aber eine separate Frage der Inferenz-Infrastruktur.

Entdecke mehr