Begriff
Kontextfenster
Das Kontextfenster ist die maximale Anzahl Tokens, die ein Sprachmodell gleichzeitig verarbeiten kann — Eingabe und Ausgabe zusammen.
Kontextfenster — ausführlicher erklärt
Das Kontextfenster eines Sprachmodells legt fest, wie viel Text es in einer einzigen Anfrage gleichzeitig im Blick haben kann. Eingabe-Prompt und vom Modell erzeugte Antwort teilen sich dieses Budget. Ist es voll, wird älterer Inhalt entweder abgeschnitten oder muss durch externe Mechanismen wie Retrieval ergänzt werden.
Praxisbezug
Die Größen variieren stark. Kleinere lokale Modelle bewegen sich oft zwischen 4.000 und 32.000 Tokens. GPT-4o liegt bei rund 128.000 Tokens, aktuelle Claude-Modelle erreichen bis zu einer Million Tokens. Wer große Codebasen oder lange Dokumente in einer einzigen Anfrage verarbeiten möchte, muss entsprechend dimensionieren.
Abgrenzung zu ähnlichen Begriffen
Das Kontextfenster ist nicht das Trainingsdatenvolumen des Modells — letzteres ist um Größenordnungen größer und liegt fix. Auch zu unterscheiden vom Arbeitsspeicher der Hardware: das Kontextfenster ist eine Modell-Eigenschaft, der RAM-Bedarf wächst mit ihr, ist aber eine separate Frage der Inferenz-Infrastruktur.
Entdecke mehr
KI-Workflows per Keyword: Wie wir wiederkehrende Abläufe erzwingbar machen
Ein getipptes Keyword löst bei uns einen festen KI-Ablauf aus — und jeder Schritt muss committet werden, bevor der nächste kommt. Warum das der Trick ist.
GlossarReasoning Effort
Reasoning Effort ist ein Steuerparameter moderner Reasoning-Modelle, der festlegt, wie viel internes Schritt-für-Schritt-Denken (Thinking-Tokens) ein Modell vor der Antwort aufwendet — höhere Stufen erhöhen Qualität, aber auch Latenz und Kosten.
LexikonHalluzinationen bei LLMs — Ursachen und Gegenmittel
Warum LLMs selbstbewusst Falsches erfinden, welche Typen von Halluzinationen es gibt und welche Gegenmittel wirklich helfen — RAG, Quellenzwang, Verifikation.