Begriff
Stop Sequences
Stop Sequences sind Zeichenketten, bei deren Auftreten ein LLM die Token-Generierung sofort beendet. Sie begrenzen die Ausgabe gezielt, etwa um Rollenwechsel, Format-Marker oder überlange Antworten zu verhindern.
Stop Sequences — ausführlich erklärt
Stop Sequences (auch Stop-Tokens oder stop-Parameter) sind eine oder mehrere vom Aufrufer definierte Zeichenketten, die ein Sprachmodell während der Generierung als Abbruchsignal behandelt. Sobald das Modell eine dieser Sequenzen erzeugt, hält die Token-Generierung an — die Stop-Sequenz selbst wird in der Regel nicht mit ausgegeben. Sie ergänzt das natürliche End-of-Sequence-Token (EOS), das ein Modell von sich aus produziert, und das harte Limit max_tokens.
Technisch prüft der Decoder nach jedem generierten Token, ob der bisher erzeugte Text mit einer der konfigurierten Stop-Sequenzen endet. In den APIs der großen Anbieter wird der Parameter meist als stop (Liste von Strings) übergeben; üblich sind wenige Sequenzen, oft mit einer Obergrenze (z. B. vier) pro Anfrage.
Beispiel / Praxisbezug
In einem Chat-Format mit Rollen-Markern wie User: und Assistant: verhindert die Stop-Sequenz "\nUser:", dass das Modell nach seiner Antwort eigenständig einen neuen Nutzer-Turn halluziniert. Bei strukturierten Ausgaben kann man ein Format-Ende erzwingen, etwa "]" bei einer JSON-Liste oder einen eigenen Marker wie "###" am Ende eines Few-Shot-Blocks. Auch das Zusammenspiel mit Few-Shot-Prompting ist typisch: Trennzeichen zwischen den Beispielen dienen zugleich als Stop-Sequenz, damit das Modell nach dem ersten erzeugten Beispiel stoppt.
Abgrenzung zu ähnlichen Begriffen
max_tokens begrenzt die Ausgabe rein über die Anzahl der Output-Token, unabhängig vom Inhalt — Stop Sequences hingegen reagieren auf konkrete Textmuster. Das EOS-Token ist ein modellinternes Spezial-Token, das der Aufrufer nicht frei wählt, während Stop Sequences anwendungsseitig gesetzt werden. Sampling-Parameter wie Temperature oder Top-p / Top-k steuern wie Tokens ausgewählt werden, nicht wann die Generierung endet.
Entdecke mehr
KI-Workflows per Keyword: Wie wir wiederkehrende Abläufe erzwingbar machen
Ein getipptes Keyword löst bei uns einen festen KI-Ablauf aus — und jeder Schritt muss committet werden, bevor der nächste kommt. Warum das der Trick ist.
GlossarReasoning Effort
Reasoning Effort ist ein Steuerparameter moderner Reasoning-Modelle, der festlegt, wie viel internes Schritt-für-Schritt-Denken (Thinking-Tokens) ein Modell vor der Antwort aufwendet — höhere Stufen erhöhen Qualität, aber auch Latenz und Kosten.
LexikonHalluzinationen bei LLMs — Ursachen und Gegenmittel
Warum LLMs selbstbewusst Falsches erfinden, welche Typen von Halluzinationen es gibt und welche Gegenmittel wirklich helfen — RAG, Quellenzwang, Verifikation.