Zurück zum Glossar

Begriff

Stop Sequences

Stop Sequences sind Zeichenketten, bei deren Auftreten ein LLM die Token-Generierung sofort beendet. Sie begrenzen die Ausgabe gezielt, etwa um Rollenwechsel, Format-Marker oder überlange Antworten zu verhindern.

Stop Sequences — ausführlich erklärt

Stop Sequences (auch Stop-Tokens oder stop-Parameter) sind eine oder mehrere vom Aufrufer definierte Zeichenketten, die ein Sprachmodell während der Generierung als Abbruchsignal behandelt. Sobald das Modell eine dieser Sequenzen erzeugt, hält die Token-Generierung an — die Stop-Sequenz selbst wird in der Regel nicht mit ausgegeben. Sie ergänzt das natürliche End-of-Sequence-Token (EOS), das ein Modell von sich aus produziert, und das harte Limit max_tokens.

Technisch prüft der Decoder nach jedem generierten Token, ob der bisher erzeugte Text mit einer der konfigurierten Stop-Sequenzen endet. In den APIs der großen Anbieter wird der Parameter meist als stop (Liste von Strings) übergeben; üblich sind wenige Sequenzen, oft mit einer Obergrenze (z. B. vier) pro Anfrage.

Beispiel / Praxisbezug

In einem Chat-Format mit Rollen-Markern wie User: und Assistant: verhindert die Stop-Sequenz "\nUser:", dass das Modell nach seiner Antwort eigenständig einen neuen Nutzer-Turn halluziniert. Bei strukturierten Ausgaben kann man ein Format-Ende erzwingen, etwa "]" bei einer JSON-Liste oder einen eigenen Marker wie "###" am Ende eines Few-Shot-Blocks. Auch das Zusammenspiel mit Few-Shot-Prompting ist typisch: Trennzeichen zwischen den Beispielen dienen zugleich als Stop-Sequenz, damit das Modell nach dem ersten erzeugten Beispiel stoppt.

Abgrenzung zu ähnlichen Begriffen

max_tokens begrenzt die Ausgabe rein über die Anzahl der Output-Token, unabhängig vom Inhalt — Stop Sequences hingegen reagieren auf konkrete Textmuster. Das EOS-Token ist ein modellinternes Spezial-Token, das der Aufrufer nicht frei wählt, während Stop Sequences anwendungsseitig gesetzt werden. Sampling-Parameter wie Temperature oder Top-p / Top-k steuern wie Tokens ausgewählt werden, nicht wann die Generierung endet.

Entdecke mehr