Begriff
Guardrails
Guardrails sind Schutzmechanismen rund um ein Sprachmodell, die Eingaben und Ausgaben prüfen, um unerwünschtes Verhalten — etwa Off-Topic-Antworten, PII-Lecks oder unsichere Aktionen — abzufangen.
Guardrails — ausführlicher erklärt
Anders als die im Modell selbst trainierten Sicherheitsregeln sind Guardrails externe Schichten, die ein Entwicklerteam um die LLM-Inferenz herum baut. Sie laufen vor dem Modell (Input-Filter: PII-Erkennung, Prompt-Injection-Detection, Themen-Whitelists), parallel dazu (Tool-Allowlists, Rate Limits) oder nach dem Modell (Output-Klassifikatoren, JSON-Validierung, Toxicity-Filter). Die Idee: was das Basismodell nicht garantiert kann, wird in deterministischer Logik nachgereicht.
Beispiel / Praxisbezug
Ein Support-Bot soll nur Fragen zum Produkt beantworten. Eine Guardrail klassifiziert die User-Frage und lehnt alles außerhalb des Themas ab, bevor das Modell überhaupt aufgerufen wird. Eine zweite Guardrail scannt die Antwort auf Kreditkartennummern oder Mailadressen und schwärzt sie. Frameworks wie NeMo Guardrails, Guardrails AI oder Llama Guard liefern Bausteine dafür; oft reicht aber auch einfache Regex- und Klassifikator-Logik.
Abgrenzung zu ähnlichen Begriffen
System-Prompts sind Anweisungen im Modellkontext und können vom Modell ignoriert oder umgangen werden — Guardrails sind deterministischer Code außerhalb des Modells. Constitutional AI verschiebt den Schutz wieder zurück ins Modelltraining selbst. Beide Ansätze ergänzen einander: Guardrails fangen ab, was das Modell durchrutschen lässt.
Entdecke mehr
Effort-Level und Deep Thinking: zwei unabhängige Achsen bei KI-Aufgaben
Effort skaliert Breite, Deep Thinking skaliert Tiefe. Wann welche Stufe sinnvoll ist — mit drei klaren Beispielen und einer Faustregel.
GlossarChain-of-Thought
Chain-of-Thought (CoT) ist eine Prompting-Technik, bei der das Modell aufgefordert wird, seinen Lösungsweg in Zwischenschritten auszuformulieren — das verbessert die Trefferquote bei Aufgaben mit mehreren Denkschritten.
LexikonPrompt-Sicherheit — Injection, Leaking, Guardrails
Wie Prompt Injection, Prompt Leaking und Jailbreaks funktionieren — und welche Verteidigungen (Guardrails, Spotlighting, Sanitization) wirklich helfen.