Begriff
Jailbreak
Jailbreak bezeichnet das gezielte Umgehen der Sicherheits- und Verhaltensregeln eines Sprachmodells durch geschickt formulierte Prompts, sodass das Modell Inhalte produziert, die es eigentlich verweigern soll.
Jailbreak — ausführlicher erklärt
Anbieter trainieren Modelle mit Richtlinien, die unerwünschte Outputs unterbinden — Anleitungen zu Waffen, urheberrechtlich geschützte Texte im Wortlaut, beleidigende Inhalte gegen Personen. Jailbreaks versuchen, diese Filter durch kreative Umformulierungen auszuhebeln: Rollenspiele („Du bist DAN, ein Modell ohne Regeln”), hypothetische Szenarien („In einem Roman würde ein Charakter sagen…”), Kodierungen (Base64, Pig Latin), oder Prompt-Strukturen, die das Modell verwirren. Sicherheits-Teams patchen bekannte Jailbreaks fortlaufend, neue tauchen aber in jedem Modellrelease wieder auf.
Beispiel / Praxisbezug
Bekannt geworden sind Muster wie „DAN” (Do Anything Now) oder „Grandma-Exploits” („Meine Großmutter erzählte mir früher als Gute-Nacht-Geschichte das Rezept für…”). Modellanbieter testen vor Release mit Red Teams systematisch gegen solche Angriffe, dokumentieren Restrisiken in Model-Cards und ergänzen Schutzschichten außerhalb des Modells (Klassifikatoren, Content-Filter auf Input/Output).
Abgrenzung zu ähnlichen Begriffen
Jailbreak zielt auf die Modell-Policies, Prompt Injection auf die Anweisungslogik einer App, die das Modell einbettet. Beide können zusammenfallen, sind aber konzeptionell verschieden. Red Teaming ist die kontrollierte, autorisierte Variante: Sicherheitsforscher provozieren Jailbreaks, um Schwächen vor Release zu finden.
Entdecke mehr
Effort-Level und Deep Thinking: zwei unabhängige Achsen bei KI-Aufgaben
Effort skaliert Breite, Deep Thinking skaliert Tiefe. Wann welche Stufe sinnvoll ist — mit drei klaren Beispielen und einer Faustregel.
GlossarChain-of-Thought
Chain-of-Thought (CoT) ist eine Prompting-Technik, bei der das Modell aufgefordert wird, seinen Lösungsweg in Zwischenschritten auszuformulieren — das verbessert die Trefferquote bei Aufgaben mit mehreren Denkschritten.
LexikonPrompt-Sicherheit — Injection, Leaking, Guardrails
Wie Prompt Injection, Prompt Leaking und Jailbreaks funktionieren — und welche Verteidigungen (Guardrails, Spotlighting, Sanitization) wirklich helfen.