Begriff
Constitutional AI
Constitutional AI ist ein von Anthropic entwickeltes Trainingsverfahren, bei dem ein KI-Modell sein eigenes Verhalten anhand einer expliziten Liste von Prinzipien (einer „Verfassung") kritisiert und überarbeitet — statt allein über menschliche Bewertungen.
Constitutional AI — ausführlich erklärt
Constitutional AI (CAI) ist ein von Anthropic vorgestelltes Verfahren zur Ausrichtung (Alignment) von Sprachmodellen. Der Kerngedanke: Statt erwünschtes Verhalten ausschließlich aus vielen menschlichen Bewertungen zu lernen, bekommt das Modell eine explizite Menge schriftlich formulierter Prinzipien — die „Constitution” (Verfassung). An diesen Prinzipien richtet es seine Antworten selbst aus.
Das Training läuft typischerweise in zwei Phasen. In der überwachten Phase erzeugt das Modell zunächst Antworten, kritisiert diese dann anhand der Prinzipien selbst und schreibt sie verbessert um; auf diesen überarbeiteten Antworten wird weitertrainiert. In der zweiten Phase erzeugt das Modell Vergleichspaare und bewertet selbst, welche Antwort den Prinzipien besser entspricht. Dieses KI-generierte Feedback ersetzt einen Großteil der menschlichen Annotation — daher auch der Begriff „RLAIF” (Reinforcement Learning from AI Feedback) in Abgrenzung zu klassischem RLHF.
Ziel ist ein Modell, das schädliche Anfragen nachvollziehbar ablehnt und seine Ablehnung begründet, ohne dabei ausweichend oder unnötig bevormundend zu wirken. Die Prinzipien lassen sich offenlegen und diskutieren, was den Alignment-Prozess transparenter macht.
Beispiel / Praxisbezug
Ein Prinzip der Verfassung könnte sinngemäß lauten: „Wähle die Antwort, die am wenigsten geeignet ist, bei illegalen oder gefährlichen Handlungen zu helfen.” Stellt ein Nutzer eine entsprechend riskante Anfrage, erzeugt das Modell zunächst eine Rohantwort, prüft sie gegen dieses Prinzip, erkennt den Konflikt und formuliert eine begründete Ablehnung. Über viele solcher Selbst-Korrekturen hinweg lernt das Modell das gewünschte Verhalten — ohne dass für jeden Fall ein Mensch ein Urteil abgeben muss.
Abgrenzung zu ähnlichen Begriffen
RLHF nutzt menschliche Präferenzen als Trainingssignal; Constitutional AI ersetzt einen großen Teil davon durch KI-Feedback, das sich an festgelegten Prinzipien orientiert. Constitutional AI ist ein Trainingsverfahren und wirkt damit in den Gewichten des Modells — im Unterschied zu Guardrails, die als Schutzschicht zur Laufzeit vor- oder nachgeschaltet werden. Auch vom System-Prompt ist es zu trennen: Dieser steuert das Verhalten pro Anfrage, während die Verfassung bereits beim Training einfließt.
Entdecke mehr
Effort-Level und Deep Thinking: zwei unabhängige Achsen bei KI-Aufgaben
Effort skaliert Breite, Deep Thinking skaliert Tiefe. Wann welche Stufe sinnvoll ist — mit drei klaren Beispielen und einer Faustregel.
GlossarChain-of-Thought
Chain-of-Thought (CoT) ist eine Prompting-Technik, bei der das Modell aufgefordert wird, seinen Lösungsweg in Zwischenschritten auszuformulieren — das verbessert die Trefferquote bei Aufgaben mit mehreren Denkschritten.
LexikonPrompt-Sicherheit — Injection, Leaking, Guardrails
Wie Prompt Injection, Prompt Leaking und Jailbreaks funktionieren — und welche Verteidigungen (Guardrails, Spotlighting, Sanitization) wirklich helfen.