Prompting

Chain-of-Thought (CoT) ist eine Prompting-Technik, bei der das Modell aufgefordert wird, seinen Lösungsweg in Zwischenschritten auszuformulieren — das verbessert die Trefferquote bei Aufgaben mit mehreren Denkschritten.

Constitutional AI ist ein von Anthropic entwickeltes Trainingsverfahren, bei dem ein KI-Modell sein eigenes Verhalten anhand einer expliziten Liste von Prinzipien (einer „Verfassung") kritisiert und überarbeitet — statt allein über menschliche Bewertungen.

Context Engineering ist die Disziplin, alle Inhalte des LLM-Kontextfensters — System-Prompt, Tool-Definitionen, RAG-Treffer, Memory, Konversationshistorie — bewusst zu kuratieren und über die Zeit zu pflegen.

Few-Shot Prompting ist eine Technik, bei der dem Modell im Prompt einige Beispiele der gewünschten Input-Output-Paarung gezeigt werden, um Format und Stil der Antwort zu steuern.

Guardrails sind Schutzmechanismen rund um ein Sprachmodell, die Eingaben und Ausgaben prüfen, um unerwünschtes Verhalten — etwa Off-Topic-Antworten, PII-Lecks oder unsichere Aktionen — abzufangen.

Indirect Prompt Injection ist ein Angriff, bei dem schädliche Anweisungen in externen Inhalten — Webseiten, Dokumenten, E-Mails — versteckt werden, die ein LLM verarbeitet und dabei unbeabsichtigt ausführt.

Jailbreak bezeichnet das gezielte Umgehen der Sicherheits- und Verhaltensregeln eines Sprachmodells durch geschickt formulierte Prompts, sodass das Modell Inhalte produziert, die es eigentlich verweigern soll.

Meta-Prompting ist die Technik, ein LLM einen Prompt für eine Aufgabe schreiben oder verbessern zu lassen, statt ihn selbst zu formulieren — der Prompt wird zum Output.

Prompt Engineering ist die Disziplin, KI-Modelle durch gezielt gestaltete Eingabeaufforderungen zu steuern — also durch präzises Schreiben statt klassische Programmierung.

Prompt Injection ist ein Angriff, bei dem in den Eingabe-Daten eines LLMs Anweisungen versteckt werden, die das Modell dazu bringen, seine ursprünglichen Anweisungen zu ignorieren oder zu unterlaufen.

Prompt Leaking ist ein Angriff, der ein LLM dazu bringt, seinen versteckten System-Prompt oder andere vertrauliche Kontext-Inhalte preiszugeben — ein Sonderfall der Prompt Injection.

Ein Prompt Template ist ein wiederverwendbares Prompt-Gerüst mit Platzhaltern, in das pro Aufruf konkrete Werte eingesetzt werden — Grundlage für reproduzierbare LLM-Aufrufe in Anwendungen.

ReAct ist ein Prompting-Muster, das ein LLM zwischen Reasoning (Gedanken) und Action (Tool-Aufrufen) abwechseln lässt — Grundlage vieler Agenten-Implementierungen.

Role Prompting weist einem LLM eine konkrete Rolle oder Persona zu („Du bist ein erfahrener Steueranwalt …"), um Stil, Vokabular und Antworttiefe gezielt zu steuern.

Self-Consistency ist eine Prompting-Technik, bei der dieselbe Frage mehrfach mit Chain-of-Thought beantwortet und die häufigste Antwort als finales Ergebnis gewählt wird.

Self-Refine ist eine Prompting-Technik, bei der ein Modell seinen eigenen Output kritisiert und in mehreren Iterationen verbessert — ohne menschliches Feedback.

Spotlighting ist eine Verteidigungstechnik gegen Prompt Injection, bei der nicht-vertrauenswürdige Eingaben markiert werden, damit das Modell sie als Daten — nicht als Anweisungen — behandelt.

Der System-Prompt ist die Instruktion, die das Verhalten eines Sprachmodells über eine ganze Konversation festlegt — im Unterschied zum Nutzer-Prompt, der pro Nachricht variiert.

Tree of Thoughts (ToT) ist eine Prompting-Technik, bei der ein LLM mehrere Lösungspfade als verzweigten Baum exploriert, bewertet und nur vielversprechende Äste weiterverfolgt — eine Verallgemeinerung von Chain-of-Thought.

XML-Tags sind benannte Klammern wie <kontext>...</kontext>, mit denen man Abschnitte eines Prompts klar voneinander abgrenzt. Sie strukturieren Eingaben, trennen Instruktion von Daten und machen die Antwort vorhersehbarer.

Zero-Shot beschreibt das Lösen einer Aufgabe durch ein Sprachmodell ohne mitgelieferte Beispiele — allein über die Aufgabenbeschreibung im Prompt.