Begriff
Halluzination
Eine Halluzination ist eine Antwort eines Sprachmodells, die plausibel klingt, aber faktisch falsch oder erfunden ist — typische Quelle ist statistisches Raten ohne Faktenanker.
Halluzination — ausführlicher erklärt
Sprachmodelle generieren Text Wort für Wort auf Basis von Wahrscheinlichkeiten. Wenn das Modell zu einer Frage keinen verlässlichen Kontext hat, füllt es die Lücke trotzdem flüssig aus — das Ergebnis sieht überzeugend aus, kann aber Quellen erfinden, Zahlen falsch zitieren oder Personen Aussagen unterschieben. Halluzinationen entstehen besonders dort, wo Trainingsdaten dünn sind, der Wissensstichtag überschritten wurde oder die Frage interne Details verlangt, die das Modell schlicht nicht kennt.
Beispiel / Praxisbezug
Klassische Fälle: erfundene Buchtitel mit korrekt aussehenden ISBNs, falsche Gerichtsurteile mit plausiblen Aktenzeichen, frei erfundene API-Parameter in Code-Beispielen. Gegenmittel sind Retrieval-Augmented Generation (RAG), explizite Quellenpflicht im Prompt, niedrigere Temperatur und Verifikation durch externe Tools oder Tests.
Abgrenzung zu ähnlichen Begriffen
Halluzination ist keine bewusste Lüge und kein Bug im klassischen Sinn — sie ist eine Eigenschaft generativer Systeme. Abzugrenzen ist sie vom Prompt-Injection-Angriff (externe Manipulation der Eingabe) und von der Wissenslücke durch Cutoff (das Modell weiß etwas schlicht nicht, statt es zu erfinden).
Entdecke mehr
KI-Workflows per Keyword: Wie wir wiederkehrende Abläufe erzwingbar machen
Ein getipptes Keyword löst bei uns einen festen KI-Ablauf aus — und jeder Schritt muss committet werden, bevor der nächste kommt. Warum das der Trick ist.
GlossarReasoning Effort
Reasoning Effort ist ein Steuerparameter moderner Reasoning-Modelle, der festlegt, wie viel internes Schritt-für-Schritt-Denken (Thinking-Tokens) ein Modell vor der Antwort aufwendet — höhere Stufen erhöhen Qualität, aber auch Latenz und Kosten.
LexikonHalluzinationen bei LLMs — Ursachen und Gegenmittel
Warum LLMs selbstbewusst Falsches erfinden, welche Typen von Halluzinationen es gibt und welche Gegenmittel wirklich helfen — RAG, Quellenzwang, Verifikation.