Halluzinationen bei LLMs — Ursachen und Gegenmittel
Warum LLMs selbstbewusst Falsches erfinden, welche Typen von Halluzinationen es gibt und welche Gegenmittel wirklich helfen — RAG, Quellenzwang, Verifikation.
Redaktion
LLM-Grundlagen
in KI-Konzepte
Basis-Begriffe rund um Large Language Models.
Glossar
Reasoning Effort LLM-Grundlagen
Reasoning Effort ist ein Steuerparameter moderner Reasoning-Modelle, der festlegt, wie viel internes Schritt-für-Schritt-Denken (Thinking-Tokens) ein Modell vor der Antwort aufwendet — höhere Stufen erhöhen Qualität, aber auch Latenz und Kosten.
Sampling (LLM) LLM-Grundlagen
Sampling ist das gewichtete Ziehen des nächsten Tokens aus der Wahrscheinlichkeitsverteilung eines Sprachmodells — gesteuert über Temperatur, Top-p und Top-k. Es erzeugt die Variabilität zwischen zwei Läufen.
Thinking Budget LLM-Grundlagen
Das Thinking Budget (Token-Budget) ist die maximale Zahl interner Reasoning-Tokens, die ein Reasoning-Modell pro Anfrage fürs „Nachdenken" verbrauchen darf — es steuert die Abwägung zwischen Antworttiefe und Kosten bzw. Latenz.
Automatic Speech Recognition (ASR) LLM-Grundlagen
Automatic Speech Recognition (ASR), auch Speech-to-Text (STT) genannt, bezeichnet die automatische Umwandlung gesprochener Sprache in geschriebenen Text durch ein akustisches Modell.
Pfadabhängigkeit (LLM-Output) LLM-Grundlagen
Pfadabhängigkeit beschreibt, wie bei der LLM-Generierung jeder früh erzeugte Token den weiteren Verlauf festlegt — der erste verbalisierte Fund lenkt die gesamte restliche Analyse in eine Richtung.
Whisper LLM-Grundlagen
Whisper ist OpenAIs offenes Speech-to-Text-Modell von 2022 — ein mehrsprachiger Encoder-Decoder-Transformer, der Audio in Text umwandelt und in mehreren Größen unter MIT-Lizenz verfügbar ist.
Audio-Normalisierung LLM-Grundlagen
Audio-Normalisierung ist die adaptive lineare Skalierung eines Audio-Signals auf einen Zielpegel — das Tool misst zuerst einen Bezugswert (Peak, RMS oder LUFS) und berechnet daraus den nötigen Gain.
Kontextfenster LLM-Grundlagen
Das Kontextfenster ist die maximale Anzahl Tokens, die ein Sprachmodell gleichzeitig verarbeiten kann — Eingabe und Ausgabe zusammen.
dBFS, Headroom & Clipping LLM-Grundlagen
Drei zusammenhängende Begriffe für digitale Audio-Pegel: dBFS ist die Skala mit 0 dBFS als absoluter Obergrenze, Headroom der Sicherheitsabstand zum Maximum, Clipping das harte Abschneiden bei Überschreitung.
Embedding LLM-Grundlagen
Ein Embedding ist eine Zahlenrepräsentation (Vektor) von Text, Bild oder anderen Daten, in der semantisch ähnliche Inhalte räumlich nah beieinander liegen.
Halluzination LLM-Grundlagen
Eine Halluzination ist eine Antwort eines Sprachmodells, die plausibel klingt, aber faktisch falsch oder erfunden ist — typische Quelle ist statistisches Raten ohne Faktenanker.
Inferenz LLM-Grundlagen
Inferenz bezeichnet das Ausführen eines bereits trainierten Modells, um aus einer Eingabe eine Antwort zu generieren — also den produktiven Betrieb, nicht das Training.
KV-Cache LLM-Grundlagen
Der KV-Cache (Key-Value-Cache) speichert während der Textgenerierung eines Sprachmodells die bereits berechneten Key- und Value-Vektoren der Attention-Schichten zwischen. So muss pro neuem Token nicht der gesamte Kontext neu berechnet werden, was die Inferenz deutlich beschleunigt.
LLM LLM-Grundlagen
LLM steht für Large Language Model — ein neuronales Netz, das auf großen Mengen Text trainiert wurde, um natürliche Sprache zu verarbeiten und zu erzeugen.
RAG LLM-Grundlagen
RAG (Retrieval-Augmented Generation) verbindet ein Sprachmodell mit einer externen Wissensquelle — passende Passagen werden gesucht und mit der Frage zusammen ans Modell gegeben.
Stop Sequences LLM-Grundlagen
Stop Sequences sind Zeichenketten, bei deren Auftreten ein LLM die Token-Generierung sofort beendet. Sie begrenzen die Ausgabe gezielt, etwa um Rollenwechsel, Format-Marker oder überlange Antworten zu verhindern.
Temperature LLM-Grundlagen
Temperature ist ein Sampling-Parameter, der steuert, wie deterministisch oder kreativ ein Sprachmodell antwortet — niedrige Werte machen Antworten konservativ, hohe Werte vielfältiger.
Token LLM-Grundlagen
Ein Token ist die kleinste Einheit, mit der ein Sprachmodell intern arbeitet — meist ein Wortteil, gelegentlich ein einzelnes Zeichen.
Tokenizer LLM-Grundlagen
Ein Tokenizer ist das Programm, das Text in Tokens zerlegt, bevor ein Sprachmodell ihn verarbeiten kann — er bestimmt, wie viele Tokens ein Text kostet.
Top-p / Top-k LLM-Grundlagen
Top-p (Nucleus Sampling) und Top-k sind Sampling-Strategien für LLMs, die festlegen, aus welcher Token-Auswahl pro Schritt gezogen wird — sie steuern zusammen mit der Temperatur die Kreativität der Ausgabe.
Model Card LLM-Grundlagen
Eine Model Card ist ein standardisiertes Datenblatt zu einem KI-Modell — sie dokumentiert Zweck, Trainingsdaten, Leistung, Limitierungen und ethische Hinweise an einer Stelle.
Safetensors LLM-Grundlagen
Safetensors ist ein von Hugging Face entwickeltes Dateiformat zum Speichern von Modellgewichten — schneller, sicherer und sprachübergreifender als das ältere PyTorch-Format `.pt`/`.bin`.
Lexikon
Tokens und Tokenisierung bei LLMs erklärt
Was ein Token ist, wie Tokenizer Text zerlegen und warum Tokens über Kosten, Kontextfenster und Geschwindigkeit entscheiden — mit Faustregeln zur Schätzung.
Redaktion
Embeddings einfach erklaert
Ein Embedding ist ein Vektor aus Zahlen, der Bedeutung im Raum verortet. Warum aehnliche Inhalte nah liegen und wofuer man Embeddings braucht.
Redaktion
Das Kontextfenster von LLMs — was reinpasst und was nicht
Was das Kontextfenster ist, wie groß moderne Fenster sind, das Lost-in-the-Middle-Phänomen, Kosten und Latenz, und die Abgrenzung zu RAG und Langzeitgedächtnis.
Redaktion
Temperatur, Top-p und Sampling bei LLMs
Wie ein LLM das nächste Token wählt: Temperatur staucht oder spreizt die Wahrscheinlichkeiten, Top-p und Top-k begrenzen die Auswahl. Welche Einstellung wofür.
Redaktion