Begriff
Temperature
Temperature ist ein Sampling-Parameter, der steuert, wie deterministisch oder kreativ ein Sprachmodell antwortet — niedrige Werte machen Antworten konservativ, hohe Werte vielfältiger.
Temperature — ausführlicher erklärt
Bei jeder Token-Generierung berechnet das Modell eine Wahrscheinlichkeitsverteilung über mögliche Nachfolge-Tokens. Temperature skaliert diese Verteilung vor dem Sampling: Werte nahe 0 spitzen sie zu (das wahrscheinlichste Token gewinnt fast immer), Werte nahe 1 lassen sie unverändert, Werte über 1 flachen sie ab und mischen seltenere Tokens stärker ein. Temperature 0 ist faktisch deterministisch, Temperature 2 produziert oft inkohärente Texte.
Beispiel / Praxisbezug
Für Code-Generierung, Datenextraktion oder Zusammenfassungen sind niedrige Werte (0–0.3) sinnvoll — man will reproduzierbare, präzise Outputs. Für Brainstorming, kreatives Schreiben oder Variantenbildung sind höhere Werte (0.7–1.0) üblich. Die meisten APIs (OpenAI, Anthropic, lokale Server) erwarten Temperature im Bereich 0–2, mit 1.0 als Default.
Abgrenzung zu ähnlichen Begriffen
Temperature ist nur einer von mehreren Sampling-Parametern. Top-p (Nucleus Sampling) und Top-k schneiden die Verteilung anders ab — sie begrenzen die Menge der Kandidaten, statt nur ihre Form zu skalieren. In der Praxis werden die Parameter oft kombiniert oder gegeneinander getauscht.
Entdecke mehr
KI-Workflows per Keyword: Wie wir wiederkehrende Abläufe erzwingbar machen
Ein getipptes Keyword löst bei uns einen festen KI-Ablauf aus — und jeder Schritt muss committet werden, bevor der nächste kommt. Warum das der Trick ist.
GlossarReasoning Effort
Reasoning Effort ist ein Steuerparameter moderner Reasoning-Modelle, der festlegt, wie viel internes Schritt-für-Schritt-Denken (Thinking-Tokens) ein Modell vor der Antwort aufwendet — höhere Stufen erhöhen Qualität, aber auch Latenz und Kosten.
LexikonHalluzinationen bei LLMs — Ursachen und Gegenmittel
Warum LLMs selbstbewusst Falsches erfinden, welche Typen von Halluzinationen es gibt und welche Gegenmittel wirklich helfen — RAG, Quellenzwang, Verifikation.