Begriff
Instruction Tuning
Instruction Tuning ist eine Variante des Supervised Fine-Tuning, bei der ein Sprachmodell auf einem breit gestreuten Mix aus Instruktion-Antwort-Paaren trainiert wird — damit es Anweisungen beliebiger Aufgaben verlässlich befolgt.
Instruction Tuning — ausführlicher erklärt
Klassisches SFT trainiert ein Modell oft auf einen engen Anwendungsfall — Customer-Support, Coding-Assistent, Medical-QA. Instruction Tuning verfolgt das Gegenteil: möglichst viele Aufgabentypen in einen einzigen Trainingsdatensatz packen, damit das Modell verstehen lernt, dass die Eingabe immer eine Instruktion ist, die zu erfüllen ist — ob Übersetzung, Klassifikation, Zusammenfassung, Code-Generierung oder Brainstorming. Das Verfahren wurde durch Google FLAN und das InstructGPT-Paper von OpenAI populär. Datensätze wie FLAN, Self-Instruct, Alpaca oder Dolly enthalten zehntausende bis Millionen heterogener Instruktion-Antwort-Paare. Resultat: das nachtrainierte Modell folgt auch Aufgaben, die im Trainingsdatensatz nie exakt vorkamen — die berühmte Zero-Shot-Generalisierung.
Beispiel / Praxisbezug
Open-Source-Modellfamilien sind hier sehr sichtbar: Llama-Instruct, Mistral-Instruct, Qwen-Instruct sind jeweils die Instruction-getunten Varianten der Basis-Modelle. Wer im eigenen RAG- oder Agent-Stack lokal arbeitet, greift praktisch immer zu einer Instruct-Variante — die Base-Modelle sind ohne weiteres Post-Training nicht in der Lage, Anweisungen sauber zu folgen.
Abgrenzung zu ähnlichen Begriffen
SFT ist der Oberbegriff — Instruction Tuning ist eine spezielle Datendiät davon, gekennzeichnet durch hohe Aufgaben-Diversität. RLHF/DPO/ORPO laufen nach Instruction Tuning und justieren das Modell weiter nach menschlichen Präferenzen. Domänen-Fine-Tuning macht das Gegenteil von Instruction Tuning: ein Modell wird gezielt auf einen schmalen Bereich (Recht, Medizin) verengt, oft auf Kosten der Allzweck-Fähigkeiten.
Entdecke mehr
KI-Workflows per Keyword: Wie wir wiederkehrende Abläufe erzwingbar machen
Ein getipptes Keyword löst bei uns einen festen KI-Ablauf aus — und jeder Schritt muss committet werden, bevor der nächste kommt. Warum das der Trick ist.
GlossarDPO (Direct Preference Optimization)
DPO ist ein Fine-Tuning-Verfahren, das Sprachmodelle direkt an menschlichen Präferenzpaaren ausrichtet — ohne separates Reward-Modell und ohne Reinforcement Learning.
LexikonFine-Tuning einfach erklärt — wann, wie, womit
Wann Fine-Tuning sich lohnt, welche Verfahren es gibt (SFT, DPO, LoRA, QLoRA), und was AMD- bzw. NVIDIA-Hardware in der Praxis voneinander unterscheidet.