Grundbegriffe und Mechanik moderner Sprachmodelle und KI-Workflows.
Was das Kontextfenster ist, wie groß moderne Fenster sind, das Lost-in-the-Middle-Phänomen, Kosten und Latenz, und die Abgrenzung zu RAG und Langzeitgedächtnis.
Ein Embedding ist ein Vektor aus Zahlen, der Bedeutung im Raum verortet. Warum aehnliche Inhalte nah liegen und wofuer man Embeddings braucht.
Wann Fine-Tuning sich lohnt, welche Verfahren es gibt (SFT, DPO, LoRA, QLoRA), und was AMD- bzw. NVIDIA-Hardware in der Praxis voneinander unterscheidet.
Wie ein LLM Werkzeuge aufruft: Tool-Definition als Schema, Modell wählt Funktion und Argumente, Ergebnis zurück ins Gespräch — der Grundbaustein jedes Agenten.
Warum LLMs selbstbewusst Falsches erfinden, welche Typen von Halluzinationen es gibt und welche Gegenmittel wirklich helfen — RAG, Quellenzwang, Verifikation.
Wie KI-Agenten funktionieren: vom einfachen Tool-Call über MCP, Strukturierte Outputs und LangGraph bis zur Frage, wann Multi-Agent-Setups sinnvoll sind.
Wie misst man, ob ein LLM-System gut funktioniert? Drei Ebenen von Public Benchmarks bis CI-Eval, Stolperfallen wie Goodhart, Judge-Bias und Eval-Aging.
Wie du Sprachmodelle auf eigener Hardware betreibst — VRAM-Bedarf, Tool-Landschaft (Ollama, LM Studio, llama.cpp, vLLM) und welche Modelle für welche GPU.
Praktische API-Mechanik jenseits des Pricings: Streaming für UX, Prompt Caching gegen Token-Kosten, Batch-API für Massenjobs, Rate Limits ohne 429-Drama.
Wie Prompt Injection, Prompt Leaking und Jailbreaks funktionieren — und welche Verteidigungen (Guardrails, Spotlighting, Sanitization) wirklich helfen.
Zero-Shot, Few-Shot, Chain-of-Thought, Tree of Thoughts, ReAct & Co. — wann welche Prompting-Technik lohnt und wie sie zusammenspielen.
Wie eine RAG-Pipeline funktioniert: Embedding, Vektor-DB, Retrieval, Reranking, Prompt — und welche Stolperfallen typisch sind.
Wie man Retrieval gezielt steuert: Embedding-Wahl, Hybrid-Gewichte, Reranker-Cascade, Time-Decay, Authority-Boost, MMR und MCP als Retrieval-Tool.
Wie ein LLM das nächste Token wählt: Temperatur staucht oder spreizt die Wahrscheinlichkeiten, Top-p und Top-k begrenzen die Auswahl. Welche Einstellung wofür.
Was ein Token ist, wie Tokenizer Text zerlegen und warum Tokens über Kosten, Kontextfenster und Geschwindigkeit entscheiden — mit Faustregeln zur Schätzung.