Glossar

Accelerate ist eine quelloffene Bibliothek von Hugging Face, die PyTorch-Trainingscode mit minimalen Änderungen auf beliebiger Hardware und in verteilten Setups lauffähig macht — inklusive Mixed Precision sowie FSDP- und DeepSpeed-Unterstützung.

Ein Adapter ist ein kleines, neu hinzugefügtes Netzwerk-Modul, das in ein eingefrorenes Sprachmodell injiziert wird — nur diese Module werden trainiert, das Basis-Modell selbst bleibt unverändert.

Agentic RAG ist eine RAG-Architektur, in der ein Agent das Retrieval steuert — er zerlegt Fragen, sucht iterativ, prüft Treffer und entscheidet selbst, ob ein zweiter oder dritter Durchgang nötig ist.

Aider ist ein quelloffener KI-Pair-Programmer für die Kommandozeile, der Code direkt im Git-Repository editiert und jede Änderung automatisch committet.

Rechenverfahren in Transformer-Modellen, das gewichtet, welche Teile des Eingabetextes für die Vorhersage des nächsten Tokens am relevantesten sind — statt jeden Teil gleich stark zu berücksichtigen.

Audio-Normalisierung ist die adaptive lineare Skalierung eines Audio-Signals auf einen Zielpegel — das Tool misst zuerst einen Bezugswert (Peak, RMS oder LUFS) und berechnet daraus den nötigen Gain.

Ein Sicherheits-Layer in Claude Code: ein kleines LLM bewertet jeden nicht explizit erlaubten Tool-Call live auf Risiko und blockt destruktive oder nicht-autorisierte Aktionen.

AutoGen ist ein quelloffenes Framework von Microsoft zum Bauen von Multi-Agenten-Anwendungen mit LLMs. Mehrere KI-Agenten lösen Aufgaben gemeinsam in strukturierten Konversationen, etwa im Gruppenchat oder über asynchronen Nachrichtenaustausch.

AutoGPT ist ein 2023 veröffentlichtes Open-Source-Experiment, das ein Sprachmodell wie GPT-4 in einer autonomen Schleife laufen lässt — es zerlegt ein Ziel selbst in Teilaufgaben, ruft Werkzeuge auf und arbeitet sie mit minimalem menschlichem Eingriff ab.

Automatic Speech Recognition (ASR), auch Speech-to-Text (STT) genannt, bezeichnet die automatische Umwandlung gesprochener Sprache in geschriebenen Text durch ein akustisches Modell.

Asynchroner API-Modus, bei dem viele Anfragen gesammelt und mit deutlichem Preisrabatt verarbeitet werden — Ergebnisse liegen meist innerhalb von 24 Stunden vor.

Batch-Inferenz bezeichnet das gebündelte Verarbeiten vieler Prompts in einem Durchlauf — entweder lokal über die GPU oder als asynchroner API-Job — zugunsten von Durchsatz und Kosten statt Echtzeit-Latenz.

Ein KI-Benchmark ist ein standardisierter Aufgaben-Datensatz, der Sprachmodelle vergleichbar macht — gleiche Fragen, gleiches Scoring, transparente Ergebnisse für Reasoning, Wissen oder Coding.

Browser Use bezeichnet KI-Agenten, die einen echten Webbrowser steuern — navigieren, klicken, Formulare ausfüllen, Inhalte auslesen — um Aufgaben im Web autonom zu erledigen. Der Browser ist dabei Werkzeug und Wahrnehmungsfläche zugleich.

Catastrophic Forgetting bezeichnet den Effekt, dass ein neuronales Netz beim Training auf neuen Daten zuvor erlerntes Wissen ganz oder teilweise verliert — ein zentrales Problem beim Fine-Tuning von Sprachmodellen.

Chain-of-Thought (CoT) ist eine Prompting-Technik, bei der das Modell aufgefordert wird, seinen Lösungsweg in Zwischenschritten auszuformulieren — das verbessert die Trefferquote bei Aufgaben mit mehreren Denkschritten.

Chroma (ChromaDB) ist eine quelloffene Vektordatenbank zum Speichern und Durchsuchen von Embeddings. Sie wird vor allem in RAG-Systemen genutzt, um relevante Textpassagen per Ähnlichkeitssuche an Sprachmodelle zu liefern.

Chunking ist das Zerlegen längerer Texte in kleinere, eigenständig sinnvolle Abschnitte — der erste Schritt jeder RAG-Pipeline, weil Embeddings und Retrieval auf Stück-Ebene arbeiten.

Claude Code ist Anthropics offizielles KI-Coding-Tool — verfügbar als Terminal-CLI, VS-Code-Extension, JetBrains-Plugin und Web-App, mit starkem Fokus auf Tool-Use und konfigurierbare Workflows.

Claude Mythos (April 2026) ist Anthropics bisher leistungsstärkstes Modell — ein neuer Tier oberhalb der Opus-Reihe, primär verteilt über das Glasswing-Programm an Cybersecurity-Defender.

Claude Opus 4.5 ist Anthropics Top-Tier-Modell vom November 2025 — der direkte Vorgänger von Opus 4.6, bringt „Infinite Chats" und deutlich reduzierten Token-Verbrauch.

Computer Use ist eine Fähigkeit moderner KI-Modelle, einen Computer wie ein Mensch zu bedienen — Bildschirm sehen, Maus bewegen, Tastatur nutzen — um Aufgaben in beliebigen Anwendungen ohne API auszuführen.

Constitutional AI ist ein von Anthropic entwickeltes Trainingsverfahren, bei dem ein KI-Modell sein eigenes Verhalten anhand einer expliziten Liste von Prinzipien (einer „Verfassung") kritisiert und überarbeitet — statt allein über menschliche Bewertungen.

Context Engineering ist die Disziplin, alle Inhalte des LLM-Kontextfensters — System-Prompt, Tool-Definitionen, RAG-Treffer, Memory, Konversationshistorie — bewusst zu kuratieren und über die Zeit zu pflegen.

Context Precision ist eine RAG-Eval-Metrik (0–1), die misst, wie gut der Retriever relevante Kontexte vor irrelevante platziert — Fokus liegt auf Ranking-Qualität, nicht auf reiner Trefferanzahl.

Context Recall ist eine RAG-Eval-Metrik (0–1), die misst, wie vollständig der Retriever die für die Goldantwort nötigen Fakten geliefert hat — fehlt ein Fakt im Kontext, sinkt der Score.

Contextual Retrieval ist eine RAG-Technik von Anthropic, die jedem Chunk vor dem Indexieren einen vom LLM generierten Kontext-Satz voranstellt — und so die Trefferqualität deutlich erhöht.

Continue.dev ist eine quelloffene, modell-agnostische KI-Coding-Extension für VS Code und JetBrains — Konfiguration via YAML, funktioniert mit kommerziellen wie lokalen Modellen.

Continued Pretraining ist das Weitertrainieren eines bereits vortrainierten Sprachmodells auf großen Mengen Domänen-Text — bevor klassisches Fine-Tuning beginnt.

Conversational Marketing ist eine dialogbasierte Form der Kundenansprache, die über Chat, Messaging und KI-Chatbots in Echtzeit auf Interessenten eingeht. Ziel ist es, Nutzende entlang der Customer Journey im Gespräch zu begleiten statt über starre Formulare.

Cosine Similarity misst die Ähnlichkeit zweier Vektoren über den Winkel zwischen ihnen — Standardmaß im RAG-Retrieval, um Embeddings einer Anfrage mit Embeddings im Vektor-Index zu vergleichen.

CrewAI ist ein quelloffenes Framework zur Orchestrierung mehrerer autonomer KI-Agenten. Es weist Agenten Rollen, Ziele und Werkzeuge zu und lässt sie in Teams ("Crews") zusammenarbeiten, um komplexe Aufgaben in koordinierten, mehrstufigen Abläufen zu lösen.

Cursor ist ein KI-erster Code-Editor — ein Fork von Visual Studio Code mit tief in den Editor integrierter KI-Unterstützung.

Datasets ist eine Open-Source-Python-Bibliothek von Hugging Face zum Laden, Verarbeiten und Teilen von Datensätzen für maschinelles Lernen. Sie nutzt Apache Arrow und Memory-Mapping, um auch sehr große Datenmengen effizient zu handhaben.

Drei zusammenhängende Begriffe für digitale Audio-Pegel: dBFS ist die Skala mit 0 dBFS als absoluter Obergrenze, Headroom der Sicherheitsabstand zum Maximum, Clipping das harte Abschneiden bei Überschreitung.

Janus-Pro-7B ist DeepSeeks Open-Source-Multimodal-Modell vom Januar 2025 — vereint Bildverstehen und Bildgenerierung in einer einzigen 7B-Architektur, MIT-lizenziert.

DeepSeek V4 (April 2026) ist die vierte Generation des chinesischen Open-Weight-MoE-Modells — als Pro (1,6 T Parameter) und Flash (284 B) unter MIT-Lizenz veröffentlicht, mit 1-Mio.-Tokens-Kontext.

Diffusers ist eine quelloffene Python-Bibliothek von Hugging Face zum Nutzen und Trainieren von Diffusionsmodellen für die Bild-, Video- und Audiogenerierung. Sie baut auf PyTorch auf und gliedert sich in Pipelines, Modelle und Scheduler.

DPO ist ein Fine-Tuning-Verfahren, das Sprachmodelle direkt an menschlichen Präferenzpaaren ausrichtet — ohne separates Reward-Modell und ohne Reinforcement Learning.

DSPy ist ein quelloffenes Python-Framework der Stanford NLP Group, das LLM-Anwendungen programmieren statt manuell prompten lässt. Aufgaben werden über deklarative Signaturen und Module beschrieben; Optimizer erzeugen daraus automatisch wirksame Prompts und Beispiele.

Ein Embedding ist eine Zahlenrepräsentation (Vektor) von Text, Bild oder anderen Daten, in der semantisch ähnliche Inhalte räumlich nah beieinander liegen.

Ensemble bezeichnet das Kombinieren mehrerer bewusst variierter LLM-Läufe oder Modelle, deren Funde sich ergänzen. Multi-Modell-Orchestrierung steuert diese Läufe über Orchestratoren mit Sub-Agenten, sodass die Vereinigung der Ergebnisse größer ist als jeder Einzellauf.

Evals sind systematische Tests für LLM-Anwendungen — feste Testfälle, automatische Bewertung der Antworten, Ergebnis als Score. Grundlage, um Prompt- oder Modellwechsel objektiv zu vergleichen.

Faithfulness ist eine RAG-Eval-Metrik (0–1), die misst, wie viele Aussagen einer Antwort sich tatsächlich aus den abgerufenen Kontexten ableiten lassen — ein direkter Halluzinations-Indikator.

Few-Shot Prompting ist eine Technik, bei der dem Modell im Prompt einige Beispiele der gewünschten Input-Output-Paarung gezeigt werden, um Format und Stil der Antwort zu steuern.

Nachtraining eines vortrainierten Modells auf einem kleineren, spezialisierten Datensatz, um Stil, Format oder Domänenwissen gezielt anzupassen.

Flowise ist ein quelloffenes Low-Code-Werkzeug, mit dem sich LLM-Anwendungen und KI-Agenten visuell per Drag-and-drop zusammenbauen lassen. Es baut auf dem LangChain-Ökosystem auf und verbindet Modelle, Datenquellen und Werkzeuge als Knoten.

Function Calling ist die Fähigkeit eines Sprachmodells, statt einer Textantwort einen strukturierten Funktionsaufruf zu erzeugen — die technische Grundlage für Tool-Use und KI-Agenten.

Gemini 3 Pro (November 2025) ist Googles drittes Flaggschiff-Modell mit 1-Mio.-Tokens-Kontextfenster und nativer Multimodalität — inzwischen abgelöst von Gemini 3.1 Pro.

Gemini 3.1 Pro (Februar 2026) ist Googles aktuelles Top-Modell — 1-Mio.-Tokens-Kontext, 64K Output-Tokens, verdoppelte Reasoning-Leistung gegenüber Gemini 3 Pro.

Gemma 4 ist Google DeepMinds offene Modellfamilie vom April 2026 — vier Größen (E2B bis 31B), 256k-Kontext, Multimodalität, Apache-2.0-Lizenz.

GGUF (GPT-Generated Unified Format) ist das Standard-Dateiformat für quantisierte LLMs auf der llama.cpp-Engine — eine `.gguf`-Datei enthält Gewichte, Tokenizer und Metadaten in einem.

GitHub Copilot ist der KI-Coding-Assistent von GitHub — als Extension für gängige Editoren mit Tab-Autocomplete, Chat und Multi-File-Edits, mit GPT- und Claude-Modellen wählbar.

GLM-4.6 ist Zhipu AIs Open-Weight-MoE-Modell vom September 2025 — 355 Mrd. Parameter (32B aktiv), 200k-Kontext, MIT-lizenziert, mit Schwerpunkt auf Coding-Performance.

GLM-5.1 ist Z.ais Open-Source-Flaggschiff vom April 2026 — 744 Mrd. Parameter (40B aktiv), 200k-Kontext, ausgelegt auf agentisches Coding mit bis zu 8 Stunden autonomer Laufzeit.

GPT-4o (Mai 2024) war OpenAIs erstes nativ multimodales Modell — Text, Audio und Bild in einem einheitlichen Modell, mit Echtzeit-Sprachmodus und deutlich niedrigeren Kosten als GPT-4 Turbo.

GPT-4o mini (Juli 2024) ist OpenAIs kleine, günstige Variante von GPT-4o — als Ablösung für GPT-3.5 Turbo positioniert, deutlich stärker bei spürbar niedrigerem Preis pro Token.

GPT-5.2 ist OpenAIs Modell-Generation vom Dezember 2025 — drei Varianten (instant, thinking, Pro), 400k-Kontextfenster und neuer Stand der Technik bei beruflicher Wissensarbeit.

GPT-5.3 ist eine Iteration der GPT-5-Reihe von OpenAI — die Instant-Variante kam am 3. März 2026 und fokussiert sich auf Faktentreue, kürzere Vorreden und natürlicheren Konversationsfluss.

GPT-5.3-Codex ist OpenAIs spezialisiertes agentisches Coding-Modell (Februar 2026), Nachfolger von GPT-5.2-Codex — 25 % schneller, mit deutlichen Sprüngen bei Terminal-Bench und OSWorld.

GPT-5.3-Codex-Spark ist OpenAIs Coding-Modell vom Februar 2026 — eine kleinere, real-time-optimierte Variante von GPT-5.3-Codex mit über 1000 Tokens pro Sekunde auf Cerebras-Hardware.

GPT-5.4 ist OpenAIs Reasoning-Modell vom 5. März 2026 — erstes Mainline-Modell mit den Coding-Fähigkeiten von GPT-5.3-codex, nativer Computer-Use-Steuerung und 1-Mio.-Tokens-Kontext.

GPT-5.5 ist OpenAIs Flaggschiff vom 23. April 2026 — positioniert als „smartestes und intuitivstes Modell" und gedacht als Schritt Richtung KI, die selbstständig durch Tools arbeitet.

GPT4All ist eine quelloffene Desktop-Anwendung von Nomic AI, mit der sich große Sprachmodelle lokal und offline auf dem eigenen Rechner ausführen lassen. Sie funktioniert ohne GPU und ohne Cloud-Anbindung, sodass Daten das Gerät nicht verlassen.

GraphRAG ist eine RAG-Variante, die statt reiner Vektorsuche einen Knowledge Graph nutzt — Antworten kommen aus verknüpften Entitäten und Beziehungspfaden, nicht nur ähnlichem Text.

Grok 4 ist xAIs Reasoning-Modell vom Juli 2025 — Text- und Bild-Eingabe, 256k-Kontext, trainiert per Reinforcement Learning auf dem 200.000-GPU-Cluster Colossus.

Guardrails sind Schutzmechanismen rund um ein Sprachmodell, die Eingaben und Ausgaben prüfen, um unerwünschtes Verhalten — etwa Off-Topic-Antworten, PII-Lecks oder unsichere Aktionen — abzufangen.

Eine Halluzination ist eine Antwort eines Sprachmodells, die plausibel klingt, aber faktisch falsch oder erfunden ist — typische Quelle ist statistisches Raten ohne Faktenanker.

Haystack ist ein quelloffenes KI-Orchestrierungs-Framework von deepset zum Bau produktionsreifer LLM-Anwendungen. Aus modularen Komponenten — Retriever, Generatoren, Router, Tools — werden explizite Pipelines für RAG, Agenten und semantische Suche zusammengesetzt.

Hugging Face ist die zentrale Plattform der Open-Source-KI-Community — Hub für Modelle, Datasets und Demos sowie Anbieter weit verbreiteter Bibliotheken wie Transformers, Diffusers und PEFT.

Zentrale Plattform für offen geteilte KI-Modelle, Datensätze und Demos — eine Art GitHub für Machine-Learning-Artefakte.

Hybrid Search kombiniert lexikalische Volltext-Suche (z. B. BM25) mit semantischer Vektor-Suche und vereint die Stärken beider Verfahren — präzise auf Keywords und robust auf Bedeutung.

HyDE (Hypothetical Document Embeddings) ist eine RAG-Technik, bei der ein LLM aus der Frage eine fiktive Antwort erzeugt — und dann mit deren Embedding nach echten Dokumenten sucht.

Indirect Prompt Injection ist ein Angriff, bei dem schädliche Anweisungen in externen Inhalten — Webseiten, Dokumenten, E-Mails — versteckt werden, die ein LLM verarbeitet und dabei unbeabsichtigt ausführt.

Inferenz bezeichnet das Ausführen eines bereits trainierten Modells, um aus einer Eingabe eine Antwort zu generieren — also den produktiven Betrieb, nicht das Training.

Tokens, die du beim API-Aufruf an ein KI-Modell sendest — dein Prompt, der Kontext, mitgegebene Dokumente. Werden separat von Output-Tokens und meist deutlich günstiger berechnet.

Instruction Tuning ist eine Variante des Supervised Fine-Tuning, bei der ein Sprachmodell auf einem breit gestreuten Mix aus Instruktion-Antwort-Paaren trainiert wird — damit es Anweisungen beliebiger Aufgaben verlässlich befolgt.

Jailbreak bezeichnet das gezielte Umgehen der Sicherheits- und Verhaltensregeln eines Sprachmodells durch geschickt formulierte Prompts, sodass das Modell Inhalte produziert, die es eigentlich verweigern soll.

Jan ist eine quelloffene Desktop-Anwendung, mit der sich große Sprachmodelle lokal und vollständig offline auf dem eigenen Rechner ausführen lassen. Sie nutzt die llama.cpp-Engine und gilt als datenschutzfreundliche ChatGPT-Alternative.

Ein Keyword-Glossar für Speech-to-Text ist eine kurze, kuratierte Liste eigener Fachbegriffe, Marken- und Produktnamen, die einem STT-Modell vor der Transkription als Kontext-Hint mitgegeben wird — typischerweise über Whispers `initial_prompt`.

Ein KI-Agent ist ein System, das ein Sprachmodell mit Werkzeugen kombiniert und mehrschrittig auf ein Ziel hinarbeitet — typischerweise in einer Schleife aus Beobachten, Planen und Handeln.

KI-Bildgenerierung bezeichnet das Erzeugen von Bildern aus Text-Prompts durch generative Modelle. Werkzeuge wie Midjourney, DALL-E, Adobe Firefly und Stable Diffusion werden im Marketing für Konzepte, Visuals und Bildbearbeitung genutzt.

Ein KI-Content-Workflow ist ein strukturierter Ablauf zur Erstellung von Inhalten, bei dem KI in mehreren Schritten unterstützt: Briefing, Entwurf, Überarbeitung, Faktenprüfung und Veröffentlichung. Der Mensch steuert, prüft und verantwortet das Ergebnis.

KI-Datenanalyse bezeichnet das Auswerten von Daten (CSV, Excel u. a.) per natürlicher Sprache: Ein KI-System schreibt und führt im Hintergrund Code aus, um Dateien zu bereinigen, zu berechnen und zu visualisieren — z. B. ChatGPTs Advanced Data Analysis.

KI-gestützte Personalisierung passt Inhalte, Angebote und Empfehlungen automatisch an einzelne Nutzer an. Modelle werten Verhaltens- und Profildaten aus, um in Echtzeit relevantere Ansprache auszuspielen — datenschutzkonform und einwilligungsbasiert.

KI-Marketing bezeichnet den Einsatz von künstlicher Intelligenz und maschinellem Lernen, um Marketing-Daten zu analysieren, Inhalte und Aussteuerung zu automatisieren und Kampagnen in Echtzeit zu optimieren. Teilbereiche sind Content, Personalisierung, Analytics und GEO.

KI-Meeting-Assistenten sind Software-Tools, die Online-Besprechungen automatisch aufzeichnen, transkribieren, zusammenfassen und Aufgaben (Action Items) daraus ableiten. Bekannte Vertreter sind Otter, Fireflies, Fathom und Microsoft Copilot in Teams.

KI-Präsentationen sind mit Hilfe generativer KI erstellte Foliensätze. Aus einem kurzen Prompt oder einer Gliederung erzeugen Tools wie Gamma oder Beautiful.ai automatisch strukturierte Slides mit Text, Layout und passenden Bildern.

Ein KI-Recherche-Assistent ist ein KI-System, das auf eine Frage hin mehrstufig im Web sucht, Quellen liest, abgleicht und zu einer belegten Antwort oder einem Report synthetisiert — z. B. ChatGPT Deep Research, Gemini Deep Research oder Perplexity.

KI-Videogenerierung erzeugt Bewegtbild aus Text- oder Bildvorgaben. Diffusion-Transformer-Modelle wie Google Veo, Kling, Runway oder Sora entrauschen Latent-Frames schrittweise zu kohärentem Video, meist als Clips von wenigen Sekunden.

KI-Wissensmanagement macht verstreutes Unternehmenswissen mit KI durchsuchbar und nutzbar. Dokumente werden in Vektoren überführt, sodass Mitarbeitende per natürlicher Frage Antworten erhalten — meist über Retrieval-Augmented Generation.

Kimi K2 ist die Open-Weight-MoE-Modellreihe von Moonshot AI mit 1 Billion Parametern und 32 Mrd. aktiven Parametern, trainiert auf 15,5 Billionen Tokens — Fokus auf Agenten- und Coding-Aufgaben.

Kimi K2.6 ist Moonshot AIs Open-Weight-Agent-Modell vom April 2026 — 1 Billion Parameter (32B aktiv), 262k-Kontext, nativ multimodal, mit Agent-Swarms aus bis zu 300 Subagenten.

Knowledge Distillation ist ein Trainingsverfahren, bei dem ein kleines Schüler-Modell vom Verhalten eines großen Lehrer-Modells lernt — mit dem Ziel, vergleichbare Qualität bei deutlich geringerem Ressourcenbedarf zu erreichen.

Das Kontextfenster ist die maximale Anzahl Tokens, die ein Sprachmodell gleichzeitig verarbeiten kann — Eingabe und Ausgabe zusammen.

Der KV-Cache (Key-Value-Cache) speichert während der Textgenerierung eines Sprachmodells die bereits berechneten Key- und Value-Vektoren der Attention-Schichten zwischen. So muss pro neuem Token nicht der gesamte Kontext neu berechnet werden, was die Inferenz deutlich beschleunigt.

Open-Source-Framework, das LLMs mit Datenquellen, Tools und Speicher zu Anwendungen verkettet — die wohl bekannteste Pipeline-Bibliothek für KI-Apps.

LangGraph ist ein Open-Source-Framework von LangChain für zustandsbehaftete, graph-basierte LLM-Workflows — Knoten sind Funktionen oder Agenten, Kanten definieren den Kontrollfluss inklusive Schleifen und Verzweigungen.

Llama 3.2 ist Metas Modellgeneration vom September 2024 — erstmals mit Vision-Unterstützung (11B/90B) und schlanken Edge-Modellen (1B/3B) für Mobil- und On-Device-Einsatz.

Llama 4 Maverick (April 2025) ist Metas große Mixture-of-Experts-Variante der Llama-4-Reihe — 17 Mrd. aktive von 400 Mrd. Parametern auf 128 Experten, 1-Mio.-Tokens-Kontext.

Llama 4 Scout (April 2025) ist Metas kleine Mixture-of-Experts-Variante der Llama-4-Reihe — 17 Mrd. aktive von 109 Mrd. Parametern, 10-Mio.-Tokens-Kontext, multimodal.

Llama-3-SauerkrautLM-70b ist ein deutschsprachig DPO-feingetuntes 70B-Modell auf Basis von Meta Llama 3, entwickelt von VAGOsolutions und Hyperspace.ai.

llama.cpp ist eine quelloffene C++-Bibliothek zum effizienten Inferieren von LLMs auf CPU und GPU — die Engine, auf der viele lokale Tools wie Ollama und LM Studio basieren.

Llamafile ist ein Mozilla-Projekt, das ein lokales Sprachmodell als eine einzige ausführbare Datei verpackt — Modellgewichte und Inferenz-Engine in einem. Diese Datei läuft ohne Installation auf mehreren Betriebssystemen.

Datenrahmen für LLM-Anwendungen, spezialisiert auf das Indexieren, Anreichern und Abrufen privater Daten — Kernstück vieler RAG-Architekturen.

LLM steht für Large Language Model — ein neuronales Netz, das auf großen Mengen Text trainiert wurde, um natürliche Sprache zu verarbeiten und zu erzeugen.

LLM-as-a-Judge bezeichnet das Verfahren, ein Sprachmodell als Bewerter einzusetzen — es vergleicht Antworten anderer Modelle oder bewertet Ausgaben gegen vorgegebene Kriterien.

LM Studio ist eine Desktop-Anwendung zum lokalen Betrieb von LLMs mit grafischer Oberfläche — inklusive Modell-Browser, Chat-Interface und OpenAI-kompatiblem Server.

Low-Rank Adaptation — parameter-effizientes Fine-Tuning, bei dem nur kleine Zusatz-Matrizen trainiert werden statt aller Modellgewichte.

Make (früher Integromat) ist eine cloudbasierte No-Code-Plattform zur Workflow-Automatisierung. Über eine visuelle Oberfläche verbindet man Apps und APIs zu mehrstufigen Abläufen ("Szenarien"), ohne zu programmieren — etwa um Daten zwischen Diensten zu übergeben.

MCP — Model Context Protocol — ist ein offener Standard von Anthropic, um KI-Modelle einheitlich mit externen Datenquellen und Werkzeugen zu verbinden.

Meta-Prompting ist die Technik, ein LLM einen Prompt für eine Aufgabe schreiben oder verbessern zu lassen, statt ihn selbst zu formulieren — der Prompt wird zum Output.

Milvus ist eine quelloffene, verteilte Vektordatenbank für die schnelle Ähnlichkeitssuche über große Mengen von Embeddings. Sie steht unter Apache-2.0-Lizenz im Rahmen der LF AI & Data Foundation, Hauptentwickler ist die Firma Zilliz.

MiniMax ist ein 2021 in Shanghai gegründetes KI-Labor, dessen offene M-Modellfamilie (LLMs) auf sehr lange Kontextfenster und niedrige Betriebskosten durch Sparse Attention setzt.

Mistral Large 3 (Dezember 2025) ist Mistrals offenes MoE-Flaggschiff — 675 Mrd. Parameter, 256K-Tokens-Kontext, nativ multimodal, Apache 2.0.

Mistral Small 4 ist Mistral AIs Open-Weight-MoE-Modell vom März 2026 — vereint Reasoning, Vision und Coding in einem Modell, 119B Parameter (6,5B aktiv), Apache 2.0.

Eine Model Card ist ein standardisiertes Datenblatt zu einem KI-Modell — sie dokumentiert Zweck, Trainingsdaten, Leistung, Limitierungen und ethische Hinweise an einer Stelle.

Ollama ist ein Tool zum lokalen Betrieb von Sprachmodellen wie Llama, Mistral oder Qwen — Bedienung per CLI, mit OpenAI-kompatiblem HTTP-Server für Anwendungen.

Open WebUI ist eine Open-Source-Chat-Oberfläche für lokale und remote LLMs — ChatGPT-ähnliche UX im Browser, läuft als Docker-Container und spricht Ollama, OpenAI-kompatible APIs und mehr an.

Claude Opus 4.6 ist Anthropics Flaggschiff-Modell vom Februar 2026 — Top-Tier der Claude-4-Familie mit 1-Mio.-Tokens-Kontext, gestärktem Coding und neuen Effort-Controls.

Claude Opus 4.7 ist Anthropics Top-Tier-Modell vom April 2026 — Nachfolger von Opus 4.6 mit hochauflösender Bildverarbeitung, neuem xhigh-Effort-Level und Task-Budgets für lange agentische Läufe.

ORPO ist ein Trainingsverfahren, das überwachtes Fine-Tuning und Präferenz-Optimierung in einem einzigen Schritt vereint — schlanker als die klassische SFT-plus-RLHF-Pipeline.

Tokens, die ein KI-Modell als Antwort erzeugt. Werden separat berechnet und sind meist drei- bis fünfmal teurer als Input-Tokens, weil das Modell sie aktiv generieren muss.

PEFT bündelt Verfahren, die ein vortrainiertes LLM anpassen, indem nur ein kleiner Bruchteil der Gewichte trainiert wird — typischerweise unter 1 %, statt aller Milliarden Parameter.

Eine Globaleinstellung in Claude Code, die festlegt, wie Tool-Aufrufe behandelt werden: Plan (nur planen), Default (mit Nachfrage), Accept Edits (Files frei), Bypass (alles erlauben).

Pfadabhängigkeit beschreibt, wie bei der LLM-Generierung jeder früh erzeugte Token den weiteren Verlauf festlegt — der erste verbalisierte Fund lenkt die gesamte restliche Analyse in eine Richtung.

pgvector ist eine quelloffene PostgreSQL-Erweiterung für Vektor-Suche — bringt Embedding-Spalten, Distanzfunktionen und ANN-Indizes (HNSW, IVFFlat) direkt in die bestehende Postgres-Datenbank.

Pinecone ist ein gemanagter Vektor-Datenbank-Dienst für RAG- und Semantic-Search-Workloads — speichert Embeddings, beantwortet Nearest-Neighbor-Suchen und skaliert ohne dass der Nutzer den Index selbst betreibt.

Prefix Tuning ist ein PEFT-Verfahren, bei dem nicht Modellgewichte, sondern eine Folge gelernter „virtueller Tokens" trainiert wird, die der Eingabe vorangestellt werden — das Basis-Modell bleibt eingefroren.

Prompt Caching ist eine API-Funktion, bei der ein Anbieter wiederkehrende Prompt-Bestandteile zwischenspeichert — Folgeanfragen werden dadurch günstiger und schneller, weil der gecachte Teil nicht erneut verarbeitet wird.

Prompt Engineering ist die Disziplin, KI-Modelle durch gezielt gestaltete Eingabeaufforderungen zu steuern — also durch präzises Schreiben statt klassische Programmierung.

Prompt Injection ist ein Angriff, bei dem in den Eingabe-Daten eines LLMs Anweisungen versteckt werden, die das Modell dazu bringen, seine ursprünglichen Anweisungen zu ignorieren oder zu unterlaufen.

Prompt Leaking ist ein Angriff, der ein LLM dazu bringt, seinen versteckten System-Prompt oder andere vertrauliche Kontext-Inhalte preiszugeben — ein Sonderfall der Prompt Injection.

Ein Prompt Template ist ein wiederverwendbares Prompt-Gerüst mit Platzhaltern, in das pro Aufruf konkrete Werte eingesetzt werden — Grundlage für reproduzierbare LLM-Aufrufe in Anwendungen.

Eine Prompt-Bibliothek ist eine zentrale, geordnete Sammlung wiederverwendbarer und versionierter Prompts in einem Team. Sie stellt bewährte Eingaben für KI-Modelle bereit, damit sie nicht bei jeder Nutzung neu formuliert werden müssen.

Qdrant ist eine Open-Source-Vektor-Datenbank in Rust — speichert Embeddings für Semantic Search, RAG und Empfehlungssysteme, läuft lokal, im eigenen Cluster oder als gemanagte Cloud.

Erweiterung von LoRA, die das Basismodell auf 4 Bit quantisiert — dadurch lassen sich auch sehr große LLMs auf einer einzelnen GPU fein-tunen.

Quantisierung reduziert die numerische Präzision der Modellgewichte — z. B. von 16-bit float auf 4-bit Integer — und macht Sprachmodelle so klein und schnell genug für Consumer-Hardware, mit überschaubarem Qualitätsverlust.

Query Expansion erweitert die ursprüngliche Suchanfrage in einer RAG-Pipeline um Synonyme, Reformulierungen oder hypothetische Antwort-Texte, um die Trefferquote des Retrievals zu erhöhen.

Qwen 3.5 (Februar 2026) ist Alibabas offene Modellfamilie der dritten Generation — von 0,8B bis 397B Parameter, MoE-Flaggschiff mit 1-Mio.-Tokens-Kontext, multimodal.

RAG (Retrieval-Augmented Generation) verbindet ein Sprachmodell mit einer externen Wissensquelle — passende Passagen werden gesucht und mit der Frage zusammen ans Modell gegeben.

RAGAS ist ein Open-Source-Framework zur automatisierten Bewertung von RAG- und Agenten-Pipelines — mit Standardmetriken wie Faithfulness, Context Precision und Answer Relevancy.

Vom API-Anbieter durchgesetzte Obergrenze für Anfragen oder Tokens pro Zeitfenster — schützt die Infrastruktur und sichert faire Nutzung über alle Kunden hinweg.

ReAct ist ein Prompting-Muster, das ein LLM zwischen Reasoning (Gedanken) und Action (Tool-Aufrufen) abwechseln lässt — Grundlage vieler Agenten-Implementierungen.

Reasoning Effort ist ein Steuerparameter moderner Reasoning-Modelle, der festlegt, wie viel internes Schritt-für-Schritt-Denken (Thinking-Tokens) ein Modell vor der Antwort aufwendet — höhere Stufen erhöhen Qualität, aber auch Latenz und Kosten.

Recall (Trefferquote, Sensitivität) misst, welcher Anteil aller tatsächlich vorhandenen relevanten Fälle gefunden wird. Formel: gefundene relevante Fälle geteilt durch alle real vorhandenen relevanten Fälle. Setzt eine bekannte Ground Truth voraus.

Reranking ordnet eine bereits gefundene Trefferliste mit einem genaueren Modell neu — typisch ein Cross-Encoder, der Anfrage und jeden Kandidaten gemeinsam bewertet, statt nur Vektor-Abstände zu vergleichen.

Reinforcement Learning from Human Feedback — Trainingsverfahren, das Modelle anhand von menschlichen Präferenz-Vergleichen auf hilfreiches und sicheres Verhalten ausrichtet.

Role Prompting weist einem LLM eine konkrete Rolle oder Persona zu („Du bist ein erfahrener Steueranwalt …"), um Stil, Vokabular und Antworttiefe gezielt zu steuern.

Safetensors ist ein von Hugging Face entwickeltes Dateiformat zum Speichern von Modellgewichten — schneller, sicherer und sprachübergreifender als das ältere PyTorch-Format `.pt`/`.bin`.

Sampling ist das gewichtete Ziehen des nächsten Tokens aus der Wahrscheinlichkeitsverteilung eines Sprachmodells — gesteuert über Temperatur, Top-p und Top-k. Es erzeugt die Variabilität zwischen zwei Läufen.

SauerkrautLM ist eine deutschsprachige LLM-Familie des deutschen Startups VAGOsolutions — Feintunings auf Basis von Llama, Qwen, Mistral und anderen offenen Architekturen.

Self-Consistency ist eine Prompting-Technik, bei der dieselbe Frage mehrfach mit Chain-of-Thought beantwortet und die häufigste Antwort als finales Ergebnis gewählt wird.

Self-Refine ist eine Prompting-Technik, bei der ein Modell seinen eigenen Output kritisiert und in mehreren Iterationen verbessert — ohne menschliches Feedback.

Semantische Suche findet Inhalte über Bedeutung statt über exakte Wortübereinstimmung — Anfrage und Dokumente werden als Embeddings verglichen, sodass auch Synonyme und Umschreibungen treffen.

SFT bezeichnet das überwachte Nachtrainieren eines vortrainierten Sprachmodells auf einem Datensatz aus Eingabe-Ausgabe-Paaren — der Schritt, der ein Basis-Modell in einen brauchbaren Assistenten verwandelt.

Hugging Face Spaces ist eine Hosting-Plattform, auf der sich interaktive Machine-Learning-Anwendungen ohne eigene Server-Infrastruktur bereitstellen und teilen lassen. Apps werden direkt im Browser nutzbar, etwa über Gradio, Streamlit, Docker oder statisches HTML.

Speech-to-Text bezeichnet die automatische Umwandlung gesprochener Sprache in Text durch ein KI-Modell. Im KI-Workflow ersetzt STT die Tastatur als Eingabekanal — entscheidend ist die Modellgröße und das domänenspezifische Vokabular.

Spotlighting ist eine Verteidigungstechnik gegen Prompt Injection, bei der nicht-vertrauenswürdige Eingaben markiert werden, damit das Modell sie als Daten — nicht als Anweisungen — behandelt.

Stop Sequences sind Zeichenketten, bei deren Auftreten ein LLM die Token-Generierung sofort beendet. Sie begrenzen die Ausgabe gezielt, etwa um Rollenwechsel, Format-Marker oder überlange Antworten zu verhindern.

Streaming bezeichnet die Übertragung der LLM-Antwort tokenweise in Echtzeit — der Nutzer sieht den Text Wort für Wort statt erst am Ende der gesamten Generierung.

Structured Output bezeichnet die Fähigkeit eines Sprachmodells, Antworten in einem festgelegten Schema (typischerweise JSON) zu liefern — verlässlich genug, um direkt von Folge-Code weiterverarbeitet zu werden.

Synthetic Data sind künstlich erzeugte Trainings- oder Testdaten — meist von einem Sprachmodell selbst generiert, um Datensätze zu erweitern, ohne reale Quellen zu benötigen.

Der System-Prompt ist die Instruktion, die das Verhalten eines Sprachmodells über eine ganze Konversation festlegt — im Unterschied zum Nutzer-Prompt, der pro Nachricht variiert.

Temperature ist ein Sampling-Parameter, der steuert, wie deterministisch oder kreativ ein Sprachmodell antwortet — niedrige Werte machen Antworten konservativ, hohe Werte vielfältiger.

TensorRT-LLM ist eine quelloffene Bibliothek von NVIDIA, die LLM-Inferenz auf NVIDIA-GPUs optimiert. Sie kompiliert Modelle in hochoptimierte Laufzeit-Engines und bietet In-Flight-Batching, Paged-KV-Cache und Quantisierung für hohen Durchsatz bei niedriger Latenz.

Text-Generation-WebUI (oobabooga) ist eine quelloffene Web-Oberfläche zum lokalen Betreiben von LLMs. Sie bündelt mehrere Inferenz-Backends, Chat- und Completion-Modi sowie eine OpenAI-kompatible API unter einer gemeinsamen Bedienoberfläche.

TGI (Text Generation Inference) ist ein quelloffenes Toolkit von Hugging Face zum performanten Bereitstellen großer Sprachmodelle. Es liefert einen produktionsreifen Inferenz-Server mit Continuous Batching, Token-Streaming und optimierten Attention-Verfahren.

Das Thinking Budget (Token-Budget) ist die maximale Zahl interner Reasoning-Tokens, die ein Reasoning-Modell pro Anfrage fürs „Nachdenken" verbrauchen darf — es steuert die Abwägung zwischen Antworttiefe und Kosten bzw. Latenz.

Mehrstufiges Modell-Angebot eines Anbieters — kleine, schnelle Varianten (Mini/Flash/Haiku) zum Bruchteil des Preises der großen Frontier-Modelle. Auch: Volume-Tiers mit Mengenrabatt.

Ein Token ist die kleinste Einheit, mit der ein Sprachmodell intern arbeitet — meist ein Wortteil, gelegentlich ein einzelnes Zeichen.

Ein Tokenizer ist das Programm, das Text in Tokens zerlegt, bevor ein Sprachmodell ihn verarbeiten kann — er bestimmt, wie viele Tokens ein Text kostet.

Aufruf eines Werkzeugs durch ein KI-Modell während einer Konversation — etwa Datei-Lesen, Bash-Befehle, Web-Recherche oder ein MCP-Tool. Grundlage agentischer Workflows.

Top-p (Nucleus Sampling) und Top-k sind Sampling-Strategien für LLMs, die festlegen, aus welcher Token-Auswahl pro Schritt gezogen wird — sie steuern zusammen mit der Temperatur die Kreativität der Ausgabe.

TPM (Tokens pro Minute) und RPM (Requests pro Minute) sind die beiden gängigen Einheiten, in denen KI-API-Anbieter ihre Rate Limits ausdrücken — TPM begrenzt das Token-Volumen, RPM die Anzahl der Anfragen pro Minute.

Open-Source-Python-Bibliothek von Hugging Face, die einen einheitlichen Zugriff auf tausende vortrainierte Modelle für Text, Bild und Audio bietet.

Tree of Thoughts (ToT) ist eine Prompting-Technik, bei der ein LLM mehrere Lösungspfade als verzweigten Baum exploriert, bewertet und nur vielversprechende Äste weiterverfolgt — eine Verallgemeinerung von Chain-of-Thought.

Eine Vektor-Datenbank speichert Embeddings als hochdimensionale Vektoren und sucht darin nach semantischer Ähnlichkeit — die Kerninfrastruktur für RAG, semantische Suche und Empfehlungssysteme.

vLLM ist ein quelloffener Hochdurchsatz-Inferenzserver für LLMs — bekannt für PagedAttention, kontinuierliches Batching und einen OpenAI-kompatiblen API-Endpoint, weit verbreitet in produktiven Self-Hosting-Setups.

VRAM (Video RAM) ist der dedizierte Speicher einer GPU — beim lokalen Betrieb von Sprachmodellen die wichtigste Hardware-Größe, weil das gesamte Modell und der Kontext idealerweise dort hineinpassen müssen.

Weaviate ist eine quelloffene Vektor-Datenbank in Go — sie speichert Objekte samt Embeddings, kombiniert semantische und Keyword-Suche (BM25) und bietet integrierte Vektorisierung, RAG und Multi-Mandanten-Betrieb.

Whisper ist OpenAIs offenes Speech-to-Text-Modell von 2022 — ein mehrsprachiger Encoder-Decoder-Transformer, der Audio in Text umwandelt und in mehreren Größen unter MIT-Lizenz verfügbar ist.

Mit dem Parameter `initial_prompt` lässt sich Whisper vor der Transkription eine Keyword-Liste oder ein Beispielsatz mitgeben. Das Modell behandelt diesen Text als Kontext und erkennt darin enthaltene Begriffe deutlich zuverlässiger.

whisper.cpp ist eine quelloffene C++-Portierung von OpenAIs Whisper-Spracherkennung — eine kompakte Native-Binary für lokale Transkription auf CPU, CUDA, Metal oder Vulkan, ohne Python-Abhängigkeit.

Windsurf ist eine KI-IDE auf VS-Code-Basis mit Fokus auf agentische Coding-Workflows — der Cascade-Agent plant und führt mehrschrittige Änderungen autonom aus.

XML-Tags sind benannte Klammern wie <kontext>...</kontext>, mit denen man Abschnitte eines Prompts klar voneinander abgrenzt. Sie strukturieren Eingaben, trennen Instruktion von Daten und machen die Antwort vorhersehbarer.

Zapier AI bündelt die KI-Funktionen der Automatisierungs-Plattform Zapier — darunter Copilot zum Bauen von Workflows per Sprache, autonome Agents, Chatbots und einen MCP-Server, der Tausende Zapier-Aktionen für externe Sprachmodelle bereitstellt.

Zero-Shot beschreibt das Lösen einer Aufgabe durch ein Sprachmodell ohne mitgelieferte Beispiele — allein über die Aufgabenbeschreibung im Prompt.