Begriff
Haystack
Haystack ist ein quelloffenes KI-Orchestrierungs-Framework von deepset zum Bau produktionsreifer LLM-Anwendungen. Aus modularen Komponenten — Retriever, Generatoren, Router, Tools — werden explizite Pipelines für RAG, Agenten und semantische Suche zusammengesetzt.
Haystack — ausführlich erklärt
Haystack ist ein Open-Source-Framework des Unternehmens deepset zur Orchestrierung von LLM-Anwendungen. Das zentrale Konzept ist die Pipeline: Eine Anwendung wird als gerichteter Graph aus austauschbaren Komponenten modelliert — etwa Retriever, Embedder, Prompt-Builder, Generatoren (LLM-Aufrufe), Router, Memory-Schichten, Tools und Evaluatoren. Jede Komponente hat klar definierte Ein- und Ausgänge, wodurch sich der Datenfluss explizit und nachvollziehbar verdrahten lässt. Die seit Haystack 2.0 überarbeitete Architektur betont diese Modularität und macht Pipelines serialisierbar und damit reproduzierbar deploybar.
Schwerpunkte sind RAG (Retrieval-Augmented Generation), semantische Suche und dialogorientierte Systeme. Haystack bietet eine große Komponenten-Bibliothek für Embedding und Retrieval, Anbindung verschiedener LLM-Anbieter, Routing, Guardrails und externe Tool-Aufrufe. Über das Pipeline-Modell lassen sich auch komplexere Muster wie hybride Suche, Reranking oder Selbstkorrektur-Schleifen sowie agentische Workflows abbilden. Neben dem freien Framework bietet deepset eine kommerzielle Enterprise-Plattform.
Beispiel / Praxisbezug
Ein klassischer Use Case ist eine Dokumenten-Frage-Antwort-Anwendung: Eine Indexing-Pipeline zerlegt PDFs in Chunks, erzeugt Embeddings und schreibt sie in einen Document Store (z. B. eine Vektordatenbank). Eine Query-Pipeline nimmt die Nutzerfrage, ruft per Retriever die relevanten Chunks ab, baut daraus einen Prompt und übergibt ihn an ein LLM, das die Antwort mit Quellenbezug formuliert. Beide Pipelines bestehen aus denselben Bausteinen, nur anders verdrahtet.
Abgrenzung zu ähnlichen Begriffen
LangChain und LlamaIndex verfolgen ähnliche Ziele; Haystack betont jedoch besonders explizite, serialisierbare Pipelines und einen produktionsnahen Fokus. RAG und agentische RAG sind Muster, die Haystack umsetzt — nicht das Framework selbst. Bausteine wie Embeddings und Reranking nutzt Haystack als Komponenten innerhalb seiner Pipelines.
Entdecke mehr
Tokens sparen mit Claude: 6 Prinzipien, mit denen Experten doppelt so schnell arbeiten
Wie ich meine CLAUDE.md von Stilrichtlinie auf Token-Budget umgestellt habe — 6 Prinzipien für weniger Kosten, weniger Wartezeit und ehrlicheres Reporting.
GlossarDSPy
DSPy ist ein quelloffenes Python-Framework der Stanford NLP Group, das LLM-Anwendungen programmieren statt manuell prompten lässt. Aufgaben werden über deklarative Signaturen und Module beschrieben; Optimizer erzeugen daraus automatisch wirksame Prompts und Beispiele.
LexikonPipeline-Frameworks — LangChain, LlamaIndex und wann man sie braucht
LangChain, LlamaIndex, LangGraph und Haystack im Vergleich. Wofür sie gemacht sind, wann Eigenbau lohnt — und die häufigsten Stolperfallen.