Frameworks zum Verketten von LLM-Aufrufen und RAG-Pipelines.
DSPy ist ein quelloffenes Python-Framework der Stanford NLP Group, das LLM-Anwendungen programmieren statt manuell prompten lässt. Aufgaben werden über deklarative Signaturen und Module beschrieben; Optimizer erzeugen daraus automatisch wirksame Prompts und Beispiele.
Flowise ist ein quelloffenes Low-Code-Werkzeug, mit dem sich LLM-Anwendungen und KI-Agenten visuell per Drag-and-drop zusammenbauen lassen. Es baut auf dem LangChain-Ökosystem auf und verbindet Modelle, Datenquellen und Werkzeuge als Knoten.
Haystack ist ein quelloffenes KI-Orchestrierungs-Framework von deepset zum Bau produktionsreifer LLM-Anwendungen. Aus modularen Komponenten — Retriever, Generatoren, Router, Tools — werden explizite Pipelines für RAG, Agenten und semantische Suche zusammengesetzt.
Open-Source-Framework, das LLMs mit Datenquellen, Tools und Speicher zu Anwendungen verkettet — die wohl bekannteste Pipeline-Bibliothek für KI-Apps.
Datenrahmen für LLM-Anwendungen, spezialisiert auf das Indexieren, Anreichern und Abrufen privater Daten — Kernstück vieler RAG-Architekturen.