DSPy

DSPy — ausführlich erklärt

DSPy (für “Declarative Self-improving Python”) ist ein quelloffenes Framework der Stanford NLP Group, das den Aufbau von LLM-Anwendungen neu strukturiert. Statt Prompts von Hand zu formulieren und zu verfeinern, beschreibt man mit DSPy programmatisch, was ein Sprachmodell tun soll, und überlässt dem Framework die Aufgabe, wie der konkrete Prompt dafür aussieht.

Das Framework ruht auf drei Abstraktionen. Signaturen sind deklarative Verträge zwischen Programm und Modell: Sie definieren Eingabefelder, Ausgabefelder und eine knappe Aufgabenbeschreibung. Module kapseln bewährte Vorgehensweisen (etwa Chain-of-Thought) und lassen sich zu beliebigen Pipelines zusammensetzen — vergleichbar mit Schichten in einem neuronalen Netz. Optimizer (auch Teleprompter genannt) verbessern eine solche Pipeline automatisch, indem sie wirksame Prompt-Formulierungen synthetisieren, Few-Shot-Beispiele generieren oder sogar Modellgewichte feinabstimmen.

Der Grundgedanke ist eine Analogie zu PyTorch: So wie dort deklarative Schichten und Optimizer das Training neuronaler Netze strukturieren, bietet DSPy minimalistische, allgemeine Module und übernimmt die Optimierung der Prompts. Ziel ist es, fragile Prompt-Engineering-Tricks durch komponierbare, automatisch optimierbare Bausteine zu ersetzen. DSPy unterstützt über die LiteLLM-Anbindung zahlreiche Modelle, von Cloud-Anbietern bis zu lokalen Modellen.

Beispiel / Praxisbezug

Für eine Frage-Antwort-Anwendung definiert ein Entwickler eine Signatur wie “Frage -> Antwort”, wählt ein Modul für mehrstufiges Schlussfolgern und stellt einige Beispiel-Datenpunkte mit gewünschten Ergebnissen bereit. Ein Optimizer von DSPy probiert daraufhin verschiedene Prompt-Varianten und Beispiel-Auswahlen aus und behält jene, die auf den Beispielen am besten abschneiden. Der Entwickler muss den finalen Prompt-Text nie selbst schreiben.

Abgrenzung zu ähnlichen Begriffen

DSPy unterscheidet sich von klassischem Prompt Engineering, bei dem Prompts manuell formuliert und getestet werden — DSPy automatisiert genau diesen Schritt und ersetzt etwa das manuelle Zusammenstellen von Few-Shot-Beispielen. Gegenüber Frameworks wie LangChain und LangGraph, die primär das Verketten von Aufrufen und Werkzeugen orchestrieren, liegt der Schwerpunkt von DSPy auf der automatischen Optimierung der Prompts selbst. Auch von statischen Prompt-Templates grenzt es sich ab, da diese feste Platzhalter füllen, während DSPy den Prompt-Inhalt aktiv verbessert.

Entdecke mehr

Blog

Tokens sparen mit Claude: 6 Prinzipien, mit denen Experten doppelt so schnell arbeiten

Wie ich meine CLAUDE.md von Stilrichtlinie auf Token-Budget umgestellt habe — 6 Prinzipien für weniger Kosten, weniger Wartezeit und ehrlicheres Reporting.

Glossar

Flowise

Flowise ist ein quelloffenes Low-Code-Werkzeug, mit dem sich LLM-Anwendungen und KI-Agenten visuell per Drag-and-drop zusammenbauen lassen. Es baut auf dem LangChain-Ökosystem auf und verbindet Modelle, Datenquellen und Werkzeuge als Knoten.

Lexikon

Pipeline-Frameworks — LangChain, LlamaIndex und wann man sie braucht

LangChain, LlamaIndex, LangGraph und Haystack im Vergleich. Wofür sie gemacht sind, wann Eigenbau lohnt — und die häufigsten Stolperfallen.

Themenuebersicht

KI-WerkzeugePipeline-Frameworks