Lösungen für
Bitte auswählen
Web-App testen
ki-konzepte

Embeddings einfach erklaert

Redaktion ·

Embeddings einfach erklaert

Ein Computer versteht keine Woerter. Er versteht Zahlen. Ein Embedding ist die Bruecke dazwischen: Es verwandelt einen Text — ein Wort, einen Satz, ein ganzes Dokument — in eine Liste von Zahlen, einen Vektor. Und das nicht beliebig, sondern so, dass die Zahlen die Bedeutung des Texts einfangen.

Das klingt abstrakt, ist aber das Fundament fast aller modernen semantischen Suche, von RAG bis zur Produktempfehlung. Dieser Artikel erklaert, was ein Embedding konkret ist, warum aehnliche Bedeutungen nah beieinander landen und wofuer man das praktisch nutzt.

Was ein Embedding ist

Ein Embedding ist eine Vektor-Darstellung von Daten — eine Liste von Gleitkommazahlen. Ein Embedding-Modell nimmt deinen Text entgegen und gibt diese Liste aus. Wie lang die Liste ist, haengt vom Modell ab: OpenAIs text-embedding-3-small etwa erzeugt 1.536 Dimensionen, text-embedding-3-large sogar 3.072 (Quelle: OpenAI Embeddings Guide, abgerufen 2026-06-06).

Jede dieser Zahlen ist eine Koordinate in einem hochdimensionalen Raum. Du kannst dir das wie Koordinaten auf einer Landkarte vorstellen — nur statt zwei Achsen (Laenge, Breite) gibt es eben tausend oder mehr. Der entscheidende Punkt: Diese Koordinaten kodieren die semantischen Eigenschaften des Texts. Inhalte mit aehnlicher Bedeutung bekommen aehnliche Koordinaten.

Die formale Begriffsdefinition findest du im Glossar unter Embedding.

Warum aehnliche Bedeutungen nah beieinander liegen

Hier wird es nuetzlich. Google formuliert das Grundprinzip so: Der Abstand zwischen zwei Elementen laesst sich mathematisch berechnen und als Mass fuer ihre relative Aehnlichkeit interpretieren (Quelle: Google ML Crash Course, abgerufen 2026-06-06).

Konkret: Im Embedding-Raum landen Hotdog und Doener nah beieinander, weil sie konzeptuell aehnlich sind (beides herzhaftes Streetfood). Apfelstrudel sitzt weiter weg, weil es eine andere Kategorie ist (Dessert). Das Modell hat aus riesigen Textmengen gelernt, welche Begriffe in aehnlichen Kontexten vorkommen — und genau diese Naehe spiegelt sich in den Koordinaten.

Den Abstand misst man meist ueber die Cosine Similarity (Kosinus-Aehnlichkeit). Sie misst den Winkel zwischen zwei Vektoren, nicht ihre absolute Laenge — zwei Texte zeigen in dieselbe Richtung, wenn sie aehnliches meinen. OpenAI fasst es knapp: Kleine Abstaende bedeuten hohe Verwandtschaft, grosse Abstaende bedeuten geringe Verwandtschaft. Weil OpenAIs Embeddings auf Einheitslaenge normiert sind, laesst sich die Cosine Similarity sogar als simples Skalarprodukt berechnen.

Der Effekt ist maechtig: Du kannst Aehnlichkeit von Bedeutung rechnen, ohne dass die Texte ein einziges Wort teilen. Auto und PKW liegen nah, obwohl kein Buchstabe uebereinstimmt — klassische Stichwortsuche wuerde hier scheitern.

Wofuer man Embeddings braucht

Aus dieser einen Faehigkeit — Bedeutung in messbare Naehe zu uebersetzen — ergeben sich mehrere Anwendungen (Quelle: OpenAI Embeddings Guide, abgerufen 2026-06-06):

  • Semantische Suche. Du wandelst die Suchanfrage und alle Dokumente in Embeddings um und gibst die Dokumente zurueck, deren Vektoren der Anfrage am naechsten liegen. Treffer nach Bedeutung, nicht nach exakter Wortuebereinstimmung.
  • RAG-Retrieval. Genau dieser Schritt steht im Zentrum von Retrieval-Augmented Generation: Bevor ein Sprachmodell antwortet, holt es ueber Embedding-Aehnlichkeit die relevanten Wissens-Schnipsel. Mehr dazu im Lexikon unter RAG verstehen.
  • Klassifikation. Du ordnest einen Text der Kategorie zu, deren Beispiel-Embedding am naechsten liegt.
  • Clustering. Du gruppierst aehnliche Texte automatisch, ohne vorher Kategorien festzulegen.
  • Empfehlungen. Du schlaegst Artikel oder Produkte vor, deren Embeddings denen des aktuell betrachteten aehneln.
  • Anomalie-Erkennung. Du findest Ausreisser, deren Vektor weit von allem anderen entfernt liegt.

Embedding-Modelle vs. Chat-Modelle

Ein haeufiges Missverstaendnis: Embedding-Modelle und Chat-Modelle (LLMs) sind nicht dasselbe. Ein Chat-Modell generiert Text — du gibst einen Prompt, es schreibt eine Antwort. Ein Embedding-Modell generiert keinen Text. Es gibt nur den Vektor zurueck. Punkt.

Embedding-Modelle sind in der Regel deutlich kleiner, schneller und billiger als Chat-Modelle, weil ihre Aufgabe enger ist. Das macht sie ideal fuer den massenhaften Einsatz: Du embeddest einmal deine gesamte Wissensbasis (tausende Dokumente) und musst dann pro Suchanfrage nur noch die Anfrage embedden und vergleichen.

In einer RAG-Pipeline arbeiten beide zusammen: Das Embedding-Modell findet die relevanten Stellen, das Chat-Modell formuliert daraus die Antwort.

Die Verbindung zu Vektor-Datenbanken

Wenn du tausende oder Millionen Embeddings hast, brauchst du einen Ort, der sie speichert und blitzschnell die naechsten Nachbarn zu einem Anfrage-Vektor findet. Eine normale Datenbank ist dafuer ungeeignet — sie kann nicht effizient nach Vektor-Naehe suchen.

Genau dafuer gibt es Vektor-Datenbanken. Sie speichern Embeddings und nutzen spezialisierte Index-Verfahren (etwa Approximate Nearest Neighbor), um aus Millionen Vektoren in Millisekunden die aehnlichsten zu liefern. Ohne diese Infrastruktur waere semantische Suche im grossen Massstab nicht praktikabel. Welche Optionen es gibt und wie sie sich unterscheiden, behandelt der Lexikon-Eintrag Vektor-Datenbanken im Vergleich.

FAQ

Was ist ein Embedding in einem Satz?

Ein Embedding ist eine Liste von Zahlen (ein Vektor), die die Bedeutung eines Texts oder Bilds so im Raum verortet, dass aehnliche Inhalte nah beieinander und unaehnliche weit voneinander entfernt liegen.

Wie misst man die Aehnlichkeit zweier Embeddings?

Meist ueber die Cosine Similarity, die den Winkel zwischen zwei Vektoren misst. Kleiner Abstand bedeutet hohe inhaltliche Verwandtschaft, grosser Abstand geringe. Bei normierten Vektoren ist das aequivalent zum Skalarprodukt.

Ist ein Embedding-Modell dasselbe wie ChatGPT?

Nein. Ein Chat-Modell generiert Text. Ein Embedding-Modell gibt nur einen Vektor zurueck und schreibt nie eine Antwort. Embedding-Modelle sind kleiner, schneller und billiger und werden fuer Suche, Retrieval und Klassifikation eingesetzt.

Wofuer brauche ich Embeddings konkret?

Fuer semantische Suche, RAG-Retrieval, Klassifikation, Clustering, Empfehlungen und Anomalie-Erkennung. Ueberall dort, wo du Aehnlichkeit von Bedeutung berechnen willst, statt nur Stichwoerter abzugleichen.

Warum brauche ich dafuer eine Vektor-Datenbank?

Weil normale Datenbanken nicht effizient nach Vektor-Naehe suchen koennen. Vektor-Datenbanken speichern Embeddings und finden mit spezialisierten Indizes aus Millionen Vektoren in Millisekunden die aehnlichsten.

Themenuebersicht

KI-KonzepteLLM-Grundlagen