Zum Inhalt springen

Embedding: Definition und Bedeutung für Unternehmen

Ein Embedding ist die Darstellung eines Textes (oder Bildes) als Vektor aus Gleitkommazahlen, bei dem inhaltlich ähnliche Texte ähnliche Vektoren erhalten. Das Google Machine Learning Crash Course beschreibt Embeddings als dichte Vektordarstellungen, die semantische Beziehungen abbilden. Für Unternehmen ist das die Grundlage, um in Handbüchern, Tickets oder Angeboten nach Bedeutung statt nach exakten Wörtern zu suchen.

Wie funktioniert ein Embedding?

Ein Embedding-Modell liest einen Text und gibt eine feste Anzahl Zahlen zurück. Zwei Texte werden verglichen, indem man den Abstand ihrer Vektoren berechnet, meist per Kosinus-Ähnlichkeit. Je kleiner der Abstand, desto näher liegen die Inhalte beieinander – auch wenn kein Wort übereinstimmt.

Die Länge des Vektors hängt vom Modell ab. Laut OpenAI-Dokumentation liefert text-embedding-3-small standardmäßig 1.536 Werte, text-embedding-3-large 3.072; beide Modelle erlauben über den Parameter dimensions kürzere Vektoren. Das offene Modell all-MiniLM-L6-v2 erzeugt 384 Werte und schneidet Eingaben nach 256 Wortteilen ab. Die Bibliothek Sentence Transformers nutzt Kosinus-Ähnlichkeit als Standard für den Vergleich.

Ein typischer Ablauf im Unternehmen:

  1. Dokumente in Abschnitte zerlegen (etwa ein Kapitel einer Betriebsanleitung).
  2. Jeden Abschnitt einmal einbetten und den Vektor speichern.
  3. Bei einer Anfrage die Frage mit demselben Modell einbetten.
  4. Die Abschnitte mit dem geringsten Abstand zurückgeben.

Abgrenzung: Was Embeddings nicht tun

Embeddings erzeugen keinen Text und beantworten keine Fragen. Sie messen nur Ähnlichkeit. Die eigentliche Antwort schreibt ein Sprachmodell (LLM), das die gefundenen Abschnitte als Kontext bekommt – dieses Zusammenspiel heißt Retrieval-Augmented Generation (RAG).

Weitere Abgrenzungen:

  • Vektordatenbank: speichert und durchsucht die Vektoren effizient; das Embedding ist der Inhalt, die Datenbank der Speicherort.
  • Semantische Suche: die Anwendung, die auf Embeddings aufbaut – Suche nach Bedeutung statt nach Stichwort.
  • Stichwortsuche: findet exakte Begriffe wie Artikelnummern oft zuverlässiger als ein Embedding. Viele Systeme kombinieren beides.

Worauf achten?

Die Qualität der Treffer hängt stärker vom gewählten Modell und von der Zerlegung der Dokumente ab als von der Datenbank. Drei Punkte entscheiden in der Praxis.

  • Sprache: all-MiniLM-L6-v2 ist laut Modellkarte auf englischen Daten trainiert. Für deutsche Dokumente sollten Sie ein mehrsprachiges Modell wählen und es an echten Suchanfragen testen.
  • Ein Modell pro Bestand: Vektoren verschiedener Modelle passen nicht zusammen. Ein Modellwechsel bedeutet, alle Dokumente neu einzubetten.
  • Datenfluss: Wer einen Cloud-Dienst nutzt, schickt jeden Abschnitt dorthin. Mit einem lokal betriebenen Modell, ähnlich einem On-Premise-LLM, bleibt der Bestand im eigenen Netz.

Wie Embeddings in KI-Agenten für Wissensmanagement, Service oder Vertrieb eingesetzt werden, zeigt etwa der Wissensmanagement-Agent. Weitere Begriffe erklärt das KI-Lexikon.

Häufige Fragen

Ist ein Embedding dasselbe wie ein Sprachmodell?

Nein. Ein Embedding-Modell erzeugt nur Vektoren für den Vergleich von Texten; ein Sprachmodell erzeugt neuen Text. In einem Agenten arbeiten beide oft zusammen, haben aber getrennte Aufgaben.

Kann ich Embeddings verschiedener Modelle mischen?

Nein. Jedes Modell bildet Texte in einen eigenen Zahlenraum ab, Vektoren aus zwei Modellen sind nicht vergleichbar. Wer das Modell wechselt, muss den gesamten Bestand neu einbetten.

Lassen sich Embeddings lokal erzeugen?

Ja, es gibt offene Embedding-Modelle, die auf eigener Hardware laufen. Damit verlassen die Dokumente für die Einbettung das eigene Netz nicht.

Quellen

  1. OpenAI API Docs: Vector embeddings developers.openai.com
  2. Sentence Transformers: Semantic Textual Similarity sbert.net
  3. Hugging Face: sentence-transformers/all-MiniLM-L6-v2 huggingface.co
  4. Google Machine Learning Crash Course: Embeddings developers.google.com