Embeddings: wie KI Bedeutung in Zahlen übersetzt — und was Vektordatenbanken damit tun

Bedeutung als Zahlen: was ein Embedding ist

Ein Computer kann mit dem Wort „Kündigungsfrist“ nichts anfangen. Er kann aber sehr gut mit Zahlen rechnen. Ein Embedding-Modell übersetzt ein Wort, einen Satz oder einen Absatz in eine lange Zahlenreihe — je nach Modell einige hundert bis einige tausend Zahlen. Das Besondere: Texte mit ähnlicher Bedeutung bekommen ähnliche Zahlenreihen. „Kündigungsfrist“ und „Wann kann ich den Vertrag beenden?“ liegen nah beieinander, „Kündigungsfrist“ und „Kantinenplan“ weit auseinander.

Diese Zahlenreihe heißt Vektor, und der Abstand zwischen zwei Vektoren ist ein Maß für Ähnlichkeit. Das ist der ganze Trick: Suchen wird zu Abstandsmessen. Statt nach exakten Wörtern zu suchen, sucht das System nach Nähe im Bedeutungsraum. Die Idee, Bedeutung so zu kodieren, ist älter als die heutigen Sprachmodelle — bekannt wurde sie 2013 mit dem Verfahren word2vec (Mikolov et al., 2013). Heutige Modelle bilden nicht mehr nur Wörter, sondern ganze Absätze ab.

Für Ihren Betrieb heißt das: Eine Frage aus dem Alltag findet die passende Stelle im Handbuch, auch wenn dort ein anderer Begriff steht. Das ist der Schritt „passende Fakten finden“ aus RAG einfach erklärt — und der Grund, warum eine Wissens-KI mehr kann als eine Volltextsuche. Weitere Begriffe erklärt das KI-Glossar 2026.

Embedding-Modelle: klein, austauschbar, aber folgenreich

Embedding-Modelle sind deutlich kleiner als Sprachmodelle, die Antworten schreiben. Viele laufen problemlos auf einem normalen Rechner. Beispiele mit offenen Gewichten sind nomic-embed-text mit 768 Zahlen je Vektor (Nomic AI, 2024), BGE-M3 mit 1.024 Zahlen und über hundert Sprachen (BAAI, 2024) oder die multilingualen E5-Modelle (Microsoft, 2024). Cloud-Anbieter bieten eigene Modelle an, etwa text-embedding-3-large mit bis zu 3.072 Zahlen (OpenAI, 2024). Für Deutsch ist die Frage nicht, welches Modell die längste Zahlenreihe hat, sondern welches auf deutschen Texten trainiert wurde.

Eine Entscheidung ist folgenreich: Wechseln Sie das Embedding-Modell, müssen Sie alle Dokumente neu einlesen. Die Zahlenreihen zweier Modelle sind nicht vergleichbar. Legen Sie das Modell also früh fest, testen Sie es an Ihren eigenen Texten und dokumentieren Sie die Wahl. Rankings wie der Massive Text Embedding Benchmark (MTEB) geben eine erste Orientierung über viele Aufgaben und Sprachen hinweg (Muennighoff et al., 2023), ersetzen aber keinen Test mit Ihren Dokumenten und Ihren Fragen.

Wenn Sie lokal arbeiten, läuft das Embedding-Modell auf derselben Hardware wie das Sprachmodell — welche das sein kann, steht unter KI-Hardware im Unternehmen. Der Speicherbedarf ist gering; die Rechenzeit fällt vor allem beim ersten Einlesen großer Dokumentenbestände an.

Vektordatenbanken: was sie tun und welche es gibt

Hat man erst einmal hunderttausend Zahlenreihen, braucht man einen Ort, der sie speichert und schnell die nächstliegenden findet. Das leisten Vektordatenbanken. Sie legen spezielle Indizes an, die Nachbarn nicht exakt, sondern näherungsweise finden — dafür in Millisekunden statt Sekunden. Dazu speichern sie Metadaten wie Dokumentname, Datum, Aktenzeichen oder Berechtigungsgruppe, nach denen sich filtern lässt.

Eine Empfehlung, die sich in Projekten bewährt hat: Fangen Sie mit dem einfachsten Speicher an, der Ihre Menge trägt. Für einige zehntausend Abschnitte reicht eine eingebettete Lösung oder eine PostgreSQL-Erweiterung; eine eigene Vektordatenbank lohnt sich, wenn die Menge wächst, viele Nutzer gleichzeitig suchen oder feine Filter nach Berechtigungen nötig werden. Der Wechsel später ist machbar, weil die Zahlenreihen dieselben bleiben — solange das Embedding-Modell gleich bleibt.

Chunking: wie Dokumente in Stücke geschnitten werden — und warum das entscheidet

Ein Vertrag mit vierzig Seiten wird nicht als Ganzes eingebettet. Er wird in Abschnitte zerlegt, sogenannte Chunks, und jeder Abschnitt bekommt seine eigene Zahlenreihe. Wie groß diese Abschnitte sind und wo geschnitten wird, klingt nach Nebensache. Es ist der häufigste Grund, warum RAG-Systeme schlechte Antworten geben.

Schneidet man stur nach fester Zeichenzahl, zerreißt man Sätze, trennt eine Klausel von ihrer Ausnahme und lässt Tabellenzeilen ohne Kopfzeile zurück. Das Modell findet dann einen Abschnitt, in dem die halbe Antwort steht — und ergänzt die andere Hälfte aus dem Gedächtnis. Semantisches Zerlegen schneidet an Bedeutungsgrenzen: Absätze, Überschriften, Paragraphen. Ein wenig Überlappung zwischen den Abschnitten sorgt dafür, dass ein Bezug nicht verloren geht.

Ein zusätzlicher Kniff hat sich als wirksam erwiesen: Jedem Abschnitt wird ein kurzer Kontext vorangestellt — aus welchem Dokument, welchem Kapitel, zu welchem Sachverhalt er stammt — bevor er eingebettet wird. Anthropic hat 2024 in eigenen Messungen berichtet, dass diese kontextuelle Anreicherung zusammen mit Stichwortsuche die Zahl fehlgeschlagener Suchen um rund 49 Prozent senkte, mit einem zusätzlichen Neusortierungsschritt um rund 67 Prozent (Anthropic, 2024). Die Zahlen stammen aus Herstellermessungen; die Richtung deckt sich mit Projekterfahrung.

Hybride Suche: Bedeutung plus exakte Begriffe

Vektorsuche hat eine Schwäche, die im Geschäftsalltag oft zuschlägt: Sie ist schlecht bei exakten Begriffen. Eine Artikelnummer, ein Aktenzeichen, ein Paragraph, ein Produktname — all das hat wenig „Bedeutung“, aber hohe Trefferrelevanz. Wer nach „UR 142/2026“ fragt, will genau diesen Vorgang, nicht einen ähnlichen.

Deshalb kombinieren gute Systeme zwei Suchen: die Vektorsuche für Bedeutung und eine klassische Stichwortsuche für exakte Begriffe, meist nach dem Verfahren BM25 (Robertson und Zaragoza, 2009). Beide Trefferlisten werden verschmolzen, etwa per Reciprocal Rank Fusion, einem einfachen Verfahren, das Treffer belohnt, die in beiden Listen weit oben stehen (Cormack et al., 2009). Das Ergebnis heißt hybride Suche und ist der solide Standard für Wissens-KI im Unternehmen.

In Projekten mit einem lokalen Aufbau kam noch eine dritte Ebene dazu, die niemand im Prospekt erwähnt: Deutsch. Umlaute werden je nach Quelle als „ü“ oder als „ue“ geschrieben, gescannte Urkunden brauchen eine Texterkennung, bevor überhaupt etwas eingebettet werden kann, und zusammengesetzte Wörter wie „Grundstückskaufvertrag“ trifft die Stichwortsuche nur, wenn sie darauf vorbereitet ist. Solche Details entscheiden über die Trefferqualität mehr als die Wahl der Datenbank. Wie daraus ein produktives System wird, beschreibt Wissens-KI im Unternehmen.

Die typischen Fallen — und wie man sie erkennt

Alle sechs Fallen haben eines gemeinsam: Sie fallen nur auf, wenn man misst. Ein Testset aus echten Fragen mit bekannten richtigen Stellen zeigt, ob die Suche trifft — bevor das Sprachmodell überhaupt antwortet. Wie so ein Testset entsteht, steht unter KI-Evaluierung; warum die Suche der wichtigste Hebel gegen erfundene Antworten ist, unter Halluzinationen vermeiden. Und was aus den gefundenen Stellen im Kontextfenster wird, behandelt Context Engineering.

Kurz gesagt: Embeddings übersetzen Bedeutung in Zahlen, Vektordatenbanken finden Nähe darin. Die Qualität entsteht nicht in der Datenbank, sondern davor: im passenden, mehrsprachigen Embedding-Modell, im Zerlegen an Bedeutungsgrenzen, in der Kombination mit Stichwortsuche und in einem Index, der Berechtigungen kennt und aktuell bleibt. Wer das misst, baut eine Wissens-KI, die trifft; wer es nicht misst, baut eine, die überzeugend danebenliegt.

• T. Mikolov et al., „Efficient Estimation of Word Representations in Vector Space“ (word2vec), arXiv:1301.3781, 2013, https://arxiv.org/abs/1301.3781
• Nomic AI, „Nomic Embed: Training a Reproducible Long Context Text Embedder“, arXiv:2402.01613, 2024, https://arxiv.org/abs/2402.01613
• BAAI, „BGE M3-Embedding: Multi-Lingual, Multi-Functionality, Multi-Granularity Text Embeddings“, arXiv:2402.03216, 2024, https://arxiv.org/abs/2402.03216
• L. Wang et al. (Microsoft), „Multilingual E5 Text Embeddings: A Technical Report“, arXiv:2402.05672, 2024, https://arxiv.org/abs/2402.05672
• OpenAI, „New embedding models and API updates“ (text-embedding-3), 2024, https://openai.com/index/new-embedding-models-and-api-updates/
• N. Muennighoff et al., „MTEB: Massive Text Embedding Benchmark“, EACL 2023, https://arxiv.org/abs/2210.07316
• Anthropic, „Introducing Contextual Retrieval“, 2024, https://www.anthropic.com/news/contextual-retrieval
• S. Robertson, H. Zaragoza, „The Probabilistic Relevance Framework: BM25 and Beyond“, Foundations and Trends in Information Retrieval, 2009
• G. Cormack, C. Clarke, S. Büttcher, „Reciprocal Rank Fusion outperforms Condorcet and individual rank learning methods“, SIGIR 2009
• pgvector, Projektseite und Lizenz, 2025, https://github.com/pgvector/pgvector
• Qdrant, Dokumentation und Lizenz (Apache 2.0), Qdrant Solutions GmbH Berlin, 2025, https://qdrant.tech/documentation/
• Weaviate, Dokumentation und Lizenz (BSD-3), 2025, https://weaviate.io/developers/weaviate
• Chroma, Dokumentation und Lizenz (Apache 2.0), 2025, https://docs.trychroma.com/
• Milvus, Dokumentation und Lizenz (Apache 2.0), LF AI & Data, 2025, https://milvus.io/docs