Vektordatenbank einfach erklärt
Eine Vektordatenbank ist der Speicher für Embeddings. Sie legt für jeden Dokumentabschnitt die Zahlenreihe ab, die seinen Inhalt beschreibt, und kann zu einer Frage in Sekundenbruchteilen die ähnlichsten Abschnitte finden. Jeder Wissensassistent und jedes RAG-System braucht eine solche Datenbank, entweder als eigenständiges Produkt oder als Funktion einer bestehenden Datenbank.
Wenn ein Unternehmen seine Dokumente für einen KI-Assistenten aufbereitet, entstehen für jeden Abschnitt Embeddings, lange Zahlenreihen, die den Inhalt abbilden. Bei 50.000 Dokumenten sind das schnell mehrere Millionen Zahlenreihen. Eine Vektordatenbank ist darauf spezialisiert, diese Zahlenreihen zu speichern und zu einer neuen Anfrage die ähnlichsten zu finden, und zwar schnell genug für einen Dialog.
Wie sie im Alltag arbeitet
Ein Mitarbeiter stellt eine Frage. Das System erzeugt daraus ein Embedding und fragt die Vektordatenbank: Welche gespeicherten Abschnitte liegen am nächsten? Die Datenbank liefert in Millisekunden die zehn besten Treffer mit Verweis auf das Ursprungsdokument. Diese Treffer gehen ins Sprachmodell, das die Antwort formuliert. Das ganze Verfahren heißt RAG.
Ein Beispiel aus dem Alltag
Ein Anlagenbauer hat Dokumentation zu 800 ausgelieferten Anlagen. Ein Techniker fragt nach dem Austausch eines Dichtungssatzes an einer Anlage von 2016. Die Vektordatenbank findet die drei Abschnitte aus Montageanleitung und Serviceberichten, die zu dieser Baureihe und diesem Bauteil passen, aus insgesamt 400.000 gespeicherten Abschnitten. Ohne Vektordatenbank müsste jemand den Ordner kennen.
Was Unternehmen entscheiden müssen
Es gibt Vektordatenbanken als Cloud-Dienst, als eigenständige Software für den eigenen Server und als Erweiterung bekannter Datenbanken wie PostgreSQL. Die Wahl hängt von Datenmenge, vorhandener Infrastruktur und Datenschutz ab. Da die gespeicherten Zahlenreihen den Inhalt Ihrer Dokumente repräsentieren, gelten für sie dieselben Regeln wie für die Dokumente selbst. Bei sensiblen Inhalten empfehlen wir einen Betrieb auf eigenen Servern oder bei einem EU-Anbieter. Im Projekt entscheiden wir das anhand Ihrer Daten, nicht nach Produktkatalog.
Nächster Schritt
Welcher Prozess kostet Sie die meiste Zeit?
Erzählen Sie es in 30 Minuten. Sie bekommen eine ehrliche Einschätzung, ob KI dort hilft und was der erste Schritt wäre.