Die beste Vektordatenbank ist jetzt noch besser
Angetrieben durch die weite Verbreitung von ChatGPT und anderen LLMs gewannen Vektordatenbanken im Jahr 2023 an Popularität.
Obwohl viele Kunden von Zilliz Cloud unseren Dienst in irgendeiner Form eines Systems zur retrieval-augmentierten Generierung (RAG) nutzen, haben wir auch eine zunehmende Nutzung in verschiedenen Such- und Abrufsystemen beobachtet. Das ist keine Anomalie; allgemein gesprochen soll Zilliz Cloud eine Möglichkeit sein, mit der Computer menschengenerierte Daten wirklich verstehen können, von Texten und Bildern bis hin zu Banktransaktionen und Nutzerverhalten.
Heute haben wir den nächsten Schritt in unserer Entwicklung vorgestellt, indem wir Zilliz Cloud eine Reihe neuer Funktionen hinzugefügt haben – Range Search, Multi-Tenancy & RBAC, eine bis zu 10-fach verbesserte Such- & Indexierungsleistung und vieles mehr. Aber warum haben wir uns entschieden, diese Funktionen einzuführen? Die Antwort ist einfach: Unsere Nutzer haben es gefordert. Die Anwendungen, die sie entwickeln, und die technischen Herausforderungen, die sie angehen, erfordern eine zweckgebundene Vektordatenbank, die grundlegende Datenbankfunktionen und eine Vielzahl von Workloads unterstützt. Im weiteren Verlauf dieses Beitrags gehe ich auf drei reale Kundenanwendungsfälle ein, bei denen die neuen Funktionen von Zilliz Cloud nicht nur nützlich, sondern entscheidend für die Entwicklung und den Erfolg der Anwendungen unserer Nutzer waren.
Tauchen wir ein.
Effiziente autonome Agenten
Gedächtnis – Textfragmente, die in das Kontextfenster eines LLM eingefügt werden, um ihm historische Informationen zu geben – ist wohl eine der wichtigsten Komponenten eines autonomen Agenten (virtuellen Charakters). Kontextfenster sind aus drei verschiedenen Gründen stark begrenzt: 1) Sie sind nicht unendlich, 2) lange Kontexte verlangsamen die Textgenerierung erheblich, und 3) die meisten LLMs mit langem Kontext neigen dazu, sich nur an Informationen am Anfang und Ende des Kontextfensters zu „erinnern“. Vektordatenbanken lösen all diese Probleme.
Nehmen wir als Beispiel einen Kundenservice-Bot oder Support-Agenten. In dieser Anwendung müssen viele verschiedene Informationen, d. h. die ursprüngliche Wissensdatenbank, alle Prompts des Nutzers, von Nutzern hochgeladene Bilder, Audioclips, alle Antworten des Agenten usw., in Zilliz Cloud gespeichert werden, um einen schnellen Abruf zu ermöglichen. Immer wenn ein Kunde eine Nachricht eingibt, müssen alle relevanten Inhalte aus der Wissensdatenbank und früheren Gesprächen abgerufen werden, wodurch dieser Workload sowohl leseintensiv als auch schreibintensiv ist, mit Unmengen an Nachrichtendaten, die pro Sekunde gespeichert werden.
Um dieses Problem noch herausfordernder zu machen, sind die Daten, die diesem Kundenservice-Agenten zugeführt werden, von Natur aus multimodal; Textsuche allein reicht schlicht nicht aus. Die verteilte Datenbankarchitektur von Zilliz unterstützt dies bereits in massivem Maßstab – Erhöhung der Anzahl der Query Nodes für einen höheren Lesedurchsatz und der Anzahl der Data Nodes für einen höheren Schreibdurchsatz –, aber unsere neue Cardinal-Vektorsuchmaschine war der letztlich entscheidende Faktor. Cardinal umfasst unseren eigenen proprietären Vektorindex, eine Reihe von Compute-Optimierungen auf Maschinenebene und cache-bewusste Algorithmen, neben vielen weiteren Leistungsoptimierungen. Kurz gesagt: Für diese spezielle Anwendung ermöglichte Zilliz Cloud am Ende denselben Such- und Indexierungsdurchsatz wie andere Vektordatenbanken zu weniger als einem Drittel des Preises. Wo die jährlichen Kosten für andere Vektorsuchlösungen unerschwinglich waren, sind wir eingesprungen und haben diesen autonomen Agenten Wirklichkeit werden lassen.
Produktempfehlung
Empfehlungssysteme sind darauf ausgelegt, eine Vielzahl von Inhalten bereitzustellen, z. B. Produkte, Nachrichten, nutzergenerierte Inhalte usw., basierend auf der bisherigen Anzeige- oder Browsing-Historie eines Verbrauchers. Vektordatenbanken sind perfekt für diese Art von Anwendung geeignet – durch das Vektorisieren und Speichern jedes einzelnen Elements in Zilliz Cloud können Empfehlungen einfach durch den Aufruf von collection.search durchgeführt werden. Die daraus resultierenden nächsten Nachbarn sind selbst die relevantesten Empfehlungen.
Schnelle, relevante Empfehlungen sind Grundvoraussetzung für jedes B2C-Produkt, aber in der Welt des E-Commerce sind Produktempfehlungen besonders entscheidend für das Gesamterlebnis und können unglaublich effiziente Umsatztreiber sein. Eine der Kernmissionen unserer Nutzer bestand darin, die Leistung ihres Produktempfehlungssystems durch den Einsatz von KI zu verbessern. Wie bei vielen anderen war ihr Anwendungsfall extrem latenzempfindlich – Abfragen an ihre Vektordatenbank mussten innerhalb von 10 Millisekunden abgeschlossen werden, um eine gute Endnutzererfahrung aufrechtzuerhalten – und erforderte einen moderaten Durchsatz. Außerdem waren diese Empfehlungen keine generischen Suchanfragen. Ihre Endnutzer benötigten häufig gefilterte Empfehlungen (z. B. bestimmte Maße für Bekleidung oder eine bestimmte Schuhgröße). Diese Komplexität erstreckte sich auch auf die Art der Produktdaten, die von Natur aus multimodal waren und Produkttitel, Beschreibungen und Bilder umfassten.
Cardinal ermöglichte es ihnen, ihre Leistungsanforderungen zu erfüllen, aber das dynamische Schema und die JSON-Unterstützung von Zilliz Cloud erwiesen sich hier als echter Game-Changer. Dadurch konnte der Kunde seine Datenmodelle an die spezifischen Eigenschaften jeder Produktklasse anpassen und sicherstellen, dass die vielfältigen und komplexen Metadaten effizient mit jedem Vektor gespeichert und abgefragt werden konnten. Diese Anpassungsfähigkeit, kombiniert mit der überlegenen Leistung von Cardinal, war für diesen speziellen Kunden der ausschlaggebende Faktor.
KI-gestützte Wirkstoffentdeckung
Wirkstoffentdeckung ist ein unglaublich schwieriges Problem. Moleküle für Medikamente können in ihrer Größe variieren, von „kleinen Molekülen“ mit Dutzenden von Atomen bis hin zu großen Biologika mit Zehntausenden von Atomen. Machine Learning kann jedes Molekül vektorisieren und eine Repräsentation basierend auf seiner Funktion erstellen, z. B. der Behandlung einer bestimmten Krankheit oder eines Symptoms.
In diesem Prozess spielt die Range-Search-Funktion von Zilliz Cloud eine entscheidende Rolle. Forscher vektorisieren ihre Zielkrankheit oder ihr Zielsymptom und durchsuchen Zilliz Cloud nach Wirkstoffkandidaten. Range Search geht über standardmäßige Top-k-Suchen hinaus, indem alle Vektoren (Moleküle) innerhalb einer bestimmten Entfernung zum Ziel gefunden werden, wodurch alle relevanten Kandidaten statt einer festen Anzahl bereitgestellt werden. Diese Funktion ist nicht nur für die Wirkstoffentdeckung unerlässlich, sondern auch in Bereichen wie Betrugserkennung und Cybersicherheit anwendbar. Im Bankwesen beispielsweise werden Transaktionen vektorisiert und mithilfe von Range Search mit neuen Transaktionen verglichen, um ähnliche frühere Aktivitäten zu identifizieren, was bei der Erkennung von Ausreißern hilft.
Abschließende Worte
RAG war und bleibt für uns unglaublich wichtig, aber es ist nur die Spitze des Vektordatenbank-Eisbergs. Hier haben wir drei reale Anwendungsfälle vorgestellt, die direkt durch einige der neuen Funktionen ermöglicht werden, die wir heute ankündigen. Beim Vergleich von Zilliz Cloud mit anderen Vektordatenbanken waren und bleiben diese Funktionen der entscheidende Erfolgsfaktor.
Trotzdem sollten Sie sich nicht einfach auf mein Wort verlassen. Viele Datentypen können in Zilliz Cloud vektorisiert, gespeichert und abgefragt werden. Probieren Sie es jetzt kostenlos aus, ohne Installationsaufwand, und lassen Sie die Datenrevolution beginnen.
Weiterlesen
Zilliz Cloud Now Available in AWS Asia Pacific (Seoul)
Zilliz Cloud is now available in AWS Seoul — low-latency vector search, in-country data residency, and one-step migration for Korean AI teams. 31 regions across 5 clouds.
How Zilliz Saw the Future of Vector Databases—and Built for Production
An inside look at how Zilliz built vector databases for real-world use, focusing on scalability, stability, and running them reliably at scale.
Will Amazon S3 Vectors Kill Vector Databases—or Save Them?
AWS S3 Vectors aims for 90% cost savings for vector storage. But will it kill vectordbs like Milvus? A deep dive into costs, limits, and the future of tiered storage.