Wie VerbaFlo Kundeninteraktionen in der Immobilienbranche mit Conversational-AI-Agenten und Zilliz Cloud revolutioniert
Bis zu 50 %
Kostensenkung vs. MongoDB-Infrastruktur
Unter 10 Millisekunden
Leistungsdurchbruch
60+ QPS
Produktionslasten mit Spielraum für Wachstum
Überlegene mandantenfähige Daten
Isolierung und Partitionierung
It has saved us cost by at least 25 to 30% on what we were earlier incurring on the vector database, with potential savings reaching up to 40-50% during peak traffic periods.
Rachit Jindal
Über VerbaFlo
VerbaFlo gehört zu den weltweit anpassungsfähigsten Conversational-AI-Plattformen und revolutioniert, wie Immobilienprofis Abläufe verwalten und mit Kunden interagieren. Ihre KI-gestützte Plattform vereint Sprach-, Chat-, Text- und E-Mail-Kommunikation in einer einzigen intelligenten Engine, die rund um die Uhr nahezu menschliche Gespräche ermöglicht. Mit fortschrittlichen Funktionen wie KI-gestütztem Kunden-Matching, dynamischen Preisgestaltungs-Engines und automatisierter Immobilienverwaltung sorgt VerbaFlo für Konsistenz, Transparenz und messbare Leistung über jede Kundeninteraktion hinweg. Mit Plänen zur Expansion in die Automobilbranche ist VerbaFlo als Branchenführer für KI-gestützte Kommunikationslösungen positioniert.
Die Herausforderung: Skalierung über Infrastrukturgrenzen hinaus
Als VerbaFlos KI-Plattform bei Immobilienkunden an Zugkraft gewann, zeigte die anfängliche MongoDB Atlas-Infrastruktur kritische Einschränkungen, die sowohl das Kundenerlebnis als auch das Geschäftswachstum gefährdeten. Das Unternehmen arbeitete mit Produktionsabfragelasten von über 50–60 QPS und brachte sein System damit über das hinaus, was MongoDB zuverlässig bewältigen konnte.
Abfragelatenzen waren für Conversational AI in Echtzeit zu langsam, bei der Nutzer sofortige Antworten erwarten, insbesondere während Sprachanrufen, bei denen Verzögerungen sofort auffallen. Das Team hatte mit verschiedenen Vektordatenbanken experimentiert, darunter Qdrant und Pinecone, doch keine konnte skalieren, um ihre anspruchsvollen Leistungsanforderungen zu erfüllen.
„Wir steckten ziemlich fest an einem Punkt, an dem unsere Produktionsumgebung eine QPS von über 50 oder 60 hatte und die meisten bestehenden Datenbanken nicht in der Lage waren, auf dieses Niveau zu skalieren. Selbst MongoDB Atlas M30 oder M40 konnte nicht bis zu diesem Punkt skalieren“, erklärt Rachit Jindal, Senior AI Engineer bei VerbaFlo.
Die Herausforderungen gingen über die Leistung hinaus. VerbaFlo sah sich mit vier Hauptproblemen konfrontiert: Kostenineffizienz, da MongoDBs M40-Cluster für ihre Anforderungen zu teuer waren, unzureichende Unterstützung für hohe Parallelität, schlechte Abfragezeiten und begrenzte Partitionierungsfunktionen. Das Team benötigte eine ausgefeilte Datenisolation für seine Multi-Tenant-Architektur; MongoDB war jedoch nicht in der Lage, eine ordnungsgemäße Namespace-Isolation für verschiedene Collections und Umgebungen bereitzustellen.
Diese Infrastrukturbeschränkungen wirkten sich direkt auf VerbaFlos Fähigkeit aus, nahtlose, automatisierte Immobilienverwaltung in Echtzeit bereitzustellen. Angesichts aggressiver Wachstumsprognosen und Plänen, die Anzahl ihrer Entitäten innerhalb weniger Quartale um das 10- bis 20-Fache zu skalieren, benötigte das Unternehmen eine Lösung, die mit seinen Ambitionen mitwachsen konnte.
Der Weg zu Zilliz Cloud
Als VerbaFlos Engineering-Team erkannte, dass seine Datenbankarchitektur zu einer kritischen geschäftlichen Einschränkung geworden war, führte es eine umfassende Bewertung von Alternativen für Vektordatenbanken durch, darunter Zilliz Cloud (ein verwalteter Dienst des Open-Source-Projekts Milvus), Pinecone, Qdrant, PostgreSQL mit Vektorerweiterungen und selbst gehostetes Milvus auf AWS.
Zilliz Cloud erwies sich aus mehreren überzeugenden Gründen als klarer Sieger. Rachit hatte frühere Erfahrung mit dem Hosting von Milvus On-Premises, was ihm Vertrauen in dessen horizontale und vertikale Skalierungsfähigkeiten sowie in dessen interne Architektur gab. „Auf Grundlage der früheren Erfahrung, die ich mit Milvus habe, seiner internen Architektur in Bezug auf Skalierbarkeit sowie horizontale und vertikale Skalierung, ist es für unser Team definitiv die richtige Wahl, es als eine der potenziellen Datenbanken in Betracht zu ziehen“, merkt er an.
Die Evaluierung ergab, dass Zilliz Cloud ausgefeilte Partitionierungs- und Isolationsfunktionen bot, die perfekt zu VerbaFlos Multi-Tenant-Anforderungen passten. Im Gegensatz zu MongoDB, wo sie „sehr eingeschränkte Möglichkeiten hatten, einen Index in einer bestimmten Collection zu erstellen“ und „beim Erstellen einer Collection keinen geeigneten Namespace in einer geeigneten Datenbank definieren“ konnten, bot Zilliz Cloud eine ordnungsgemäße Datenbank- und Namespace-Isolation für eine saubere Trennung zwischen Produktionsumgebungen, Staging-Systemen und ihrem kundenorientierten AI Playground.
Ein weiterer entscheidender Faktor waren die integrierten Re-Ranking-Algorithmen von Zilliz Cloud. Anstatt eigene Algorithmen zu entwickeln, konnte VerbaFlo sofort gewichtetes Re-Ranking und RRF-Systeme (Reciprocal Rank Fusion) nutzen. „Mit Zilliz Cloud gab es bestimmte interne Algorithmen, die sehr gut zu dem von uns benötigten Anwendungsfall passen, wie die Systeme für gewichtetes Re-Ranking und RRF-Re-Ranking. Das half uns, ihr SDK direkt zu nutzen und sie gleichzeitig on the fly zu berechnen, sodass unsere Abfragezeit reduziert werden kann“, erklärt Rachit.
Die native Unterstützung von Zilliz Cloud für Hybrid Search – die Kombination semantischer und keyword-basierter Abfragen – stimmt perfekt mit VerbaFlos Query-Expansion-Pipeline überein. Am wichtigsten war, dass Zilliz Cloud die Latenz von unter 10 Millisekunden liefern konnte, die ihre Echtzeitanwendungen erforderten, und gleichzeitig im Vergleich zu anderen Alternativen bessere Managed Services bot.
Wie Zilliz Cloud Echtzeit-Conversational-AI-Agenten im großen Maßstab antreibt
VerbaFlos frühere MongoDB-basierte Architektur hatte Schwierigkeiten, Produktionslasten von mehr als 50–60 QPS zu bewältigen, was zu Engpässen führte, die Echtzeitantworten verhinderten. Mit Zilliz Cloud als Grundlage haben sie eine ausgefeilte Conversational-AI-Plattform aufgebaut, die derzeit über 40.000–50.000 Entitäten mit nahtloser Performance verarbeitet.
Die neue Agentenarchitektur mit Zilliz Cloud
Im Zentrum von VerbaFlos System steht ein intelligenter Routing-Mechanismus, der Benutzerabsichten klassifiziert und Abfragen an spezialisierte Verarbeitungsknoten weiterleitet. Zilliz Cloud treibt den kritischen RAG-Knoten (Retrieval-Augmented Generation) an, der relevante Kontexte aus Immobiliendaten, Kundenhistorien und Marktinformationen abruft, um präzise, personalisierte Antworten zu generieren.
Eine der wertvollsten Funktionen von Zilliz Cloud für VerbaFlo ist das fortschrittliche Partitionierungssystem, das zwei kritische Arten der Datenisolation ermöglicht:
Umgebungstrennung: Saubere Isolation zwischen ihrer AI-Playground-/Labs-Umgebung und Produktions-Collections, sodass Kunden testen und experimentieren können, ohne den Live-Betrieb zu beeinträchtigen
Performance-Optimierung: Daten, die basierend auf bestimmten Szenarien in kleinere Partitionen segmentiert sind, wodurch gezielte Abfragen begrenzter Abschnitte statt ganzer Collections ermöglicht werden
Dieser Partitionierungsansatz adressiert direkt die Namespace-Einschränkungen, mit denen sie bei MongoDB konfrontiert waren, wo sie „sehr eingeschränkte Möglichkeiten hatten, einen Index in einer bestimmten Collection zu erstellen“ und „beim Erstellen einer Collection keinen geeigneten Namespace in einer geeigneten Datenbank definieren“ konnten.
Antrieb der Hybrid-Search-Pipeline mit Zilliz Cloud
VerbaFlos System stützt sich nicht auf einfache semantische Suchen. Stattdessen erstellt ihre Query-Expansion-Pipeline für jede Benutzeranfrage sowohl semantische als auch Keyword-Abfragen. Die nativen Hybrid-Search-Funktionen und integrierten Re-Ranking-Algorithmen (gewichtetes Re-Ranking und RRF) von Zilliz Cloud machen individuelle Entwicklungen überflüssig und liefern gleichzeitig überlegene Ergebnisse.
„Mit Zilliz Cloud gab es bestimmte interne Algorithmen, die sehr gut zu dem von uns benötigten Anwendungsfall passen, wie die Systeme für gewichtetes Re-Ranking und RRF-Re-Ranking. Das half uns, ihr SDK direkt zu nutzen und sie gleichzeitig on the fly zu berechnen, sodass unsere Abfragezeit reduziert werden kann“, merkt Rachit an.
Nahtlose Migration: Von MongoDB-Einschränkungen zu Zilliz-Cloud-Performance
Die Migration von MongoDB Atlas zu Zilliz Cloud zeigte, wie ein gut geplanter Datenbankübergang kritische Performance-Engpässe beheben kann, ohne den Geschäftsbetrieb zu stören.
Das Engineering-Team von VerbaFlo ging die Migration systematisch an und nutzte die umfassende Dokumentation und die SDK-Ressourcen von Zilliz Cloud. Die Migration umfasste die Übertragung ihrer bestehenden Vektor-Embeddings und Metadaten sowie die Implementierung neuer Partitionierungsstrategien, die MongoDB nicht unterstützen konnte.
„Die Dokumentation zu Zilliz Cloud sowie zu Milvus war ziemlich detailliert und umfassend. Angesichts dieser Art von Dokumentation und all der SDK-Dokumente war die Migration ziemlich einfach“, erinnert sich Rachit.
Ergebnisse und Vorteile
Die Auswirkungen der Migration zu Zilliz Cloud waren unmittelbar und in mehreren Dimensionen erheblich.
Bis zu 50% Kostenreduzierung: VerbaFlo erzielte sofortige Kosteneinsparungen von 25-30% im Vergleich zu ihrer MongoDB Atlas-Infrastruktur. Während Spitzenlastzeiten könnten die potenziellen Einsparungen dank der effizienten Auto-Scaling-Funktionen von Zilliz Cloud und idealer Cluster-Konfigurationen für produktionsreife Umgebungen 40-50% erreichen.
Performance-Durchbruch unter 10 Millisekunden: Die Abfragelatenzen sanken von 15-20 Millisekunden auf konstant unter 10 Millisekunden – eine dramatische Verbesserung, die Kunden sofort bemerkten. Diese Performance unter 10 Millisekunden ermöglicht wirklich konversationelle KI-Erlebnisse über Sprachanrufe, Chat-Widgets und Messaging-Plattformen hinweg.
Verbesserte Skalierbarkeit: Mit der Fähigkeit, ihre aktuelle Last von 50-60 QPS mit erheblichem Spielraum für Wachstum zu bewältigen, verfügt VerbaFlo nun über die infrastrukturelle Grundlage, um ihre ambitionierten Skalierungspläne ohne Performance-Einbußen zu unterstützen.
Überlegene Datenisolierung und Partitionierung: Die fortschrittlichen Partitionierungsfunktionen von Zilliz Cloud lösten die komplexen Multi-Tenant-Anforderungen von VerbaFlo, die MongoDB nicht bewältigen konnte, und verbesserten sowohl die Sicherheit als auch die Performance ihrer Multi-Tenant-Architektur erheblich.
Compliance und Sicherheit: Die DSGVO-Compliance und Sicherheitszertifizierungen von Zilliz Cloud ermöglichen es VerbaFlo, Kunden in den Regionen UK und EU zuverlässig zu bedienen und ihre internationalen Expansionspläne zu unterstützen.
Verbesserte Systemzuverlässigkeit: Mit einer Uptime von 99,5%+ unterstützt Zilliz Cloud die 24/7-Servicezusagen von VerbaFlo, was für Immobilienanwendungen entscheidend ist, bei denen Kundenanfragen nicht an Geschäftszeiten gebunden sind.
Nahtlose Ökosystem-Integration: Die native Kompatibilität von Zilliz Cloud mit Cloud-Infrastrukturanbietern ermöglicht es VerbaFlo, AWS-Services einschließlich ECS, EKS und S3-Buckets für Hosting und Deployments zu nutzen und gleichzeitig ihre Multi-Cloud-Strategie zu unterstützen, die Google Cloud und verschiedene KI-Service-Anbieter umfasst.
Zukunftspläne: Ausweitung von KI-Innovation über Branchen hinweg
Nachdem ihre Infrastrukturherausforderungen gelöst sind, verfolgt VerbaFlo ambitionierte Expansionspläne in mehreren Dimensionen. Das Unternehmen prognostiziert ein erhebliches Wachstum der Entitätsanzahl und erwartet, innerhalb der nächsten Quartale um das 10-20-Fache zu skalieren, wenn der Traffic zunimmt und mehr Kunden für ihre AI-Playground-Funktion gewonnen werden.
„Das Team befindet sich in einer ständigen Phase der Entwicklung, der Optimierung unserer bestehenden Flows und der internen Implementierung neuer Flows in das System“, erklärt Rachit. „Wir möchten Zilliz Cloud definitiv tatsächlich nutzen, um einige der Anwendungsfälle zu unterstützen, die wir für die Zukunft planen.“
Noch bedeutender ist, dass die solide Grundlage, die Zilliz Cloud bietet, die Erkundung völlig neuer Branchenvertikalen ermöglicht hat. VerbaFlo entwickelt aktiv KI-Agentenarchitekturen für die Automobil- und Pharmaindustrie und nutzt dabei dieselben konversationellen KI-Fähigkeiten, die sich im Immobiliensektor als erfolgreich erwiesen haben.
Zu den technischen Fähigkeiten, die diese Expansion ermöglichen, gehören die internationalen Compliance-Standards von Zilliz Cloud und eine zuverlässige Performance in großem Maßstab, die VerbaFlo das Vertrauen geben, über den aktuellen Markt hinauszudenken und globales Wachstum über mehrere Sektoren hinweg aufzubauen.
Fazit
Die Partnerschaft von VerbaFlo mit Zilliz Cloud zeigt, wie die richtige Infrastrukturentscheidung technische Einschränkungen in Wettbewerbsvorteile verwandeln kann. Durch Kosteneinsparungen von 25–30 %, eine Abfrageleistung von unter 10 Millisekunden und robuste Skalierbarkeit mit Zilliz Cloud hat sich VerbaFlo für aggressives Wachstum in mehreren Branchen positioniert.
Während VerbaFlo weiterhin in f innoviert und in neue Märkte expandiert, bietet Zilliz Cloud die skalierbare Grundlage, die sie benötigen, um zu verändern, wie Unternehmen mit ihren Kunden interagieren.
„Die Latenz von unter 10 Millisekunden für Abfragen ist in der Branche für Vektordatenbanken durchaus ein Maßstab“, schließt Rachit. „In Kombination mit den Kosteneinsparungen und der Zuverlässigkeit ist Zilliz Cloud zu einem strategischen Wegbereiter für unsere umfassendere Vision geworden, konversationelle KI branchenübergreifend zu transformieren.“
- Über VerbaFlo
- Die Herausforderung: Skalierung über Infrastrukturgrenzen hinaus
- Der Weg zu Zilliz Cloud
- Wie Zilliz Cloud Echtzeit-Conversational-AI-Agenten im großen Maßstab antreibt
- Nahtlose Migration: Von MongoDB-Einschränkungen zu Zilliz-Cloud-Performance
- Ergebnisse und Vorteile
- Zukunftspläne: Ausweitung von KI-Innovation über Branchen hinweg
- Fazit
Inhalte
Anwendungsfall
Branche
Immobilien
The sub-10 millisecond latency for queries is quite the benchmark in the industry for vector databases. Combined with the cost savings and reliability, Zilliz Cloud has become a strategic enabler for our broader vision of transforming conversational AI across industries.
Rachit Jindal