Steigerung der Leistung und Skalierbarkeit von Shulex bei VOC-Diensten mit Zilliz Cloud
50%
weniger Suchlatenz und Kosten für die Datenanalyse
30%
schnellere Berichterstellung
Minutenebene
Reaktion auf unerwarteten Verkehrsanstieg
Since transitioning from the open-source Milvus vector database to the fully managed Zilliz Cloud, we’ve experienced significant improvements in business performance. We’ve achieved lower operational costs, increased search speed, a more flexible system architecture, and a more stable user experience. Zilliz Cloud also provides expert support to resolve issues quickly and effectively. Overall, Zilliz Cloud has given us greater convenience and a competitive edge, and we are very pleased and optimistic about this change.
Shengyi Pan
Über Shulex
Shulex (Voc.AI), ein führendes KI-Unternehmen mit Sitz im Silicon Valley, hat es sich zur Aufgabe gemacht, Verkäufer und Marken in die Lage zu versetzen, Marktchancen zu erkennen und erfolgreiche Produkte durch fortschrittliche VOC-Lösungen (Voice of Customer) zu entwickeln. Durch die Nutzung der Leistungsfähigkeit von KI, insbesondere von großen Sprachmodellen (LLMs wie ChatGPT und Stimmungsanalysen, hilft Shulex Unternehmen, tiefe Einblicke in das Kundenfeedback zu gewinnen. Mit über 200.000 registrierten Kunden, darunter globale Marken wie P&G, Anker und Hisense, haben sich die innovativen VOC-Lösungen von Shulex in einer Vielzahl von Branchen als unschätzbar wertvoll erwiesen.
Die Herausforderung: Hohe Betriebskosten mit der selbstverwalteten Milvus-Lösung
VOC, oder Voice of Customer, ist ein Service, der Kundenfeedback erfasst, analysiert und nutzt, um Kundenbedürfnisse, -präferenzen und -erfahrungen zu verstehen. Shulex bietet fortschrittliche VOC-Lösungen an, die Marken dabei helfen, Daten aus verschiedenen Quellen zu sammeln und zu analysieren, z. B. aus Umfragen, Bewertungen, sozialen Medien und dem Kundensupport. Dieser Prozess verbessert letztendlich Produkte, Dienstleistungen und die allgemeine Kundenzufriedenheit, indem die Angebote besser auf die Kundenwünsche abgestimmt werden.
Um dieses Ziel zu erreichen, benötigte Shulex eine Lösung, die in der Lage ist, die Absicht und semantische Bedeutung von Kundenfeedback in natürlicher Sprache zu verstehen und gleichzeitig große Datenmengen effizient zu verwalten. Zunächst implementierte Shulex eine selbstverwaltete Vektorsuche Lösung unter Verwendung von Milvus, einer Open-Source-Vektordatenbank, die sich hervorragend zum Speichern, Indizieren und Abrufen von unstrukturierten Textdaten eignet.
Die selbstverwaltete Milvus-Lösung war anfangs gut geeignet, um große Mengen von Vektoren zu speichern und semantische Suchen durchzuführen. Das schnelle Wachstum von Shulex führte jedoch zu einer Explosion des Datenvolumens. Allein der VOC-Bewertungsanalysedienst generierte über 10.000 E-Commerce-spezifische Bewertungskennzeichnungen und erzeugte Milliarden von Vektoren. Die selbstverwaltete Milvus-Lösung konnte zwar diese großen Datenmengen bewältigen, erforderte aber erhebliche interne Ressourcen für Betrieb und Wartung. Die hohen Betriebskosten und die langen Wiederherstellungszeiten bei Systemproblemen wurden problematisch und führten zu Kundenunzufriedenheit.
Chenhui Li, Tech Lead bei Shulex, erklärt: "Mit der Ausweitung unseres Geschäfts sind auch die Anforderungen an unsere Vektordatenbank gestiegen. Wir brauchen eine Lösung, die unsere Betriebskosten minimiert, elastische Skalierungsfunktionen bietet, um große Mengen an Vektordaten und unerwartete Datenverkehrsspitzen zu bewältigen, schnellere Vektorsuchgeschwindigkeiten bietet und ein hohes Service Level Agreement (SLA) sicherstellt."_
Nach Gesprächen mit dem Expertenteam von Zilliz, dem Unternehmen hinter Milvus, beschloss das Shulex-Team, auf Zilliz Cloud, die vollständig verwaltete Version von Milvus, zu migrieren, um diese Herausforderungen zu bewältigen. Zilliz Cloud betreibt nun die beiden Kerndienste von Shulex: VOC-Review-Analyse und intelligenter Kundenservice.
VOC-Review-Analyse mit Zilliz Cloud betreiben
Shulex wurde dank seiner leistungsstarken VOC-Rezensionsanalyse als eines der bestplatzierten Amazon-Produktauswahltools anerkannt. Mit Zilliz Cloud verarbeitet und analysiert Shulex riesige Mengen an Amazon-Rezensionen und Social-Media-Daten in Echtzeit und liefert den Kunden sofortige Einblicke in das Produktfeedback, einschließlich demografischer Daten der Nutzer, Nutzungsszenarien, Kaufmotivationen, Produktstärken und verbesserungswürdige Bereiche.
Wie funktioniert das VOC-Review-Analyse-System?
Shulex kombiniert die Leistungsfähigkeit eines großen Sprachmodells (LLM) mit der Zilliz Cloud, um eine Datenbank mit Musterrezensionen zu erstellen. Dieser Ansatz ermöglicht es, neue oder nicht beschriftete Rezensionen mit bereits vorhandenen Rezensionsdaten auf Ähnlichkeit zu vergleichen, wodurch der Prozess effizient und skalierbar wird. Das System folgt den folgenden Schlüsselschritten:
Erstellen einer Muster-Review-Datenbank in der Zilliz Cloud: Erstellen Sie eine Datenbank in der Zilliz Cloud, um die Original-Reviews, ihre Vektordarstellungen und die von einem LLM generierten Sentiment Labels (positiv oder negativ) zu speichern.
Auswahl von Produktkategorien für die Analyse: Wählen Sie spezifische Produkte aus einer breiten Palette von Kategorien für eine detaillierte Analyse der Bewertungen.
Encoding Bewertungen in Vektor-Embeddings: Konvertieren Sie Zehntausende von Bewertungen aus ausgewählten Kategorien in Vektor-Embeddings und speichern Sie sie in Zilliz Cloud.
Generierung von Sentiment-Labels mit einem LLM: Die ausgewählten Rezensionen werden in ein LLM wie GPT-4 eingespeist, das jeder Rezension ein Sentiment-Label zuweist. Diese Labels werden dann in der Zilliz Cloud gespeichert und mit dem entsprechenden Bewertungstext verknüpft.
Semantische Ähnlichkeitssuche mit Zilliz Cloud: Zilliz Cloud führt eine semantische Ähnlichkeitssuche für neue oder bestehende, nicht beschriftete Rezensionen durch, vergleicht sie mit den semantisch ähnlichsten Rezensionen in der Beispieldatenbank und ruft die entsprechenden Stimmungslabel ab.
Erstellung von statistischen Berichten: Das System analysiert die Kundenstimmung in Bezug auf bestimmte Produktattribute auf der Grundlage der Klassifizierung von Zilliz Cloud und erstellt detaillierte Berichte.
Vorteile von Zilliz Cloud für die VOC-Review-Analyse von Shulex
50% weniger Suchlatenz und 30% schnellere Berichterstellung: Zilliz Cloud bietet eine überragende Leistung bei der Suche nach Vektorähnlichkeit mit einer Suchmaschine, die mehr als fünfmal schneller ist als die Open-Source-Suchmaschine Milvus. Sie verarbeitet hochfrequente Suchanfragen mit 1.000 Abfragen pro Sekunde (QPS), reduziert die Suchlatenz um 50 % und verbessert die Geschwindigkeit der Berichterstellung um 30 %.
50% geringere Kosten für die Datenanalyse: Zilliz Cloud macht es überflüssig, alle Produktbewertungen durch einen LLM laufen zu lassen, um Stimmungskennzeichnungen zu erhalten. Stattdessen vergleicht es die semantische Ähnlichkeit zwischen neuen oder unetikettierten Bewertungen und denen, die in der Datenbank für Beispielbewertungen gespeichert sind, wodurch die Abhängigkeit von LLMs erheblich reduziert und die Kosten für die Datenanalyse um mindestens 50 % gesenkt werden.
Minutenschnelle Reaktion auf unerwartete Datenverkehrsspitzen: Bei unerwarteten Spitzen im Kundenverkehr, insbesondere in Werbezeiten, erforderte das vorherige System eine manuelle Skalierung, was zu Wartezeiten von bis zu einer Stunde führte. Die elastischen Skalierungsfunktionen von Zilliz Cloud ermöglichen es, Cluster innerhalb von Minuten zu vergrößern oder zu verkleinern, wodurch Verzögerungen vermieden und die Kundenzufriedenheit erhöht werden.
Aufbau eines RAG-basierten VOC-Chatbots mit Zilliz Cloud
Shulex bietet auch einen VOC-Chatbot, der Unternehmens- und externe Daten schnell in FAQs umwandelt und in nur zwei Minuten einen professionellen Kundenservice-Bot erstellt. Dieser Ansatz steigert die Antworteffizienz und senkt gleichzeitig die Betriebskosten.
Der VOC-Chatbot basiert auf der Retrieval Augmented Generation (RAG)-Technik und kombiniert die Leistungsfähigkeit großer Sprachmodelle mit Vektordatenbanken. Er extrahiert öffentliche Weblinks, bettet Wissen aus Unternehmensdateien, E-Mails und Support-Tickets in Vektoreinbettungen ein und speichert sie in der Zilliz Cloud. Mit dieser Methode wird eine unternehmensspezifische Wissensbasis geschaffen, die das LLM um einen externen Speicher erweitert.
Zilliz Cloud ermöglicht es dem RAG-base Chatbot, große Mengen an Vektordaten schnell zu verarbeiten und abzurufen, was den Wissensabruf in Echtzeit erleichtert. Der Chatbot unterstützt zuverlässig den intelligenten Kundenservice von Shulex und bearbeitet 90 Anfragen pro Sekunde mit einer stabilen Rückrufquote von über 98%. Mittlerweile erledigt der VOC-Chatbot über 80 % aller Aufgaben im Kundenservice.
Shengyi Pan, CTO von Shulex, kommentiert: "Seit der Umstellung von der Open-Source-Vektor-Datenbank Milvus auf die vollständig verwaltete Zilliz-Cloud haben wir erhebliche Verbesserungen bei der Unternehmensleistung erzielt. Wir haben niedrigere Betriebskosten, eine höhere Suchgeschwindigkeit, eine flexiblere Systemarchitektur und eine stabilere Benutzererfahrung erreicht. Zilliz Cloud bietet außerdem fachkundigen Support, der Probleme schnell und effektiv löst. Insgesamt hat uns die Zilliz Cloud mehr Komfort und einen Wettbewerbsvorteil verschafft, und wir sind sehr zufrieden und optimistisch mit dieser Veränderung."
Fazit
Die Integration von Zilliz Cloud in die Arbeitsabläufe von Shulex hat sich als ein entscheidender Schritt erwiesen. Durch die schnellere und effizientere Verarbeitung und Analyse umfangreicher Daten hat Zilliz Cloud die Kerndienstleistungen von Shulex - die VOC-Prüfungsanalyse und den intelligenten Kundenservice - erheblich verbessert.
Die Leistung von Zilliz Cloud bei der semantischen Hochgeschwindigkeitssuche, die Senkung der Kosten für die Datenanalyse um 50 % und die schnelle Reaktion auf Datenverkehrsspitzen haben Shulex in die Lage versetzt, seinen Wettbewerbsvorteil auf dem Markt zu erhalten. Als Ergebnis kann Shulex seinen Kunden tiefere Einblicke mit größerer Geschwindigkeit und Effizienz liefern und gleichzeitig die Betriebskosten unter Kontrolle halten. Der Übergang zur Zilliz Cloud hat die Prozesse von Shulex gestrafft und eine robustere und skalierbarere Grundlage für zukünftiges Wachstum geschaffen.
- Über Shulex
- Die Herausforderung: Hohe Betriebskosten mit der selbstverwalteten Milvus-Lösung
- VOC-Review-Analyse mit Zilliz Cloud betreiben
- Aufbau eines RAG-basierten VOC-Chatbots mit Zilliz Cloud
- Fazit
Inhalte
Anwendungsfall
Branche
Software-Dienstleistungen
As our business has expanded, the demands on our vector database have increased. We need a solution that minimizes operational costs, offers elastic scaling capabilities to manage vast amounts of vector data and unexpected traffic surges, provides faster vector search speeds, and ensures a high service level agreement (SLA).
Chenhui Li