Aumento delle prestazioni e della scalabilità dei servizi VOC di Shulex con Zilliz Cloud
50%
meno latenza di ricerca e costi di analisi dei dati
30%
generazione più rapida dei rapporti
A livello di minuti
risposta a picchi di traffico imprevisti
Since transitioning from the open-source Milvus vector database to the fully managed Zilliz Cloud, we’ve experienced significant improvements in business performance. We’ve achieved lower operational costs, increased search speed, a more flexible system architecture, and a more stable user experience. Zilliz Cloud also provides expert support to resolve issues quickly and effectively. Overall, Zilliz Cloud has given us greater convenience and a competitive edge, and we are very pleased and optimistic about this change.
Shengyi Pan
Informazioni su Shulex
Shulex (Voc.AI), un'azienda leader nel settore dell'AI con sede nella Silicon Valley, si dedica a mettere in grado venditori e marchi di identificare le opportunità di mercato e sviluppare prodotti vincenti attraverso soluzioni avanzate di VOC (Voice of Customer). Sfruttando la potenza dell'IA, in particolare i modelli linguistici di grandi dimensioni (LLM come ChatGPT e l'analisi del sentiment, Shulex aiuta le aziende a ottenere approfondimenti sui feedback dei clienti. Con oltre 200.000 clienti registrati, tra cui marchi globali come P&G, Anker e Hisense, le innovative soluzioni VOC di Shulex si sono dimostrate preziose in un'ampia gamma di settori.
La sfida: alti costi operativi con la soluzione Milvus autogestita
Il VOC, o Voice of Customer, è un servizio che cattura, analizza e sfrutta il feedback dei clienti per comprenderne esigenze, preferenze ed esperienze. Shulex offre soluzioni VOC avanzate per aiutare i marchi a raccogliere e analizzare i dati provenienti da varie fonti, come sondaggi, recensioni, social media e assistenza clienti. Questo processo migliora in ultima analisi i prodotti, i servizi e la soddisfazione complessiva dei clienti, allineando maggiormente le offerte ai loro desideri.
Per raggiungere questo obiettivo, Shulex aveva bisogno di una soluzione in grado di comprendere l'intento e il significato semantico dei feedback dei clienti in linguaggio naturale e di gestire in modo efficiente i dati su larga scala. Inizialmente, Shulex ha implementato una soluzione di ricerca vettoriale autogestita utilizzando Milvus, un database vettoriale open-source ottimo per archiviare, indicizzare e recuperare dati testuali non strutturati.
Inizialmente la soluzione autogestita di Milvus ha dato buoni risultati nell'archiviazione di enormi volumi di vettori e nella conduzione di ricerche semantiche. Tuttavia, la rapida crescita di Shulex ha portato a un'esplosione del volume di dati. Il solo servizio di analisi delle recensioni VOC ha generato oltre 10.000 etichette di recensioni specifiche per l'e-commerce, producendo miliardi di vettori. Pur essendo in grado di gestire questi dati su larga scala, la soluzione Milvus autogestita richiedeva notevoli risorse interne per il funzionamento e la manutenzione. Gli elevati costi operativi e i lunghi tempi di ripristino in caso di problemi del sistema sono diventati problematici, causando l'insoddisfazione dei clienti.
Chenhui Li, Tech Lead di Shulex, ha spiegato: "Con l'espansione della nostra attività, le esigenze del nostro database vettoriale sono aumentate. Abbiamo bisogno di una soluzione che riduca al minimo i nostri costi operativi, che offra funzionalità di scalabilità elastica per gestire grandi quantità di dati vettoriali e picchi di traffico imprevisti, che fornisca una maggiore velocità di ricerca vettoriale e che garantisca un elevato livello di servizio (SLA)".
Dopo aver discusso con il team di esperti di Zilliz, l'azienda dietro Milvus, il team di Shulex ha deciso di migrare a Zilliz Cloud, la versione completamente gestita di Milvus, per affrontare queste sfide. Zilliz Cloud ora alimenta i due servizi principali di Shulex: l'analisi delle revisioni VOC e il servizio clienti intelligente.
L'analisi delle revisioni VOC con Zilliz Cloud
Shulex è stato riconosciuto come uno strumento di selezione dei prodotti Amazon di prim'ordine grazie alle sue potenti capacità di analisi delle recensioni VOC. Grazie a Zilliz Cloud, Shulex elabora e analizza in tempo reale una grande quantità di recensioni Amazon e di dati dei social media, fornendo ai clienti informazioni istantanee sul feedback dei prodotti, compresi i dati demografici degli utenti, gli scenari d'uso, le motivazioni d'acquisto, i punti di forza dei prodotti e le aree di miglioramento.
Come funziona il sistema di analisi delle recensioni VOC
Shulex combina la potenza di un modello linguistico di grandi dimensioni (LLM) con Zilliz Cloud per creare un database di recensioni campione. Questo approccio consente di confrontare le recensioni nuove o non etichettate con i dati delle recensioni esistenti per verificarne la somiglianza, rendendo il processo efficiente e scalabile. Il sistema segue i seguenti passaggi chiave:
Creare un database di recensioni campione all'interno di Zilliz Cloud: Creare un database all'interno di Zilliz Cloud per memorizzare le recensioni originali, le loro rappresentazioni vettoriali e le etichette di sentiment (positive o negative) generate da un LLM.
**Scegliere prodotti specifici da un'ampia gamma di categorie per un'analisi dettagliata delle recensioni.
**Convertire decine di migliaia di recensioni dalle categorie selezionate in embeddings vettoriali e memorizzarle in Zilliz Cloud.
Generazione di etichette di sentiment con un LLM: Le recensioni selezionate vengono inserite in un LLM come GPT-4, che assegna un'etichetta di sentiment a ciascuna recensione. Queste etichette vengono poi memorizzate in Zilliz Cloud e mappate con il testo della recensione corrispondente.
**Zilliz Cloud esegue una ricerca di similarità semantica su recensioni nuove o esistenti non etichettate, confrontandole con le recensioni semanticamente più simili presenti nel database di esempio e recuperando le etichette di sentiment corrispondenti.
**Il sistema analizza il sentiment dei clienti in relazione a specifici attributi del prodotto sulla base della classificazione di Zilliz Cloud e genera report dettagliati.
Vantaggi di Zilliz Cloud per l'analisi VOC di Shulex
50% di latenza di ricerca in meno e generazione di report più veloce del 30%: Zilliz Cloud offre prestazioni superiori di ricerca per similarità vettoriale con un motore di ricerca più veloce di oltre cinque volte rispetto al Milvus open-source. Gestisce ricerche ad alta frequenza a 1.000 query al secondo (QPS), riducendo la latenza di ricerca del 50% e migliorando la velocità di generazione dei report del 30%.
50% di riduzione dei costi di analisi dei dati: Zilliz Cloud elimina la necessità di far passare tutte le recensioni di prodotti attraverso un LLM per ottenere le etichette di sentiment. Al contrario, confronta la somiglianza semantica tra le recensioni nuove o prive di etichetta e quelle archiviate nel database delle recensioni campione, riducendo in modo significativo la dipendenza dagli LLM e tagliando i costi di analisi dei dati di almeno il 50%.
Durante i picchi imprevisti di traffico dei clienti, in particolare durante i periodi promozionali, il sistema precedente richiedeva una scalatura manuale, con tempi di attesa fino a un'ora. Le funzionalità di elastic scaling di Zilliz Cloud consentono ai cluster di scalare in pochi minuti, eliminando i ritardi e migliorando la soddisfazione dei clienti.
Creazione di un chatbot VOC basato su RAG con Zilliz Cloud
Shulex offre anche un chatbot VOC che trasforma rapidamente i dati aziendali ed esterni in FAQ e crea un bot professionale per il servizio clienti in soli due minuti. Questo approccio aumenta l'efficienza di risposta e riduce i costi operativi.
Realizzato con la tecnica Retrieval Augmented Generation (RAG), il chatbot VOC combina la potenza di grandi modelli linguistici con database vettoriali. Estrae i link web pubblici, incorpora le conoscenze dei file aziendali, delle e-mail e dei ticket di assistenza in embedding vettoriali e li archivia in Zilliz Cloud. Questo metodo crea una base di conoscenza specifica per l'azienda, arricchendo l'LLM con una memoria esterna.
Zilliz Cloud consente al chatbot RAG-base di elaborare e recuperare rapidamente grandi volumi di dati vettoriali, facilitando il recupero della conoscenza in tempo reale. Il chatbot supporta in modo affidabile il servizio clienti intelligente di Shulex, gestendo 90 domande al secondo con un tasso di richiamo stabile di oltre il 98%. Ora il chatbot VOC gestisce oltre l'80% di tutte le attività di assistenza clienti.
Shengyi Pan, CTO di Shulex, ha commentato: "Da quando siamo passati dal database vettoriale open-source Milvus al cloud Zilliz completamente gestito, abbiamo registrato miglioramenti significativi nelle prestazioni aziendali. Abbiamo ottenuto una riduzione dei costi operativi, una maggiore velocità di ricerca, un'architettura di sistema più flessibile e un'esperienza utente più stabile. Zilliz Cloud fornisce anche un supporto esperto che risolve i problemi in modo rapido ed efficace. Nel complesso, Zilliz Cloud ci ha dato una maggiore convenienza e un vantaggio competitivo, e siamo molto soddisfatti e ottimisti di questo cambiamento"_.
Conclusione
L'integrazione di Zilliz Cloud nelle attività di Shulex si è rivelata una svolta. Consentendo un'elaborazione e un'analisi più rapida ed efficiente di una grande quantità di dati, Zilliz Cloud ha migliorato in modo significativo i servizi principali di Shulex: l'analisi delle revisioni dei COV e il servizio clienti intelligente.
Le prestazioni di Zilliz Cloud nelle ricerche semantiche ad alta velocità, la riduzione del 50% dei costi di analisi dei dati e la rapidità di risposta ai picchi di traffico hanno permesso a Shulex di mantenere il proprio vantaggio competitivo sul mercato. Di conseguenza, Shulex è in grado di fornire approfondimenti ai propri clienti con maggiore velocità ed efficienza, tenendo sotto controllo i costi operativi. Il passaggio a Zilliz Cloud ha semplificato i processi di Shulex e ha fornito una base più solida e scalabile per la crescita futura.
As our business has expanded, the demands on our vector database have increased. We need a solution that minimizes operational costs, offers elastic scaling capabilities to manage vast amounts of vector data and unexpected traffic surges, provides faster vector search speeds, and ensures a high service level agreement (SLA).
Chenhui Li