Accroître les performances et l'évolutivité des services VOC de Shulex grâce à Zilliz Cloud
50%
réduction de la latence de recherche et des coûts d'analyse des données
30%
une génération de rapports plus rapide
Niveau minute
réponse aux augmentations inattendues du trafic
Since transitioning from the open-source Milvus vector database to the fully managed Zilliz Cloud, we’ve experienced significant improvements in business performance. We’ve achieved lower operational costs, increased search speed, a more flexible system architecture, and a more stable user experience. Zilliz Cloud also provides expert support to resolve issues quickly and effectively. Overall, Zilliz Cloud has given us greater convenience and a competitive edge, and we are very pleased and optimistic about this change.
Shengyi Pan
A propos de Shulex
Shulex (Voc.AI), société d'IA de premier plan basée dans la Silicon Valley, a pour mission d'aider les vendeurs et les marques à identifier les opportunités de marché et à développer des produits gagnants grâce à des solutions avancées de VOC (Voice of Customer). En exploitant la puissance de l'IA, en particulier les grands modèles de langage (LLM) comme ChatGPT et l'analyse des sentiments, Shulex aide les entreprises à obtenir des informations approfondies sur les commentaires de leurs clients. Avec plus de 200 000 clients enregistrés, dont des marques mondiales telles que P&G, Anker et Hisense, les solutions innovantes de VOC de Shulex se sont avérées inestimables dans un large éventail d'industries.
Le défi : des coûts opérationnels élevés avec la solution Milvus autogérée
La VOC (Voice of Customer) est un service qui capture, analyse et exploite les commentaires des clients afin de comprendre leurs besoins, leurs préférences et leurs expériences. Shulex propose des solutions avancées de VOC pour aider les marques à recueillir et à analyser les données provenant de diverses sources, telles que les enquêtes, les commentaires, les médias sociaux et l'assistance à la clientèle. Ce processus permet en fin de compte d'améliorer les produits, les services et la satisfaction globale des clients en alignant les offres plus étroitement sur les désirs des clients.
Shulex avait besoin d'une solution capable de comprendre l'intention et la signification sémantique des commentaires des clients en langage naturel tout en gérant efficacement des données à grande échelle pour atteindre cet objectif. Au départ, Shulex a mis en œuvre une solution autogérée de recherche vectorielle en utilisant Milvus, une base de données vectorielle à code source libre, idéale pour le stockage, l'indexation et l'extraction de données textuelles non structurées.
La solution autogérée Milvus a d'abord bien fonctionné pour le stockage de volumes massifs de vecteurs et la réalisation de [recherches sémantiques] (https://zilliz.com/glossary/semantic-search). Cependant, la croissance rapide de Shulex a entraîné une explosion du volume de données. Le service d'analyse des avis VOC a généré à lui seul plus de 10 000 étiquettes d'avis spécifiques au commerce électronique, produisant des milliards de [vecteurs] (https://zilliz.com/glossary/vector-embeddings). Si la solution autogérée de Milvus pouvait traiter ces données à grande échelle, elle nécessitait d'importantes ressources internes pour l'exploitation et la maintenance. Les coûts opérationnels élevés et les longs délais de rétablissement en cas de problèmes de système sont devenus problématiques, ce qui a entraîné l'insatisfaction des clients.
Cohenhui Li, responsable technique chez Shulex, explique : "L'expansion de notre entreprise a entraîné une augmentation des besoins de notre base de données vectorielles. Nous avons besoin d'une solution qui minimise nos coûts d'exploitation, qui offre des capacités d'évolution élastiques pour gérer de grandes quantités de données vectorielles et des pics de trafic inattendus, qui offre des vitesses de recherche vectorielle plus rapides et qui garantisse un accord de niveau de service (SLA) élevé".
Après avoir discuté avec l'équipe d'experts de Zilliz, la société à l'origine de Milvus, l'équipe de Shulex a décidé de migrer vers Zilliz Cloud, la version entièrement gérée de Milvus, afin de relever ces défis. Zilliz Cloud alimente désormais les deux principaux services de Shulex : l'analyse de l'examen du COV et le service à la clientèle intelligent.
L'analyse des revues VOC avec Zilliz Cloud
Shulex a été reconnu comme un outil de sélection de produits Amazon de premier plan grâce à ses puissantes capacités d'analyse des avis de consommateurs. En s'appuyant sur Zilliz Cloud, Shulex traite et analyse en temps réel de grandes quantités d'avis sur Amazon et de données issues des médias sociaux, offrant ainsi à ses clients une vision instantanée des commentaires sur les produits, y compris les données démographiques des utilisateurs, les scénarios d'utilisation, les motivations d'achat, les points forts des produits et les domaines à améliorer.
Comment fonctionne le système d'analyse des commentaires VOC
Shulex combine la puissance d'un modèle de langage étendu (LLM) avec Zilliz Cloud pour créer une base de données de commentaires. Cette approche permet de comparer toute révision nouvelle ou non étiquetée avec les données de révision existantes afin d'en vérifier la similitude, ce qui rend le processus efficace et évolutif. Le système suit les étapes clés suivantes :
Création d'une base de données d'exemples d'évaluations dans Zilliz Cloud: Créer une base de données dans Zilliz Cloud pour stocker les évaluations originales, leurs représentations vectorielles et les étiquettes de sentiment (positives ou négatives) générées par un LLM.
Sélection des catégories de produits pour l'analyse: Choisissez des produits spécifiques dans une large gamme de catégories pour une analyse détaillée des commentaires.
Encodage des avis en vecteurs embarqués: Convertir des dizaines de milliers d'avis issus des catégories sélectionnées en vecteurs embarqués et les stocker dans Zilliz Cloud.
Générer des étiquettes de sentiment avec un LLM: Introduire les critiques sélectionnées dans un LLM comme GPT-4, qui attribue une étiquette de sentiment à chaque critique. Ces étiquettes sont ensuite stockées dans Zilliz Cloud et mises en correspondance avec le texte de l'avis correspondant.
Recherche de similarité sémantique avec Zilliz Cloud: Zilliz Cloud effectue une recherche de similarité sémantique sur les commentaires non étiquetés, nouveaux ou existants, en les faisant correspondre aux commentaires les plus sémantiquement similaires dans la base de données d'échantillons et en récupérant les étiquettes de sentiment correspondantes.
Génération de rapports statistiques: Le système analyse les sentiments des clients liés à des attributs de produits spécifiques sur la base de la classification de Zilliz Cloud et génère des rapports détaillés.
Avantages de Zilliz Cloud pour l'analyse de l'évaluation du COV de Shulex
Zilliz Cloud offre des performances supérieures en matière de recherche de similarités vectorielles grâce à un moteur de recherche cinq fois plus rapide que le moteur open-source Milvus. Il traite les recherches à haute fréquence à raison de 1 000 requêtes par seconde (QPS), réduisant la latence de la recherche de 50 % et améliorant la vitesse de génération des rapports de 30 %.
Réduction de 50 % des coûts d'analyse des données:** Zilliz Cloud élimine la nécessité de faire passer tous les avis sur les produits par un LLM pour obtenir des étiquettes de sentiment. Au lieu de cela, il compare la similarité sémantique entre les avis nouveaux ou non étiquetés et ceux stockés dans la base de données d'avis d'échantillons, réduisant de manière significative la dépendance aux LLM et les coûts d'analyse des données d'au moins 50%.
Réponse instantanée aux pics de trafic inattendus:** Lors des pics de trafic inattendus, en particulier pendant les périodes de promotion, le système précédent nécessitait une mise à l'échelle manuelle, ce qui entraînait des temps d'attente pouvant aller jusqu'à une heure. Les capacités de mise à l'échelle élastique de Zilliz Cloud permettent aux clusters d'être mis à l'échelle en quelques minutes, ce qui élimine les retards et améliore la satisfaction des clients.
Construire un Chatbot VOC basé sur RAG avec Zilliz Cloud
Shulex propose également un Chatbot VOC qui transforme rapidement les données de l'entreprise et les données externes en FAQ et crée un bot de service client professionnel en seulement deux minutes. Cette approche améliore l'efficacité des réponses tout en réduisant les coûts opérationnels.
Construit avec la technique [Retrieval Augmented Generation] (https://zilliz.com/learn/Retrieval-Augmented-Generation) (RAG), le chatbot VOC combine la puissance de grands modèles de langage avec des bases de données vectorielles. Il extrait des liens web publics, incorpore des connaissances provenant de fichiers d'entreprise, de courriels et de tickets d'assistance dans des encastrements vectoriels, et les stocke dans Zilliz Cloud. Cette méthode crée une base de connaissances spécifique à l'entreprise, en enrichissant le LLM d'une mémoire externe.
Zilliz Cloud permet au chatbot RAG-base de traiter et d'extraire rapidement de grands volumes de données vectorielles, facilitant ainsi la recherche de connaissances en temps réel. Le chatbot soutient de manière fiable le service client intelligent de Shulex, en traitant 90 requêtes par seconde avec un taux de rappel stable de plus de 98 %. Aujourd'hui, le chatbot VOC gère plus de 80 % de toutes les tâches du service clientèle.
Shengyi Pan, directeur technique de Shulex, a déclaré : "Depuis que nous sommes passés de la base de données vectorielle open-source Milvus à la solution entièrement gérée Zilliz Cloud, nous avons constaté des améliorations significatives en termes de performances commerciales. Nous avons réduit les coûts opérationnels, augmenté la vitesse de recherche, rendu l'architecture du système plus flexible et amélioré la stabilité de l'expérience utilisateur. Zilliz Cloud fournit également un support expert qui résout les problèmes rapidement et efficacement. Dans l'ensemble, Zilliz Cloud nous a apporté une plus grande commodité et un avantage concurrentiel, et nous sommes très satisfaits et optimistes quant à ce changement.
Conclusion
L'intégration de Zilliz Cloud dans les opérations de Shulex a changé la donne. En permettant un traitement et une analyse plus rapides et plus efficaces d'un grand nombre de données, Zilliz Cloud a considérablement amélioré les principaux services de Shulex, à savoir l'analyse de la révision du COV et un service client intelligent.
Les performances de Zilliz Cloud en matière de recherche sémantique à grande vitesse, la réduction de 50 % des coûts d'analyse des données et la rapidité de réponse aux hausses de trafic ont permis à Shulex de conserver son avantage concurrentiel sur le marché. En conséquence, Shulex peut fournir des informations plus approfondies à ses clients avec une rapidité et une efficacité accrues, tout en maîtrisant ses coûts opérationnels. La transition vers Zilliz Cloud a permis de rationaliser les processus de Shulex et de fournir une base plus robuste et plus évolutive pour la croissance future.
As our business has expanded, the demands on our vector database have increased. We need a solution that minimizes operational costs, offers elastic scaling capabilities to manage vast amounts of vector data and unexpected traffic surges, provides faster vector search speeds, and ensures a high service level agreement (SLA).
Chenhui Li