Aumentar el rendimiento y la escalabilidad de los servicios VOC de Shulex con Zilliz Cloud
50%
menos latencia de búsqueda y costes de análisis de datos
30%
generación de informes más rápida
A nivel de minutos
respuesta a aumentos inesperados del tráfico
Since transitioning from the open-source Milvus vector database to the fully managed Zilliz Cloud, we’ve experienced significant improvements in business performance. We’ve achieved lower operational costs, increased search speed, a more flexible system architecture, and a more stable user experience. Zilliz Cloud also provides expert support to resolve issues quickly and effectively. Overall, Zilliz Cloud has given us greater convenience and a competitive edge, and we are very pleased and optimistic about this change.
Shengyi Pan
Acerca de Shulex
Shulex (Voc.AI), una empresa líder en IA con sede en Silicon Valley, se dedica a capacitar a vendedores y marcas para identificar oportunidades de mercado y desarrollar productos ganadores a través de soluciones avanzadas de VOC (Voz del Cliente). Aprovechando el poder de la IA, en particular los grandes modelos lingüísticos (LLMs) como ChatGPT y el análisis de sentimientos, Shulex ayuda a las empresas a obtener una visión profunda de las opiniones de los clientes. Con más de 200.000 clientes registrados, entre los que se incluyen marcas mundiales como P&G, Anker e Hisense, las innovadoras soluciones VOC de Shulex han demostrado su valor en una amplia gama de sectores.
El reto: altos costes operativos con la solución Milvus autogestionada
VOC, o Voz del Cliente, es un servicio que captura, analiza y aprovecha los comentarios de los clientes para comprender sus necesidades, preferencias y experiencias. Shulex ofrece soluciones avanzadas de VOC para ayudar a las marcas a recopilar y analizar datos de diversas fuentes, como encuestas, opiniones, redes sociales y atención al cliente. En última instancia, este proceso mejora los productos, los servicios y la satisfacción general de los clientes al adaptar mejor las ofertas a sus deseos.
Shulex necesitaba una solución capaz de comprender la intención y el significado semántico de los comentarios de los clientes en lenguaje natural y, al mismo tiempo, gestionar eficazmente datos a gran escala para lograr este objetivo. Inicialmente, Shulex implementó una solución autogestionada de búsqueda vectorial utilizando Milvus, una base de datos vectorial de código abierto ideal para almacenar, indexar y recuperar datos de texto no estructurados.
Al principio, la solución autogestionada Milvus funcionaba bien almacenando volúmenes masivos de vectores y realizando búsquedas semánticas. Sin embargo, el rápido crecimiento de Shulex provocó una explosión del volumen de datos. Sólo el servicio de análisis de reseñas VOC generó más de 10.000 etiquetas de reseñas específicas de comercio electrónico, produciendo miles de millones de vectores. Aunque la solución autogestionada Milvus podía gestionar estos datos a gran escala, requería importantes recursos internos para su funcionamiento y mantenimiento. Los elevados costes operativos y los largos tiempos de recuperación en caso de problemas con el sistema se convirtieron en un problema, lo que provocó la insatisfacción de los clientes.
Chenhui Li, responsable técnico de Shulex, explicó: "A medida que nuestro negocio se ha ido expandiendo, las demandas sobre nuestra base de datos vectorial han aumentado. Necesitamos una solución que minimice nuestros costes operativos, ofrezca capacidades de escalado elástico para gestionar grandes cantidades de datos vectoriales y picos de tráfico inesperados, proporcione velocidades de búsqueda de vectores más rápidas y garantice un acuerdo de nivel de servicio (SLA) elevado".
Tras mantener conversaciones con el equipo de expertos de Zilliz, la empresa responsable de Milvus, el equipo de Shulex decidió migrar a Zilliz Cloud, la versión totalmente gestionada de Milvus, para hacer frente a estos retos. Zilliz Cloud impulsa ahora los dos servicios principales de Shulex: El análisis de revisión del COV y el servicio inteligente de atención al cliente.
Impulsar el análisis de revisión de COV con Zilliz Cloud
Shulex ha sido reconocida como una de las mejores herramientas de selección de productos de Amazon gracias a sus potentes capacidades de análisis de reseñas VOC. Aprovechando Zilliz Cloud, Shulex procesa y analiza grandes cantidades de reseñas de Amazon y datos de redes sociales en tiempo real, proporcionando a los clientes información instantánea sobre los comentarios del producto, incluyendo datos demográficos de los usuarios, escenarios de uso, motivaciones de compra, puntos fuertes del producto y áreas de mejora.
Cómo funciona el sistema de análisis de reseñas de VOC
Shulex combina la potencia de un gran modelo lingüístico (LLM) con Zilliz Cloud para crear una base de datos de reseñas de muestra. Este enfoque permite que cualquier reseña nueva o sin etiquetar se compare con los datos de reseñas existentes en busca de similitud, lo que hace que el proceso sea eficiente y escalable. El sistema sigue los siguientes pasos clave:
Crear una base de datos de reseñas de muestra dentro de Zilliz Cloud: Crear una base de datos dentro de Zilliz Cloud para almacenar las reseñas originales, sus representaciones vectoriales y las etiquetas de sentimiento (positivo o negativo) generadas por un LLM.
2. Selección de categorías de productos para el análisis: Elija productos específicos de una amplia gama de categorías para un análisis detallado de las reseñas.
**Convertir decenas de miles de opiniones de las categorías seleccionadas en incrustaciones vectoriales y almacenarlas en Zilliz Cloud.
4. Generación de etiquetas de sentimiento con un LLM: Introducir las reseñas seleccionadas en un LLM como GPT-4, que asigna una etiqueta de sentimiento a cada reseña. Estas etiquetas son almacenadas en Zilliz Cloud y mapeadas con su correspondiente texto.
5. Búsqueda de similitud semántica con Zilliz Cloud: Zilliz Cloud realiza una búsqueda de similitud semántica en reseñas nuevas o existentes sin etiquetar, comparándolas con las reseñas más similares semánticamente en la base de datos de muestra y recuperando las etiquetas de sentimiento correspondientes.
6. Generación de informes estadísticos: El sistema analiza el sentimiento del cliente en relación con atributos específicos del producto basándose en la clasificación de Zilliz Cloud y genera informes detallados.
Beneficios de Zilliz Cloud para el Análisis de Revisión VOC de Shulex.
50% menos de latencia de búsqueda y generación de informes un 30% más rápida: Zilliz Cloud ofrece un rendimiento superior de búsqueda de similitud vectorial con un motor de búsqueda más de cinco veces más rápido que el Milvus de código abierto. Gestiona búsquedas de alta frecuencia a 1.000 consultas por segundo (QPS), reduciendo la latencia de búsqueda en un 50% y mejorando la velocidad de generación de informes en un 30%.
Reducción del 50% de los costes de análisis de datos:** Zilliz Cloud elimina la necesidad de pasar todas las reseñas de productos por un LLM para obtener etiquetas de sentimiento. En su lugar, compara la similitud semántica entre las reseñas nuevas o sin etiquetar y las almacenadas en la base de datos de reseñas de muestra, reduciendo significativamente la dependencia de los LLM y recortando los costes de análisis de datos en al menos un 50%.
Respuesta en minutos a los picos inesperados de tráfico: Durante los picos inesperados de tráfico de clientes, especialmente durante los periodos promocionales, el sistema anterior requería un escalado manual, lo que provocaba tiempos de espera de hasta una hora. Las capacidades de escalado elástico de Zilliz Cloud permiten que los clústeres se escalen hacia dentro o hacia fuera en cuestión de minutos, eliminando retrasos y mejorando la satisfacción del cliente.
Creación de un chatbot VOC basado en RAG con Zilliz Cloud
Shulex también ofrece un Chatbot VOC que transforma rápidamente los datos de la empresa y externos en preguntas frecuentes y crea un bot profesional de atención al cliente en sólo dos minutos. Este enfoque aumenta la eficacia de la respuesta al tiempo que reduce los costes operativos.
Construido con la técnica Retrieval Augmented Generation (RAG), el chatbot VOC combina la potencia de grandes modelos lingüísticos con bases de datos vectoriales. Extrae enlaces web públicos, incrusta conocimientos de archivos de la empresa, correos electrónicos y tickets de soporte en incrustaciones vectoriales y los almacena en Zilliz Cloud. Este método crea una base de conocimientos específica de la empresa, mejorando el LLM con una memoria externa.
Zilliz Cloud permite al chatbot RAG-base procesar y recuperar rápidamente grandes volúmenes de datos vectoriales, facilitando la recuperación de conocimientos en tiempo real. El chatbot apoya de forma fiable el servicio de atención al cliente inteligente de Shulex, gestionando 90 consultas por segundo con una tasa de recuperación estable de más del 98%. Ahora, el chatbot VOC gestiona más del 80% de todas las tareas de atención al cliente.
Shengyi Pan, CTO de Shulex, comentó: "Desde la transición de la base de datos vectorial Milvus de código abierto a Zilliz Cloud totalmente gestionada, hemos experimentado mejoras significativas en el rendimiento empresarial. Hemos conseguido reducir los costes operativos, aumentar la velocidad de búsqueda, una arquitectura de sistema más flexible y una experiencia de usuario más estable. Zilliz Cloud también proporciona un soporte experto que resuelve los problemas de forma rápida y eficaz. En general, Zilliz Cloud nos ha proporcionado una mayor comodidad y una ventaja competitiva, y estamos muy satisfechos y optimistas con este cambio".
Conclusión
La integración de Zilliz Cloud en las operaciones de Shulex ha demostrado ser un cambio de juego. Al permitir un procesamiento y un análisis más rápidos y eficientes de una gran cantidad de datos, Zilliz Cloud ha mejorado significativamente los servicios principales de Shulex: el análisis de revisión de COV y el servicio inteligente al cliente.
El rendimiento de Zilliz Cloud en búsquedas semánticas de alta velocidad, la reducción de los costes de análisis de datos en un 50% y la rápida respuesta a los picos de tráfico han permitido a Shulex mantener su ventaja competitiva en el mercado. Como resultado, Shulex puede ofrecer a sus clientes una visión más profunda con mayor velocidad y eficiencia, manteniendo los costes operativos bajo control. La transición a Zilliz Cloud ha agilizado los procesos de Shulex y ha proporcionado una base más sólida y escalable para el crecimiento futuro.
As our business has expanded, the demands on our vector database have increased. We need a solution that minimizes operational costs, offers elastic scaling capabilities to manage vast amounts of vector data and unexpected traffic surges, provides faster vector search speeds, and ensures a high service level agreement (SLA).
Chenhui Li