Aumentar o desempenho e a escalabilidade da Shulex nos serviços VOC com o Zilliz Cloud
50%
menos latência de pesquisa e custos de análise de dados
30%
geração de relatórios mais rápida
Nível de minuto
resposta a picos de tráfego inesperados
Since transitioning from the open-source Milvus vector database to the fully managed Zilliz Cloud, we’ve experienced significant improvements in business performance. We’ve achieved lower operational costs, increased search speed, a more flexible system architecture, and a more stable user experience. Zilliz Cloud also provides expert support to resolve issues quickly and effectively. Overall, Zilliz Cloud has given us greater convenience and a competitive edge, and we are very pleased and optimistic about this change.
Shengyi Pan
Sobre a Shulex
A Shulex (Voc.AI), uma empresa líder em IA com sede em Silicon Valley, dedica-se a capacitar vendedores e marcas para identificar oportunidades de mercado e desenvolver produtos vencedores através de soluções avançadas de VOC (Voice of Customer). Ao aproveitar o poder da IA, particularmente os grandes modelos linguísticos (LLMs) como o ChatGPT e a análise de sentimentos, a Shulex ajuda as empresas a obterem conhecimentos profundos sobre o feedback dos clientes. Com mais de 200.000 clientes registados, incluindo marcas globais como P&G, Anker e Hisense, as soluções inovadoras de VOC da Shulex provaram ser inestimáveis numa vasta gama de indústrias.
O desafio: altos custos operacionais com a solução Milvus autogerenciada
VOC, ou Voz do Cliente, é um serviço que captura, analisa e aproveita o feedback do cliente para entender suas necessidades, preferências e experiências. A Shulex oferece soluções avançadas de VOC para ajudar as marcas a recolher e analisar dados de várias fontes, tais como inquéritos, avaliações, redes sociais e apoio ao cliente. Este processo acaba por melhorar os produtos, serviços e a satisfação geral do cliente, alinhando as ofertas mais de perto com os desejos do cliente.
A Shulex necessitava de uma solução capaz de compreender a intenção e o significado semântico do feedback do cliente em linguagem natural, ao mesmo tempo que geria eficazmente os dados em grande escala para atingir este objetivo. Inicialmente, a Shulex implementou uma solução de pesquisa vetorial autogerida utilizando Milvus, uma base de dados vetorial de código aberto excelente para armazenar, indexar e recuperar dados de texto não estruturados.
A solução Milvus autogerida teve inicialmente um bom desempenho no armazenamento de grandes volumes de vectores e na realização de pesquisas semânticas. No entanto, o rápido crescimento da Shulex levou a uma explosão do volume de dados. Só o serviço de análise de avaliações VOC gerou mais de 10 000 etiquetas de avaliações específicas do comércio eletrónico, produzindo milhares de milhões de vectores. Embora a solução autogerida da Milvus pudesse lidar com esses dados em grande escala, ela exigia recursos internos significativos para operação e manutenção. Os elevados custos operacionais e os longos períodos de recuperação durante os problemas do sistema tornaram-se problemáticos, levando à insatisfação dos clientes.
Chenhui Li, responsável técnico da Shulex, explicou: "À medida que o nosso negócio se expandiu, as exigências da nossa base de dados de vectores aumentaram. Precisamos de uma solução que minimize os nossos custos operacionais, ofereça capacidades de escalonamento elástico para gerir grandes quantidades de dados vectoriais e picos de tráfego inesperados, forneça velocidades de pesquisa vetorial mais rápidas e garanta um acordo de nível de serviço (SLA) elevado."_
Após discussões com a equipa de especialistas da Zilliz, a empresa por detrás do Milvus, a equipa da Shulex decidiu migrar para o Zilliz Cloud, a versão totalmente gerida do Milvus, para resolver estes desafios. O Zilliz Cloud agora alimenta os dois principais serviços da Shulex: Análise de revisão de VOC e serviço inteligente ao cliente.
Potencializando a análise de revisão de VOC com o Zilliz Cloud
A Shulex foi reconhecida como uma das melhores ferramentas de seleção de produtos da Amazon, graças às suas poderosas capacidades de análise de avaliações VOC. Com o Zilliz Cloud, a Shulex processa e analisa grandes quantidades de avaliações da Amazon e dados de redes sociais em tempo real, fornecendo aos clientes informações instantâneas sobre o feedback do produto, incluindo dados demográficos do utilizador, cenários de utilização, motivações de compra, pontos fortes do produto e áreas de melhoria.
Como funciona o sistema de análise de revisão VOC
A Shulex combina o poder de um grande modelo de linguagem (LLM) com o Zilliz Cloud para criar um banco de dados de revisão de amostra. Esta abordagem permite que quaisquer revisões novas ou não rotuladas sejam comparadas com os dados de revisão existentes para similaridade, tornando o processo eficiente e escalável. O sistema segue as seguintes etapas principais:
Criar uma base de dados de amostras de críticas no Zilliz Cloud: Criar uma base de dados no Zilliz Cloud para armazenar críticas originais, as suas representações vectoriais e etiquetas de sentimento (positivas ou negativas) geradas por um LLM.
Seleção de categorias de produtos para análise: Escolher produtos específicos de uma vasta gama de categorias para uma análise detalhada das críticas.
Codificar as avaliações em Vetor Embeddings: Converter dezenas de milhares de avaliações das categorias selecionadas em vetor embeddings e armazená-las no Zilliz Cloud.
Geração de rótulos de sentimento com um LLM: Alimentar os comentários selecionados com um LLM como o GPT-4, que atribui um rótulo de sentimento a cada comentário. Estas etiquetas são depois armazenadas no Zilliz Cloud e mapeadas com o texto correspondente da crítica.
Pesquisa de semelhança semântica com o Zilliz Cloud: O Zilliz Cloud efectua uma pesquisa de semelhança semântica em críticas novas ou existentes não rotuladas, fazendo-as corresponder às críticas semanticamente mais semelhantes na base de dados de amostras e recuperando as etiquetas de sentimento correspondentes.
Geração de relatórios estatísticos: O sistema analisa o sentimento do cliente em relação a atributos específicos do produto com base na classificação do Zilliz Cloud e gera relatórios detalhados.
Benefícios do Zilliz Cloud para a análise de VOC da Shulex
50% menos latência de pesquisa e geração de relatórios 30% mais rápida: O Zilliz Cloud oferece desempenho superior de pesquisa de similaridade de vetor com um mecanismo de pesquisa cinco vezes mais rápido do que o Milvus de código aberto. Ele lida com pesquisas de alta frequência a 1.000 consultas por segundo (QPS), reduzindo a latência da pesquisa em 50% e melhorando a velocidade de geração de relatórios em 30%.
Redução de 50% nos custos de análise de dados:** O Zilliz Cloud elimina a necessidade de passar todas as análises de produtos por um LLM para obter rótulos de sentimento. Em vez disso, compara a semelhança semântica entre as avaliações novas ou não rotuladas e as armazenadas na base de dados de avaliações de amostra, reduzindo significativamente a dependência de LLMs e cortando os custos de análise de dados em pelo menos 50%.
Resposta ao nível do minuto a picos de tráfego inesperados:** Durante picos inesperados no tráfego de clientes, especialmente durante períodos promocionais, o sistema anterior exigia escalonamento manual, levando a tempos de espera de até uma hora. As capacidades de escalonamento elástico do Zilliz Cloud permitem que os clusters aumentem ou diminuam em minutos, eliminando atrasos e aumentando a satisfação do cliente.
Criar um chatbot VOC baseado em RAG com o Zilliz Cloud
A Shulex também oferece um Chatbot VOC que transforma rapidamente os dados externos e da empresa em FAQs e cria um bot de atendimento ao cliente profissional em apenas dois minutos. Esta abordagem aumenta a eficiência da resposta e reduz os custos operacionais.
Criado com a técnica [Retrieval Augmented Generation] (https://zilliz.com/learn/Retrieval-Augmented-Generation) (RAG), o chatbot VOC combina o poder de grandes modelos linguísticos com bases de dados vectoriais. Extrai links públicos da Web, incorpora o conhecimento dos ficheiros da empresa, e-mails e pedidos de apoio em vectores de incorporação e armazena-os no Zilliz Cloud. Este método cria uma base de conhecimentos específica da empresa, reforçando o LLM com uma memória externa.
O Zilliz Cloud permite que o chatbot com base em RAG processe e recupere rapidamente grandes volumes de dados vectoriais, facilitando a recuperação de conhecimentos em tempo real. O chatbot apoia de forma fiável o serviço de apoio ao cliente inteligente da Shulex, tratando 90 consultas por segundo com uma taxa de recuperação estável superior a 98%. Atualmente, o chatbot VOC gere mais de 80% de todas as tarefas de serviço ao cliente.
Shengyi Pan, CTO da Shulex, comentou: "Desde a transição da base de dados de vectores Milvus de código aberto para o Zilliz Cloud totalmente gerido, registámos melhorias significativas no desempenho empresarial. Conseguimos custos operacionais mais baixos, maior velocidade de pesquisa, uma arquitetura de sistema mais flexível e uma experiência de utilizador mais estável. O Zilliz Cloud também fornece suporte especializado que resolve os problemas de forma rápida e eficaz. No geral, o Zilliz Cloud proporcionou-nos uma maior comodidade e uma vantagem competitiva, e estamos muito satisfeitos e optimistas com esta mudança."_
Conclusão
A integração do Zilliz Cloud nas operações da Shulex provou ser um divisor de águas. Ao permitir um processamento e análise mais rápidos e eficientes de dados vastos, o Zilliz Cloud melhorou significativamente os principais serviços da Shulex - análise de revisão de COV e atendimento inteligente ao cliente.
O desempenho do Zilliz Cloud em pesquisas semânticas de alta velocidade, a redução dos custos de análise de dados em 50% e a resposta rápida a picos de tráfego permitiram à Shulex manter a sua vantagem competitiva no mercado. Como resultado, a Shulex pode fornecer insights mais profundos aos seus clientes com maior velocidade e eficiência, mantendo os custos operacionais sob controle. A transição para o Zilliz Cloud simplificou os processos da Shulex e forneceu uma base mais robusta e escalável para o crescimento futuro.
As our business has expanded, the demands on our vector database have increased. We need a solution that minimizes operational costs, offers elastic scaling capabilities to manage vast amounts of vector data and unexpected traffic surges, provides faster vector search speeds, and ensures a high service level agreement (SLA).
Chenhui Li