Como a VerbaFlo revoluciona as interações com clientes no setor imobiliário com agentes de IA conversacional e o Zilliz Cloud
Até 50%
Redução de custos vs. infraestrutura MongoDB
Abaixo de 10 milissegundos
Avanço de Desempenho
60+ QPS
cargas de produção com margem para crescimento
Dados multi-tenant superiores
isolamento e particionamento
It has saved us cost by at least 25 to 30% on what we were earlier incurring on the vector database, with potential savings reaching up to 40-50% during peak traffic periods.
Rachit Jindal
Sobre a VerbaFlo
VerbaFlo está entre as plataformas de IA conversacional mais adaptáveis do mundo, revolucionando a forma como profissionais do setor imobiliário gerenciam operações e interagem com clientes. Sua plataforma impulsionada por IA unifica comunicações por voz, chat, texto e e-mail em um único mecanismo inteligente que oferece conversas quase humanas 24/7. Com recursos avançados como correspondência de clientes impulsionada por IA, mecanismos de precificação dinâmica e gestão imobiliária automatizada, a VerbaFlo impulsiona consistência, visibilidade e desempenho mensurável em cada interação com o cliente. Com planos de expansão para a indústria automotiva, a VerbaFlo está posicionada como líder do setor em soluções de comunicação impulsionadas por IA.
O Desafio: Escalar Além das Limitações de Infraestrutura
À medida que a plataforma de IA da VerbaFlo ganhava tração entre clientes do setor imobiliário, sua infraestrutura inicial no MongoDB Atlas começou a apresentar limitações críticas que ameaçavam tanto a experiência do cliente quanto o crescimento do negócio. A empresa operava com cargas de consultas em produção superiores a 50-60 QPS, levando seu sistema além do que o MongoDB conseguia suportar de forma confiável.
As latências de consulta eram lentas demais para IA conversacional em tempo real, na qual os usuários esperam respostas instantâneas, especialmente durante chamadas de voz, em que atrasos se tornam imediatamente perceptíveis. A equipe havia experimentado vários bancos de dados vetoriais, incluindo Qdrant e Pinecone, mas nenhum conseguia escalar para atender aos seus exigentes requisitos de desempenho.
"Estávamos bastante travados em um ponto em que nosso ambiente de produção tinha um QPS acima de 50 ou 60, e a maioria dos bancos de dados existentes não conseguia escalar até esse nível. Mesmo o MongoDB Atlas M30 ou M40 não conseguia escalar até esse ponto", explica Rachit Jindal, Engenheiro Sênior de IA na VerbaFlo.
Os desafios iam além do desempenho. A VerbaFlo enfrentava quatro preocupações principais: ineficiência de custos, com os clusters M40 do MongoDB sendo caros demais para seus requisitos, suporte inadequado a alta simultaneidade, tempos de consulta ruins e capacidades limitadas de particionamento. A equipe precisava de isolamento de dados sofisticado para sua arquitetura multi-tenant; no entanto, o MongoDB não conseguia fornecer isolamento adequado de namespace para diferentes coleções e ambientes.
Essas limitações de infraestrutura estavam impactando diretamente a capacidade da VerbaFlo de entregar automação de gestão imobiliária contínua e em tempo real. Com projeções agressivas de crescimento e planos para escalar sua contagem de entidades em 10-20x dentro de alguns trimestres, a empresa precisava de uma solução que pudesse crescer com suas ambições.
A Jornada para o Zilliz Cloud
Reconhecendo que sua arquitetura de banco de dados havia se tornado uma restrição crítica ao negócio, a equipe de engenharia da VerbaFlo conduziu uma avaliação abrangente de alternativas de bancos de dados vetoriais, incluindo Zilliz Cloud (um serviço gerenciado do Milvus de código aberto), Pinecone, Qdrant, PostgreSQL com extensões vetoriais e Milvus auto-hospedado na AWS.
Zilliz Cloud emergiu como o claro vencedor por vários motivos convincentes. Rachit tinha experiência anterior hospedando o Milvus on-premises, o que lhe deu confiança em suas capacidades de escalabilidade horizontal e vertical, bem como em sua arquitetura interna. "Com base na experiência anterior que tenho com Milvus, sua arquitetura interna em torno de escalabilidade, escalabilidade horizontal e vertical, ele é definitivamente o caminho a seguir para nossa equipe considerá-lo como um dos bancos de dados potenciais", observa ele.
A avaliação revelou que o Zilliz Cloud oferecia recursos sofisticados de particionamento e isolamento que atendiam perfeitamente aos requisitos multi-tenant da VerbaFlo. Ao contrário do MongoDB, no qual eles tinham uma "capacidade muito limitada para criar um índice em uma coleção específica" e não conseguiam "definir um namespace adequado em um banco de dados adequado ao criar uma coleção", o Zilliz Cloud fornecia isolamento adequado de banco de dados e namespace para uma separação limpa entre ambientes de produção, sistemas de staging e o playground de IA voltado para clientes.
Outro fator decisivo foram os algoritmos integrados de re-ranking do Zilliz Cloud. Em vez de desenvolver algoritmos personalizados, a VerbaFlo pôde aproveitar sistemas de re-ranking ponderado e RRF (Reciprocal Rank Fusion) prontos para uso. "Com o Zilliz Cloud, havia certos algoritmos internos bastante adequados ao caso de uso de que precisamos, como os sistemas de re-ranking ponderado e re-ranking RRF. Isso nos ajudou a usar diretamente o SDK deles, bem como computá-los em tempo real, para que fosse possível reduzir nosso tempo de consulta", explica Rachit.
O suporte nativo do Zilliz Cloud à busca híbrida—combinando consultas semânticas e baseadas em palavras-chave—alinha-se perfeitamente ao pipeline de expansão de consultas da VerbaFlo. Mais importante ainda, o Zilliz Cloud conseguia entregar a latência abaixo de 10 milissegundos que suas aplicações em tempo real exigiam, ao mesmo tempo em que oferecia serviços gerenciados melhores em comparação com outras alternativas.
Como o Zilliz Cloud potencializa agentes de IA conversacional em tempo real em escala
A arquitetura anterior da VerbaFlo baseada em MongoDB tinha dificuldades para lidar com cargas de produção acima de 50-60 QPS, resultando em gargalos que impediam respostas em tempo real. Com o Zilliz Cloud como base, eles construíram uma plataforma sofisticada de IA conversacional que atualmente lida com mais de 40.000-50.000 entidades com desempenho contínuo.
A nova arquitetura de agentes com o Zilliz Cloud
No núcleo do sistema da VerbaFlo há um mecanismo inteligente de roteamento que classifica as intenções dos usuários e direciona consultas para nós de processamento especializados. O Zilliz Cloud potencializa o nó crítico de RAG (Retrieval-Augmented Generation), que recupera contexto relevante de dados de propriedades, históricos de clientes e informações de mercado para gerar respostas precisas e personalizadas.
Uma das capacidades mais valiosas do Zilliz Cloud para a VerbaFlo é seu sistema avançado de particionamento, que permite dois tipos críticos de isolamento de dados:
Separação de ambientes: Isolamento limpo entre seu ambiente de AI playground/labs e coleções de produção, permitindo que clientes testem e experimentem sem afetar operações em operação
Otimização de desempenho: Dados segmentados em partições menores com base em cenários específicos, permitindo consultas direcionadas a seções limitadas em vez de coleções inteiras
Essa abordagem de particionamento aborda diretamente as limitações de namespace que eles enfrentavam com o MongoDB, no qual tinham uma "capacidade muito limitada para criar um índice em uma coleção específica" e não conseguiam "definir um namespace adequado em um banco de dados adequado ao criar uma coleção."
Potencializando o pipeline de busca híbrida com o Zilliz Cloud
O sistema da VerbaFlo não depende de buscas semânticas simples. Em vez disso, seu pipeline de expansão de consultas cria tanto consultas semânticas quanto consultas por palavras-chave para cada solicitação de usuário. Os recursos nativos de busca híbrida do Zilliz Cloud e os algoritmos integrados de re-ranking (re-ranking ponderado e RRF) eliminam a necessidade de desenvolvimento personalizado, ao mesmo tempo em que entregam resultados superiores.
"Com o Zilliz Cloud, havia certos algoritmos internos bastante adequados ao caso de uso de que precisamos, como os sistemas de re-ranking ponderado e re-ranking RRF. Isso nos ajudou a usar diretamente o SDK deles, bem como computá-los em tempo real, para que fosse possível reduzir nosso tempo de consulta", observa Rachit.
Migração contínua: das restrições do MongoDB ao desempenho do Zilliz Cloud
A migração do MongoDB Atlas para o Zilliz Cloud demonstrou como uma transição de banco de dados bem planejada pode resolver gargalos críticos de desempenho sem interromper as operações de negócios.
A equipe de engenharia da VerbaFlo abordou a migração de forma sistemática, aproveitando a documentação abrangente e os recursos de SDK do Zilliz Cloud. A migração envolveu a transferência dos embeddings vetoriais e metadados existentes, ao mesmo tempo em que implementava novas estratégias de particionamento que o MongoDB não conseguia suportar.
"A documentação do Zilliz Cloud, assim como do Milvus, era bastante detalhada e abrangente. Com esse tipo de documentação e todos os documentos dos SDKs, foi praticamente fácil migrar", relembra Rachit.
Resultados e Benefícios
O impacto da migração para o Zilliz Cloud foi imediato e substancial em várias dimensões.
Redução de Custos de até 50%: A VerbaFlo obteve economias imediatas de 25-30% em comparação com sua infraestrutura MongoDB Atlas. Durante períodos de pico de tráfego, as economias potenciais poderiam chegar a 40-50% graças aos recursos eficientes de autoescalonamento do Zilliz Cloud e às configurações ideais de cluster para ambientes prontos para produção.
Avanço de Desempenho abaixo de 10 milissegundos: As latências de consulta caíram de 15-20 milissegundos para consistentemente abaixo de 10 milissegundos — uma melhoria dramática que os clientes perceberam imediatamente. Esse desempenho abaixo de 10 milissegundos permite experiências de IA verdadeiramente conversacionais em chamadas de voz, widgets de chat e plataformas de mensagens.
Escalabilidade Aprimorada: Com a capacidade de lidar com sua carga atual de 50-60 QPS com uma margem significativa para crescimento, a VerbaFlo agora tem a base de infraestrutura para apoiar seus planos agressivos de expansão sem degradação de desempenho.
Isolamento e Particionamento de Dados Superiores: Os recursos avançados de particionamento do Zilliz Cloud resolveram os requisitos complexos de multilocação da VerbaFlo que o MongoDB não conseguia atender, melhorando significativamente tanto a segurança quanto o desempenho de sua arquitetura multilocatária.
Conformidade e Segurança: A conformidade com o GDPR e as certificações de segurança do Zilliz Cloud permitem que a VerbaFlo atenda com confiança clientes nas regiões do Reino Unido e da UE, apoiando seus planos de expansão internacional.
Confiabilidade do Sistema Aprimorada: Com mais de 99,5% de disponibilidade, o Zilliz Cloud apoia os compromissos de serviço 24/7 da VerbaFlo, essenciais para aplicações imobiliárias em que as consultas dos clientes não seguem o horário comercial.
Integração Perfeita com o Ecossistema: A compatibilidade nativa do Zilliz Cloud com provedores de infraestrutura em nuvem permite que a VerbaFlo aproveite os serviços da AWS, incluindo ECS, EKS e buckets S3 para hospedagem e implantações, ao mesmo tempo em que apoia sua estratégia multinuvem que abrange o Google Cloud e vários provedores de serviços de IA.
Planos Futuros: Expandindo a Inovação em IA entre Setores
Com seus desafios de infraestrutura resolvidos, a VerbaFlo está buscando planos ambiciosos de expansão em múltiplas dimensões. A empresa projeta crescimento significativo na contagem de entidades, esperando escalar 10-20x nos próximos trimestres à medida que o tráfego aumenta e mais clientes são integrados ao seu recurso de playground de IA.
"A equipe está em uma fase constante de desenvolvimento, otimizando nossos fluxos existentes e implementando novos fluxos internamente no sistema", explica Rachit. "Nós definitivamente desejamos de fato aproveitar o Zilliz Cloud para atender a alguns dos casos de uso que estamos planejando no futuro."
Mais significativamente, a base sólida fornecida pelo Zilliz Cloud permitiu a exploração de verticais de indústria totalmente novas. A VerbaFlo está desenvolvendo ativamente arquiteturas de agentes de IA para os setores automotivo e farmacêutico, aproveitando as mesmas capacidades de IA conversacional que se mostraram bem-sucedidas no setor imobiliário.
As capacidades técnicas que tornam essa expansão possível incluem os padrões internacionais de conformidade do Zilliz Cloud e o desempenho confiável em escala, proporcionando à VerbaFlo a confiança para pensar além de seu mercado atual e construir para o crescimento global em vários setores.
Conclusão
A parceria da VerbaFlo com a Zilliz Cloud demonstra como a escolha da infraestrutura certa pode transformar restrições técnicas em vantagens competitivas. Ao alcançar uma economia de custos de 25-30%, desempenho de consultas abaixo de 10 milissegundos e escalabilidade robusta com a Zilliz Cloud, a VerbaFlo se posicionou para um crescimento agressivo em vários setores.
À medida que a VerbaFlo continua a inovar em f e a se expandir para novos mercados, a Zilliz Cloud fornece a base escalável de que eles precisam para transformar a forma como as empresas interagem com seus clientes.
"A latência abaixo de 10 milissegundos para consultas é um marco bastante significativo no setor de bancos de dados vetoriais", conclui Rachit. "Combinada com a economia de custos e a confiabilidade, a Zilliz Cloud tornou-se um facilitador estratégico para nossa visão mais ampla de transformar a IA conversacional em todos os setores."
- Sobre a VerbaFlo
- O Desafio: Escalar Além das Limitações de Infraestrutura
- A Jornada para o Zilliz Cloud
- Como o Zilliz Cloud potencializa agentes de IA conversacional em tempo real em escala
- Migração contínua: das restrições do MongoDB ao desempenho do Zilliz Cloud
- Resultados e Benefícios
- Planos Futuros: Expandindo a Inovação em IA entre Setores
- Conclusão
Conteúdo
Caso de uso
Indústria
Imóveis
The sub-10 millisecond latency for queries is quite the benchmark in the industry for vector databases. Combined with the cost savings and reliability, Zilliz Cloud has become a strategic enabler for our broader vision of transforming conversational AI across industries.
Rachit Jindal