Cómo VerbaFlo revoluciona las interacciones con clientes inmobiliarios mediante agentes de IA conversacional y Zilliz Cloud
Hasta un 50%
Reducción de costos vs. infraestructura de MongoDB
Menos de 10 milisegundos
Avance en el rendimiento
Más de 60 QPS
cargas de producción con margen para crecer
Datos multiinquilino superiores
aislamiento y particionamiento
It has saved us cost by at least 25 to 30% on what we were earlier incurring on the vector database, with potential savings reaching up to 40-50% during peak traffic periods.
Rachit Jindal
Acerca de VerbaFlo
VerbaFlo se encuentra entre las plataformas de IA conversacional más adaptables del mundo, revolucionando la forma en que los profesionales inmobiliarios gestionan las operaciones e interactúan con los clientes. Su plataforma impulsada por IA unifica las comunicaciones por voz, chat, texto y correo electrónico en un único motor inteligente que ofrece conversaciones casi humanas 24/7. Con funciones avanzadas como emparejamiento de clientes impulsado por IA, motores de precios dinámicos y gestión automatizada de propiedades, VerbaFlo impulsa la consistencia, la visibilidad y un rendimiento medible en cada interacción con el cliente. Con planes de expandirse a la industria automotriz, VerbaFlo está posicionada como líder de la industria en soluciones de comunicación impulsadas por IA.
El desafío: escalar más allá de las limitaciones de infraestructura
A medida que la plataforma de IA de VerbaFlo ganaba tracción entre los clientes inmobiliarios, su infraestructura inicial de MongoDB Atlas comenzó a mostrar limitaciones críticas que amenazaban tanto la experiencia del cliente como el crecimiento del negocio. La empresa operaba con cargas de consultas en producción que superaban los 50-60 QPS, llevando su sistema más allá de lo que MongoDB podía manejar de manera fiable.
Las latencias de consulta eran demasiado lentas para la IA conversacional en tiempo real, donde los usuarios esperan respuestas instantáneas, especialmente durante las llamadas de voz, donde los retrasos se vuelven inmediatamente perceptibles. El equipo había experimentado con varias bases de datos vectoriales, incluidas Qdrant y Pinecone, pero ninguna podía escalar para satisfacer sus exigentes requisitos de rendimiento.
"Estábamos bastante atascados en un punto en el que nuestro entorno de producción tenía un QPS superior a 50 o 60, y la mayoría de las bases de datos existentes no podían escalar a ese nivel. Incluso MongoDB Atlas M30 o M40 no podía escalar hasta ese punto", explica Rachit Jindal, ingeniero sénior de IA en VerbaFlo.
Los desafíos iban más allá del rendimiento. VerbaFlo enfrentaba cuatro preocupaciones principales: ineficiencia de costos, ya que los clústeres M40 de MongoDB eran demasiado caros para sus requisitos, soporte inadecuado para alta concurrencia, tiempos de consulta deficientes y capacidades de particionamiento limitadas. El equipo requería un aislamiento de datos sofisticado para su arquitectura multiinquilino; sin embargo, MongoDB no podía proporcionar un aislamiento de espacios de nombres adecuado para diferentes colecciones y entornos.
Estas limitaciones de infraestructura estaban impactando directamente la capacidad de VerbaFlo para ofrecer una automatización de gestión de propiedades fluida y en tiempo real. Con proyecciones de crecimiento agresivas y planes para escalar su recuento de entidades entre 10 y 20 veces en unos pocos trimestres, la empresa necesitaba una solución que pudiera crecer con sus ambiciones.
El camino hacia Zilliz Cloud
Reconociendo que su arquitectura de base de datos se había convertido en una restricción crítica para el negocio, el equipo de ingeniería de VerbaFlo llevó a cabo una evaluación exhaustiva de alternativas de bases de datos vectoriales, incluida Zilliz Cloud (un servicio gestionado del código abierto Milvus), Pinecone, Qdrant, PostgreSQL con extensiones vectoriales y Milvus autogestionado en AWS.
Zilliz Cloud emergió como el claro ganador por varias razones convincentes. Rachit tenía experiencia previa alojando Milvus on-premises, lo que le dio confianza en sus capacidades de escalado horizontal y vertical, así como en su arquitectura interna. "Basándome en la experiencia previa que tengo con Milvus, su arquitectura interna en torno a la escalabilidad, el escalado horizontal y vertical, definitivamente es la opción indicada para que nuestro equipo lo considere como una de las bases de datos potenciales", señala.
La evaluación reveló que Zilliz Cloud ofrecía capacidades sofisticadas de particionamiento y aislamiento que se ajustaban perfectamente a los requisitos multi-tenant de VerbaFlo. A diferencia de MongoDB, donde tenían una "capacidad muy limitada para crear un índice en una colección particular" y no podían "definir un namespace adecuado en una base de datos adecuada al crear una colección", Zilliz Cloud proporcionaba un aislamiento adecuado de bases de datos y namespaces para una separación clara entre entornos de producción, sistemas de staging y su playground de IA orientado al cliente.
Otro factor decisivo fueron los algoritmos de re-ranking integrados de Zilliz Cloud. En lugar de desarrollar algoritmos personalizados, VerbaFlo podía aprovechar sistemas de re-ranking ponderado y RRF (Reciprocal Rank Fusion) listos para usar. "Con Zilliz Cloud, había ciertos algoritmos internos que se adaptan bastante bien al caso de uso que requerimos, como los sistemas de re-ranking ponderado y re-ranking RRF. Eso nos ayudó a usar directamente su SDK, así como a computarlos sobre la marcha para poder reducir nuestro tiempo de consulta", explica Rachit.
El soporte nativo de Zilliz Cloud para la búsqueda híbrida—que combina consultas semánticas y basadas en palabras clave—se alinea perfectamente con el pipeline de expansión de consultas de VerbaFlo. Lo más importante es que Zilliz Cloud podía ofrecer la latencia inferior a 10 milisegundos que exigían sus aplicaciones en tiempo real, al tiempo que ofrecía mejores servicios gestionados en comparación con otras alternativas.
Cómo Zilliz Cloud impulsa agentes de IA conversacional en tiempo real a escala
La arquitectura anterior de VerbaFlo basada en MongoDB tenía dificultades para manejar cargas de producción superiores a 50-60 QPS, lo que generaba cuellos de botella que impedían respuestas en tiempo real. Con Zilliz Cloud como base, han construido una sofisticada plataforma de IA conversacional que actualmente maneja más de 40,000-50,000 entidades con un rendimiento fluido.
La nueva arquitectura de agentes con Zilliz Cloud
En el núcleo del sistema de VerbaFlo hay un mecanismo de enrutamiento inteligente que clasifica las intenciones de los usuarios y dirige las consultas a nodos de procesamiento especializados. Zilliz Cloud impulsa el nodo RAG (Retrieval-Augmented Generation) crítico, que recupera contexto relevante de datos de propiedades, historiales de clientes e información de mercado para generar respuestas precisas y personalizadas.
Una de las capacidades más valiosas de Zilliz Cloud para VerbaFlo es su avanzado sistema de particionamiento, que permite dos tipos críticos de aislamiento de datos:
Separación de entornos: Aislamiento claro entre su entorno de AI playground/labs y las colecciones de producción, lo que permite a los clientes probar y experimentar sin afectar las operaciones en vivo
Optimización del rendimiento: Datos segmentados en particiones más pequeñas según escenarios específicos, lo que permite consultas dirigidas a secciones limitadas en lugar de colecciones completas
Este enfoque de particionamiento aborda directamente las limitaciones de namespace que enfrentaban con MongoDB, donde tenían una "capacidad muy limitada para crear un índice en una colección particular" y no podían "definir un namespace adecuado en una base de datos adecuada al crear una colección."
Impulsando el pipeline de búsqueda híbrida con Zilliz Cloud
El sistema de VerbaFlo no depende de búsquedas semánticas simples. En cambio, su pipeline de expansión de consultas crea tanto consultas semánticas como de palabras clave para cada solicitud de usuario. Las capacidades nativas de búsqueda híbrida de Zilliz Cloud y los algoritmos de re-ranking integrados (re-ranking ponderado y RRF) eliminan la necesidad de desarrollo personalizado al tiempo que ofrecen resultados superiores.
"Con Zilliz Cloud, había ciertos algoritmos internos que se adaptan bastante bien al caso de uso que requerimos, como los sistemas de re-ranking ponderado y re-ranking RRF. Eso nos ayudó a usar directamente su SDK, así como a computarlos sobre la marcha para poder reducir nuestro tiempo de consulta", señala Rachit.
Migración fluida: de las restricciones de MongoDB al rendimiento de Zilliz Cloud
La migración de MongoDB Atlas a Zilliz Cloud demostró cómo una transición de base de datos bien planificada puede resolver cuellos de botella críticos de rendimiento sin interrumpir las operaciones comerciales.
El equipo de ingeniería de VerbaFlo abordó la migración de manera sistemática, aprovechando la documentación integral y los recursos SDK de Zilliz Cloud. La migración implicó transferir sus embeddings vectoriales y metadatos existentes, al tiempo que implementaban nuevas estrategias de particionamiento que MongoDB no podía admitir.
"La documentación sobre Zilliz Cloud, así como Milvus, era bastante detallada y completa. Con ese tipo de documentación y todos los documentos del SDK, fue prácticamente fácil migrar", recuerda Rachit.
Resultados y beneficios
El impacto de migrar a Zilliz Cloud fue inmediato y sustancial en múltiples dimensiones.
Reducción de costes de hasta un 50%: VerbaFlo logró ahorros de costes inmediatos del 25-30% en comparación con su infraestructura de MongoDB Atlas. Durante los períodos de tráfico pico, los ahorros potenciales podrían alcanzar el 40-50% gracias a las eficientes capacidades de autoescalado de Zilliz Cloud y a las configuraciones de clúster ideales para entornos listos para producción.
Avance de rendimiento por debajo de 10 milisegundos: Las latencias de consulta bajaron de 15-20 milisegundos a mantenerse constantemente por debajo de 10 milisegundos, una mejora drástica que los clientes notaron de inmediato. Este rendimiento por debajo de 10 milisegundos permite experiencias de IA verdaderamente conversacionales en llamadas de voz, widgets de chat y plataformas de mensajería.
Escalabilidad mejorada: Con la capacidad de gestionar su carga actual de 50-60 QPS con un margen significativo para el crecimiento, VerbaFlo cuenta ahora con la base de infraestructura para respaldar sus agresivos planes de escalado sin degradación del rendimiento.
Aislamiento y particionamiento de datos superiores: Las avanzadas capacidades de particionamiento de Zilliz Cloud resolvieron los complejos requisitos multiinquilino de VerbaFlo que MongoDB no podía gestionar, mejorando significativamente tanto la seguridad como el rendimiento de su arquitectura multiinquilino.
Cumplimiento y seguridad: El cumplimiento del RGPD y las certificaciones de seguridad de Zilliz Cloud permiten a VerbaFlo atender con confianza a clientes en las regiones del Reino Unido y la UE, apoyando sus planes de expansión internacional.
Fiabilidad del sistema mejorada: Con un tiempo de actividad superior al 99,5%, Zilliz Cloud respalda los compromisos de servicio 24/7 de VerbaFlo, algo fundamental para aplicaciones inmobiliarias donde las consultas de los clientes no siguen horarios comerciales.
Integración fluida con el ecosistema: La compatibilidad nativa de Zilliz Cloud con proveedores de infraestructura en la nube permite a VerbaFlo aprovechar los servicios de AWS, incluidos ECS, EKS y buckets de S3 para alojamiento y despliegues, al tiempo que respalda su estrategia multinube que abarca Google Cloud y diversos proveedores de servicios de IA.
Planes futuros: Expandir la innovación en IA en distintas industrias
Con sus desafíos de infraestructura resueltos, VerbaFlo está persiguiendo ambiciosos planes de expansión en múltiples dimensiones. La empresa proyecta un crecimiento significativo en el número de entidades, esperando escalar entre 10 y 20 veces en los próximos trimestres a medida que aumenta el tráfico y incorporan más clientes a su función de playground de IA.
"El equipo está en una fase constante de desarrollo, optimización de nuestros flujos existentes e implementación de nuevos flujos internamente en el sistema", explica Rachit. "Definitivamente deseamos aprovechar Zilliz Cloud para adaptarlo a algunos de los casos de uso que estamos planificando para el futuro."
Más significativamente, la sólida base proporcionada por Zilliz Cloud ha permitido explorar verticales industriales completamente nuevas. VerbaFlo está desarrollando activamente arquitecturas de agentes de IA para las industrias automotriz y farmacéutica, aprovechando las mismas capacidades de IA conversacional que han demostrado ser exitosas en el sector inmobiliario.
Las capacidades técnicas que hacen posible esta expansión incluyen los estándares internacionales de cumplimiento de Zilliz Cloud y un rendimiento fiable a escala, proporcionando a VerbaFlo la confianza para pensar más allá de su mercado actual y construir para un crecimiento global en múltiples sectores.
Conclusión
La asociación de VerbaFlo con Zilliz Cloud demuestra cómo la elección de la infraestructura adecuada puede transformar las limitaciones técnicas en ventajas competitivas. Al lograr un ahorro de costos del 25-30 %, un rendimiento de consultas inferior a 10 milisegundos y una escalabilidad sólida con Zilliz Cloud, VerbaFlo se ha posicionado para un crecimiento agresivo en múltiples industrias.
A medida que VerbaFlo continúa innovando en f y expandiéndose a nuevos mercados, Zilliz Cloud proporciona la base escalable que necesitan para transformar la forma en que las empresas interactúan con sus clientes.
"La latencia inferior a 10 milisegundos para las consultas es todo un referente en la industria de las bases de datos vectoriales", concluye Rachit. "Combinada con el ahorro de costos y la fiabilidad, Zilliz Cloud se ha convertido en un habilitador estratégico para nuestra visión más amplia de transformar la IA conversacional en distintas industrias."
- Acerca de VerbaFlo
- El desafío: escalar más allá de las limitaciones de infraestructura
- El camino hacia Zilliz Cloud
- Cómo Zilliz Cloud impulsa agentes de IA conversacional en tiempo real a escala
- Migración fluida: de las restricciones de MongoDB al rendimiento de Zilliz Cloud
- Resultados y beneficios
- Planes futuros: Expandir la innovación en IA en distintas industrias
- Conclusión
Contenido
Industria
Bienes raíces
The sub-10 millisecond latency for queries is quite the benchmark in the industry for vector databases. Combined with the cost savings and reliability, Zilliz Cloud has become a strategic enabler for our broader vision of transforming conversational AI across industries.
Rachit Jindal