Líder global de fintech escala la IA con Milvus
5–10 veces más rápido
ingesta por lotes que los competidores
Desarrollo mínimo
necesario para admitir múltiples casos de uso
Escalabilidad instantánea
de millones a decenas de miles de millones de vectores
When it comes to vector databases, Milvus has impressed us with its performance and scalability, meeting our stringent criteria for handling our AI use case backlog.
Team Lead
Acerca de la empresa
Esta empresa fintech global se especializa en pagos digitales, lo que permite transacciones en más de 200 países y en más de 25 divisas. Con un portafolio que abarca productos de pago para consumidores y comerciantes, procesa decenas de miles de millones de transacciones al año, desde pagos individuales entre pares hasta soluciones empresariales a gran escala. La empresa es conocida por sus APIs orientadas a desarrolladores, su experiencia de usuario moderna y su ecosistema multimarca.
Dentro de esta organización, el equipo de AI, ML, and Platform Solutions desempeña un papel central en el impulso de la innovación. Su misión: aplicar aprendizaje automático e IA de vanguardia para mejorar la experiencia del cliente, automatizar operaciones y abrir nuevas fuentes de ingresos. Esto incluye ofrecer infraestructura horizontal de IA/ML, apoyar la transmisión de eventos en tiempo real y habilitar nuevas capacidades como GenAI en toda la suite de productos de pago de la empresa.
Desafíos: escalar la IA en una infraestructura global compleja
En 2023, la empresa priorizó el lanzamiento de un sistema de recomendaciones orientado al consumidor impulsado por GenAI. El sistema se lanzó a través de una de las marcas de consumo de la fintech y ofrece recomendaciones de productos personalizadas en el checkout, basadas en el inventario del comerciante y el contexto de compra.
Pero ejecutar este objetivo no fue sencillo. Dos desafíos principales se interponían:
Volúmenes masivos de datos La organización gestiona miles de millones de transacciones al año. Los sistemas existentes, tanto comerciales como internos, tenían dificultades para escalar a los volúmenes de datos involucrados. De hecho, el equipo había creado previamente una base de datos de grafos personalizada porque ninguna solución de proveedor podía cumplir con sus requisitos de rendimiento y escala.
Panorama inmaduro de bases de datos vectoriales La búsqueda vectorial era fundamental para impulsar recomendaciones personalizadas, pero las herramientas disponibles aún eran relativamente nuevas. El equipo necesitaba un sistema fiable y de alto rendimiento que pudiera escalar a cargas de trabajo de producción y cumplir con sus estrictos requisitos de latencia e ingesta.
Después de evaluar múltiples soluciones, incluidas Weaviate y AlloyDB, el equipo eligió Milvus.
Por qué Milvus: rendimiento, escalabilidad y facilidad de uso
"Milvus nos impresionó por su rendimiento y escalabilidad", dijo el Team Lead for AI, ML, and Platform Solutions. Desde las primeras pruebas, Milvus mostró capacidades excepcionales en ingesta de datos, rendimiento de consultas y flexibilidad operativa. La documentación era clara y fácil de usar para desarrolladores, y el sistema manejó miles de millones de vectores sin una optimización exhaustiva.
El rendimiento de ingesta por lotes fue especialmente crítico. Los datos de inventario debían actualizarse con frecuencia, a veces cada hora. En las pruebas, Milvus ingirió volcados completos de colecciones 5–10 veces más rápido que las alternativas. Un trabajo que a los competidores les tomó más de 8 horas fue completado por Milvus en menos de 1 hora.
Lo que también destacó fue la flexibilidad de Milvus. El equipo tenía una larga lista pendiente de casos de uso de IA, desde sistemas de recomendación hasta chatbots. Milvus satisfizo las necesidades de muchos de ellos con un esfuerzo mínimo de desarrollo, ahorrando valioso tiempo de ingeniería.
A pesar de la vacilación inicial sobre adoptar una herramienta de código abierto mantenida por una startup (Zilliz), el equipo descubrió que Milvus tenía la madurez, el apoyo del ecosistema y las implementaciones reales necesarias para cumplir con requisitos de nivel empresarial.
De sistemas de recomendación a chatbots: qué sigue
Tras el exitoso lanzamiento del sistema de recomendaciones, la próxima iniciativa del equipo es un chatbot de atención al cliente impulsado por IA. Este bot multilingüe apoyará a miles de agentes de servicio en todo el mundo respondiendo preguntas rutinarias mediante técnicas de búsqueda vectorial y recuperación.
A medida que el equipo continúa ampliando su presencia en IA, está evaluando un traslado a Zilliz Cloud, el servicio Milvus totalmente gestionado. Ejecutar y escalar Milvus internamente ha sido eficaz, pero delegar la gestión de la infraestructura permitiría al equipo centrarse en iniciativas de mayor valor.
During batch ingestion tests, Milvus demonstrated that it could complete an entire collection dump into the database at speeds 5–10 times faster than competitors.
Team Lead