Leader mondial de la fintech déploie l’IA à grande échelle avec Milvus
5 à 10 fois plus rapide
ingestion par lots que les concurrents
Développement minimal
nécessaire pour prendre en charge plusieurs cas d’utilisation
Évolutivité instantanée
de millions à des dizaines de milliards de vecteurs
When it comes to vector databases, Milvus has impressed us with its performance and scalability, meeting our stringent criteria for handling our AI use case backlog.
Team Lead
À propos de l’entreprise
Cette entreprise fintech mondiale est spécialisée dans les paiements numériques, permettant des transactions dans plus de 200 pays et dans plus de 25 devises. Avec un portefeuille couvrant des produits de paiement destinés aux consommateurs et aux commerçants, elle traite chaque année des dizaines de milliards de transactions — des paiements individuels de pair à pair aux solutions d’entreprise à grande échelle. L’entreprise est reconnue pour ses APIs orientées développeurs, son expérience utilisateur moderne et son écosystème multimarque.
Au sein de cette organisation, l’équipe AI, ML, and Platform Solutions joue un rôle central dans la stimulation de l’innovation. Sa mission : appliquer le machine learning et l’IA de pointe pour améliorer l’expérience client, automatiser les opérations et ouvrir de nouvelles sources de revenus. Cela inclut la fourniture d’une infrastructure IA/ML horizontale, la prise en charge du streaming d’événements en temps réel et l’activation de nouvelles capacités comme la GenAI dans l’ensemble de la suite de produits de paiement de l’entreprise.
Défis : faire évoluer l’IA dans une infrastructure mondiale complexe
En 2023, l’entreprise a priorisé le déploiement d’un système de recommandation destiné aux consommateurs et alimenté par la GenAI. Le système a été lancé via l’une des marques grand public de la fintech et fournit des recommandations de produits personnalisées au moment du paiement, en fonction de l’inventaire du commerçant et du contexte d’achat.
Mais atteindre cet objectif n’a pas été simple. Deux défis principaux se dressaient sur la route :
Volumes de données massifs L’organisation traite des milliards de transactions chaque année. Les systèmes existants — à la fois commerciaux et internes — avaient du mal à évoluer pour gérer les volumes de données concernés. En réalité, l’équipe avait auparavant construit une base de données graph personnalisée parce qu’aucune solution fournisseur ne pouvait répondre à ses exigences de performance et de mise à l’échelle.
Paysage des bases de données vectorielles immature La recherche vectorielle était essentielle pour alimenter les recommandations personnalisées, mais les outils disponibles étaient encore relativement nouveaux. L’équipe avait besoin d’un système fiable et hautement performant, capable de passer à l’échelle pour des charges de travail de production et de répondre à ses exigences strictes en matière de latence et d’ingestion.
Après avoir évalué plusieurs solutions, notamment Weaviate et AlloyDB, l’équipe a choisi Milvus.
Pourquoi Milvus : performance, évolutivité et facilité d’utilisation
« Milvus nous a impressionnés par ses performances et son évolutivité », a déclaré le responsable de l’équipe AI, ML, and Platform Solutions. Dès les premiers essais, Milvus a démontré des capacités exceptionnelles en matière d’ingestion de données, de performance des requêtes et de flexibilité opérationnelle. La documentation était claire et conviviale pour les développeurs, et le système gérait des milliards de vecteurs sans réglages approfondis.
La performance d’ingestion par lots était particulièrement critique. Les données d’inventaire devaient être mises à jour fréquemment, parfois toutes les heures. Lors des tests, Milvus a ingéré des dumps complets de collections 5 à 10 fois plus rapidement que les alternatives. Une tâche qui prenait plus de 8 heures aux concurrents a été réalisée par Milvus en moins de 1 heure.
Ce qui s’est également démarqué, c’est la flexibilité de Milvus. L’équipe disposait d’un important backlog de cas d’usage IA, des systèmes de recommandation aux chatbots. Milvus a répondu aux besoins de nombre d’entre eux avec un effort de développement minimal, permettant d’économiser un temps d’ingénierie précieux.
Malgré une hésitation initiale à adopter un outil open source maintenu par une startup (Zilliz), l’équipe a constaté que Milvus possédait la maturité, le soutien de l’écosystème et les déploiements réels nécessaires pour répondre aux exigences de niveau entreprise.
Des systèmes de recommandation aux chatbots — quelle est la suite
Après le déploiement réussi du système de recommandation, la prochaine initiative de l’équipe est un chatbot de service client alimenté par l’IA. Ce bot multilingue aidera des milliers d’agents de service dans le monde entier en répondant aux questions courantes grâce à la recherche vectorielle et aux techniques de retrieval.
Alors que l’équipe continue d’étendre son empreinte IA, elle évalue une transition vers Zilliz Cloud — le service Milvus entièrement managé. L’exploitation et la mise à l’échelle de Milvus en interne ont été efficaces, mais le transfert de la gestion de l’infrastructure permettrait à l’équipe de se concentrer sur des initiatives à plus forte valeur ajoutée.
During batch ingestion tests, Milvus demonstrated that it could complete an entire collection dump into the database at speeds 5–10 times faster than competitors.
Team Lead