Les CPU suffisent-ils ? Revue de la recherche vectorielle exécutée sur du matériel innovant
La recherche vectorielle s’est imposée comme une technologie déterminante, permettant une récupération rapide et précise de l’information dans de nombreuses applications, des systèmes de recommandation à la reconnaissance d’images. Traditionnellement, les CPU ont été les moteurs de ces opérations. Cependant, à mesure que les volumes de données explosent et que les exigences en matière de vitesse et d’efficacité augmentent, une question se pose : les CPU suffisent-ils à répondre aux besoins croissants de la recherche moderne alimentée par l’IA ?
Dans sa récente présentation lors du Unstructured Data Meetup 2024, organisé par Zilliz, George Williams, expert en vision par ordinateur chez Smile Identity et organisateur du NeurIPS BigANN Challenge (2021, 2023), a abordé la question de savoir si les CPU sont suffisants pour la recherche vectorielle/ANN. Il a exploré comment de nouvelles solutions matérielles pourraient révolutionner la recherche vectorielle, en mettant en évidence l’intersection entre les algorithmes de recherche avancés et le matériel de pointe, et en offrant des perspectives sur l’avenir des technologies de récupération de données.
Dans ce blog, nous allons résumer les principaux enseignements de la présentation, en examinant les objectifs et les résultats des compétitions NeurIPS BigANN, où une approche basée sur Zilliz a figuré parmi les gagnants. Nous nous pencherons également sur les défis pratiques de la mise en œuvre de la recherche vectorielle, les innovations qui stimulent l’efficacité et les performances, ainsi que la nouvelle ère passionnante du matériel qui promet de transformer le domaine.
Compétition Neurips BigANN et rôle et contributions de Zilliz
Les compétitions NeurIPS BigANN visent à repousser les limites de ce qui est possible dans le domaine de la technologie de recherche vectorielle, en encourageant l’innovation et la collaboration entre chercheurs et leaders de l’industrie. Les participants sont chargés de développer des solutions qui maximisent le rappel, les requêtes par seconde (QPS), l’efficacité énergétique et le rapport coût-efficacité, offrant ainsi une évaluation complète des performances matérielles dans les tâches de recherche vectorielle. Les compétitions sont organisées en collaboration avec des initiatives comme le projet ANN-Benchmarks, qui fournit une plateforme pour soumettre et évaluer les implémentations de recherche vectorielle, y compris des solutions importantes comme Milvus.
Les compétitions comportent trois pistes, chacune conçue pour tester différents aspects des performances de la recherche vectorielle, comme illustré dans la figure un.
Fig 1. Les trois pistes de la compétition NeurIPS BigANN
Piste 1 : Budget limité en ressources matérielles
Spécifications : Les participants sont limités à un serveur de datacenter avec 64 Go de RAM.
Critères : Les solutions sont classées en fonction du rappel, en mettant l’accent sur la précision de la récupération des plus proches voisins dans les contraintes de ressources matérielles limitées.
Piste 2 : Capacités de stockage améliorées
Spécifications : Les participants utilisent un serveur de datacenter avec 64 Go de RAM et un SSD haut débit de 2 To.
Critères : Cette piste se concentre également sur le rappel, mais permet des capacités de stockage plus étendues, mettant les participants au défi d’optimiser à la fois l’utilisation de la mémoire et les performances de stockage, piste dont Zilliz a été le gagnant comme le montre la figure 2. L’approche de Zilliz+SUST a obtenu de bons résultats sur le jeu de données de recherche par plage (SSNPP), avec le score de rappel le plus élevé. Cette victoire met en évidence l’expertise et l’innovation de Zilliz dans le développement d’algorithmes de recherche vectorielle efficaces, adaptés aux contraintes matérielles modernes. Nous décrirons l’approche de Zilliz dans la section suivante.
Fig 2. L’équipe Zilliz+SUST remporte la deuxième piste
Piste 3 : Matériel ouvert
Spécifications : Les participants peuvent utiliser n’importe quel matériel, à condition de présenter des preuves de coût et de surveiller la consommation d’énergie.
Critères : Les solutions sont évaluées sur la base d’une combinaison de rappel, de QPS, d’efficacité énergétique et de coût, ce qui fait de cette piste la plus complète et la plus difficile.
Ces pistes permettent à la compétition de traiter un large éventail de considérations pratiques, de l’optimisation de ressources limitées à l’exploitation de configurations matérielles avancées. Grâce à ces évaluations, les compétitions NeurIPS BigANN fournissent des informations sur l’état de la technologie de recherche vectorielle et mettent en lumière les avancées les plus prometteuses dans le domaine.
Optimisation et évaluation dans la recherche vectorielle
L’optimisation de la recherche vectorielle nécessite une approche multidimensionnelle, en particulier lorsqu’il s’agit de l’utilisation de la mémoire et des SSD. L’une des innovations clés introduites par Zilliz est le Hybrid Graph Clustering Index illustré à la figure 3. Cette méthode améliore l’efficacité de la recherche vectorielle en structurant les données de manière à optimiser la disposition en mémoire et les schémas d’accès, en particulier pour les SSD. En organisant les données dans des compartiments alignés sur les pages, Zilliz garantit que les vecteurs en pleine précision sont stockés avec leurs métadonnées, réduisant la latence et améliorant la vitesse de récupération. Cette approche améliore non seulement les performances, mais maximise également l’utilisation du stockage SSD, ce qui est crucial pour traiter de grands ensembles de données. De plus, Zilliz s’est concentré sur l’optimisation de la mémoire afin de garantir que l’accès aux données soit efficace et aligné sur les capacités du matériel sous-jacent. Cela implique une structuration minutieuse des données afin de minimiser les temps d’accès et d’améliorer le débit global, rendant leurs solutions très efficaces pour les tâches de recherche vectorielle à grande échelle.
De plus, la sortie de Milvus 2.4, leur dernière version de la base de données vectorielle open-source, introduit plusieurs fonctionnalités révolutionnaires telles que la prise en charge multi-vector, la Grouping Search et l’indexation GPU avec le CUDA-Accelerated Graph Index for Vector Retrieval de NVIDIA (CAGRA). Ces innovations démontrent davantage la stratégie et l’engagement de Zilliz à améliorer les performances et l’efficacité de la recherche vectorielle.
Fig 3. Hybrid Graph Clustering Index et disposition de la mémoire et accès optimisés pour SSD
Orientations futures
Selon l’intervenant, l’avenir de la recherche vectorielle pourrait bientôt passer d’une dépendance aux techniques d’approximation à l’exploitation de méthodes par force brute tout en restant dans un délai court. Cette évolution sera portée par la scalabilité croissante des vecteurs bruts sans nécessité de créer des index, marquant une évolution significative du marché de la mémoire. Bien que les puces spécialisées soient coûteuses à produire et nécessitent des investissements substantiels ainsi que du temps pour développer des kits d’outils — prenant souvent plus d’un an avant d’arriver sur le marché — le matériel banalisé pourrait devenir la norme. Dans ce scénario, les logiciels devraient être considérablement ajustés afin d’optimiser les performances. Le concept de chiplets est introduit, dans lequel les meilleures technologies de semi-conducteurs sont conçues de manière modulaire par différentes entreprises, à l’instar du développement logiciel. Cette approche modulaire permet la réutilisation de logiciels sur des puces existantes, permettant à des personnes non expertes en puces de concevoir leurs propres puces, moins chères et plus rapides. Cela pourrait servir de point d’entrée pour de nombreuses entreprises, rendant la conception de puces avancées plus accessible et plus rentable.
Conclusion
Les avancées rapides de la technologie hardware ouvrent la voie à des capacités de recherche vectorielle plus efficaces et plus puissantes. Comme l’illustrent la compétition NeurIPS BigANN et les contributions de Zilliz, l’intersection entre matériel avancé et algorithmes innovants est essentielle pour l’avenir des technologies de recherche de données. Si les CPU ont constitué l’épine dorsale de l’informatique pendant des décennies, l’émergence de solutions matérielles spécialisées marque une nouvelle ère, où l’efficacité et les performances sont primordiales. Zilliz, l’une des bases de données vectorielles les plus largement adoptées, se concentre sur l’optimisation de l’efficacité mémoire et la maximisation de la vitesse de recherche des données, en s’appuyant sur des capacités matérielles avancées pour repousser les limites de ce qui est possible dans la technologie de recherche vectorielle. Suivez Zilliz sur twitter @zilliz_universe et @milvusio et regardez de nombreuses conférences vidéo et tutoriels riches en ressources sur la chaîne YouTube de Zilliz.
Ressources
Continuer à lire
The Great AI Agent Protocol Race: Function Calling vs. MCP vs. A2A
Compare Function Calling, MCP, and A2A protocols for AI agents. Learn which standard best fits your development needs and future-proof your applications.
How to Build RAG with Milvus, QwQ-32B and Ollama
Hands-on tutorial on how to create a streamlined, powerful RAG pipeline that balances efficiency, accuracy, and scalability using the QwQ-32B and Milvus.
AI Integration in Video Surveillance Tools: Transforming the Industry with Vector Databases
Discover how AI and vector databases are revolutionizing video surveillance with real-time analysis, faster threat detection, and intelligent search capabilities for enhanced security.