Nouveautés de Milvus 2.3 bêta - 10 fois plus rapide avec les GPU
Nous sommes fiers d’annoncer la sortie Bêta de Milvus 2.3 au nom de la communauté Milvus. Cette version Bêta contient de nouvelles fonctionnalités et améliorations qui, nous en sommes sûrs, amélioreront les performances de vos applications propulsées par l’IA. Nous apprécions votre aide pour tester certaines de ces capacités afin de nous permettre d’atteindre rapidement la version générale ! Cet article de blog mettra en évidence certaines des fonctionnalités les plus importantes. Pour une liste complète des changements, consultez les notes de version.
- 📦 PyPI: https://pypi.org/project/milvus/
- 📚 Docs: https://milvus.io/docs
- 🛠️ Notes de version: https://github.com/milvus-io/milvus/releases
- 🐳 Image Docker: docker pull milvusdb/milvus
- 🚀 Version: https://github.com/milvus-io/milvus/releases/tag/v2.3.0-beta
L’une des fonctionnalités de Milvus 2.3 Bêta est sa prise en charge de l’accélération GPU et de l’intégration basée sur RAFT, ce qui permet à Milvus de tirer pleinement parti de la puissance des unités de traitement graphique modernes. Milvus accéléré par GPU offre des performances 10 fois plus rapides que la version uniquement CPU. Cela peut considérablement améliorer la vitesse et la réactivité de vos applications propulsées par l’IA et l’apprentissage automatique, permettant un traitement des données plus rapide et plus précis.
Une autre fonctionnalité essentielle de Milvus 2.3 Bêta est sa prise en charge de la recherche par plage, permettant aux utilisateurs de rechercher des données dans une plage spécifiée. Cela peut être particulièrement utile pour les applications qui nécessitent des requêtes de données complexes, car cela permet une recherche plus précise et exacte. De plus, Milvus 2.3 Bêta prend également en charge mmap et les sauvegardes incrémentales, ce qui peut contribuer davantage à améliorer les performances et l’efficacité de vos applications d’IA. En permettant une gestion et un stockage plus efficaces des données, ces fonctionnalités peuvent garantir que vos systèmes d’IA fonctionnent en permanence à des niveaux optimaux.
Dans l’ensemble, les améliorations de cette version sont essentielles pour tout développeur créant des applications dotées de capacités de recherche par similarité.
Prise en charge des GPU Nvidia Cette nouvelle fonctionnalité apporte la capacité de prendre en charge le calcul hétérogène, ce qui peut considérablement accélérer les charges de travail spécialisées. Ce nouvel ajout permet aux utilisateurs de s’attendre à des recherches de données vectorielles plus rapides et plus efficaces, améliorant ainsi la productivité et les performances. Nous avons comparé RAFT-IVF-Flat (GPU) avec IVF-Flat (CPU) et HNSW (CPU) sur quatre jeux de données avec un rappel de 95 %. L’index GPU a atteint un débit moyen 32x et 8x supérieur à celui d’IVF-Flat et de HNSW. Les résultats de l’évaluation sont présentés dans le Tableau 1. (Ces benchmarks ont été exécutés avec Knowhere sur un hôte doté d’un CPU 8 cœurs, de 32 Go de RAM et d’un GPU Nvidia A100)
Tableau 1. Le QPS d’IVF-Flat, HNSW, RAFT-IVF-Flat sur quatre jeux de données avec un rappel de 95 %
| SIFT | GIST | GLOVE | DEEP | |
|---|---|---|---|---|
| IVF-Flat (CPU) | 3097 | 142 | 791 | 723 |
| HNSW (CPU) | 14,537 | 791 | 1,516 | 5,761 |
| RAFT-IVF-Flat (GPU) | 121,568 | 5,737 | 20,163 | 16,557 |
Un grand merci à @wphicks et @cjnolet de Nvidia pour leurs précieuses contributions au code RAFT.
Recherche par plage La recherche par plage est une méthode de recherche différente de la requête k-NN. Les requêtes k-NN renvoient un nombre fixe de plus proches voisins. Pour la recherche par plage, étant donné une requête q et un seuil de distance R, elle renvoie toutes les entités situées à une distance R de q. La recherche par plage est couramment utilisée pour trouver tous les résultats pertinents dans une plage spécifiée. Par exemple, elle peut aider à (sans s’y limiter) la déduplication des données ou la détection des violations de droits d’auteur sans manquer de candidats similaires.
Upsert L’upsert est une opération qui met à jour la valeur d’une entité si elle existe déjà dans une collection, ou en insère une nouvelle si elle n’existe pas. Milvus offre une grande flexibilité pour ajouter des données à vos collections. Pour l’instant, il existe trois options au total :
- Insertion en masse pour un débit élevé dans les cas hors ligne.
- Insertion pour une faible latence dans les cas de streaming en ligne.
- Upsert pour les cas où vous ne savez pas s’il faut mettre à jour ou insérer de nouvelles entités.
Change Data Capture (CDC) Change Data Capture (CDC) est le processus d’identification et de capture des modifications apportées aux données dans une base de données vectorielle en temps réel, puis de transmission de ces modifications aux systèmes en aval. Milvus offre désormais une sauvegarde et une synchronisation sans temps d’arrêt basées sur ce mécanisme. Les développeurs peuvent également utiliser CDC pour capturer et fournir un flux continu de modifications à leurs charges de travail en aval, telles que l’analyse de données ou l’audit personnalisé.
E/S de fichiers memory-mapped (mmap) Dans les scénarios où la mémoire est insuffisante avec de grands ensembles de données et où les performances des requêtes ne sont pas critiques, Milvus utilise mmap pour permettre au système de traiter des parties d’un fichier comme si elles étaient en mémoire, réduisant ainsi l’utilisation de la mémoire et améliorant les performances si toutes les données se trouvent dans le cache de pages du système.
Résumé
En plus de toutes les fonctionnalités répertoriées ci-dessus, Milvus 2.3 Beta inclut plusieurs corrections de bogues et améliorations. Pour en savoir plus :
- Consultez les notes de version de la version 2.3 Beta pour obtenir la liste complète des modifications
- Téléchargez Milvus et commencez
- Consultez les benchmarks Milvus dans ce livre blanc
Continuer à lire
3 Easiest Ways to Use Claude Code on Your Mobile Phone
Run Claude Code from your phone with Remote Control, Happy Coder, or SSH + Tailscale. Comparison table, setup steps, and tools for typing, memory, and parallel tasks.
A Developer's Guide to Exploring Milvus 2.6 Features on Zilliz Cloud
Milvus 2.6 marks a shift from “vector search + glue code” to a more advanced retrieval engine, and it is now Generally Available (GA) on Zilliz Cloud (a managed Milvus service).
Why I’m Against Claude Code’s Grep-Only Retrieval? It Just Burns Too Many Tokens
Learn how vector-based code retrieval cuts Claude Code token consumption by 40%. Open-source solution with easy MCP integration. Try claude-context today.