La meilleure base de données vectorielle vient de s’améliorer
Portées par l’adoption généralisée de ChatGPT et d’autres LLMs, les bases de données vectorielles ont gagné en popularité en 2023.
Bien que de nombreux clients de Zilliz Cloud utilisent notre service dans une forme ou une autre de système de génération augmentée par récupération (RAG), nous avons également observé une adoption dans divers systèmes de recherche et de récupération. Ce n’est pas une anomalie ; au sens large, Zilliz Cloud est conçu comme un moyen pour les ordinateurs de réellement comprendre les données générées par les humains, du texte et des images aux transactions bancaires et aux comportements des utilisateurs.
Aujourd’hui, nous avons présenté la prochaine étape de notre évolution en ajoutant une multitude de nouvelles fonctionnalités à Zilliz Cloud - recherche par plage, multi-tenant & RBAC, performances de recherche et d’indexation améliorées jusqu’à 10x, et bien plus encore. Mais pourquoi avons-nous décidé d’introduire ces fonctionnalités ? La réponse est simple : nos utilisateurs l’ont demandé. Les applications qu’ils construisent et les défis d’ingénierie qu’ils relèvent nécessitent une base de données vectorielle purpose-built qui prend en charge des fonctionnalités de base de données essentielles et une variété de charges de travail. Pour le reste de cet article, je vais me pencher sur trois cas d’utilisation clients réels où les nouvelles fonctionnalités de Zilliz Cloud n’ont pas seulement été bénéfiques, mais essentielles au développement et au succès des applications de nos utilisateurs.
Entrons dans le vif du sujet.
Agents autonomes efficaces
La mémoire - des fragments de texte injectés dans la fenêtre de contexte d’un LLM pour lui fournir des informations historiques - est sans doute l’un des composants les plus importants d’un agent autonome (personnage virtuel). Les fenêtres de contexte sont fortement limitées pour deux raisons différentes : 1) elles ne sont pas infinies, 2) les contextes longs ralentissent considérablement la génération de texte, et 3) la plupart des LLMs à long contexte ont tendance à ne « mémoriser » que les informations situées au début et à la fin de la fenêtre de contexte. Les bases de données vectorielles résolvent tous ces problèmes.
Prenons comme exemple un bot de service client ou un agent d’assistance. Dans cette application, de nombreuses informations différentes, c’est-à-dire la base de connaissances originale, toutes les invites de l’utilisateur, les images téléversées par les utilisateurs, les extraits audio, toutes les réponses de l’agent, etc., doivent être stockées dans Zilliz Cloud pour permettre une récupération rapide. Chaque fois qu’un client saisit un message, tout le contenu pertinent de la base de connaissances et des conversations précédentes doit être récupéré, ce qui rend cette charge de travail à la fois intensive en lecture et en écriture, avec des tonnes de données de messages stockées par seconde.
Pour rendre ce problème encore plus difficile, les données fournies à cet agent de service client sont intrinsèquement multimodales ; la recherche textuelle ne suffit tout simplement pas. L’architecture de base de données distribuée de Zilliz prend déjà cela en charge à très grande échelle - augmenter le nombre de nœuds de requête pour un débit de lecture plus élevé et le nombre de nœuds de données pour un débit d’écriture plus élevé - mais notre nouveau moteur de recherche vectorielle Cardinal a été le facteur décisif ultime. Cardinal inclut notre propre index vectoriel propriétaire, une multitude d’optimisations de calcul au niveau du code machine et des algorithmes sensibles au cache, parmi de nombreuses autres optimisations de performance. Pour faire court, pour cette application particulière, Zilliz Cloud a finalement permis d’atteindre le même débit de recherche et d’indexation que d’autres bases de données vectorielles, à moins d’un tiers du prix. Là où le coût annuel était prohibitif pour d’autres solutions de recherche vectorielle, nous sommes intervenus et avons fait de cet agent autonome une réalité.
Recommandation de produits
Les systèmes de recommandation sont conçus pour proposer une variété de contenus, p. ex. des produits, des actualités, du contenu utilisateur, etc., en fonction de l’historique de visionnage ou de navigation antérieur d’un consommateur. Les bases de données vectorielles sont parfaites pour ce type d’application : en vectorisant et en stockant chaque élément individuel dans Zilliz Cloud, les recommandations peuvent être effectuées simplement en appelant collection.search. Les plus proches voisins obtenus constituent eux-mêmes les recommandations les plus pertinentes.
Des recommandations rapides et pertinentes sont indispensables pour tout produit B2C, mais dans le monde de l’e-commerce, les recommandations de produits sont particulièrement cruciales pour l’expérience globale et peuvent être des moteurs de revenus incroyablement efficaces. L’une des missions principales de nos utilisateurs était d’améliorer les performances de leur système de recommandation de produits en exploitant l’IA. Comme beaucoup d’autres, leur cas d’utilisation était extrêmement sensible à la latence : les requêtes vers leur base de données vectorielle devaient être exécutées en moins de 10 millisecondes afin de maintenir une bonne expérience utilisateur finale, et nécessitaient un débit modéré. De plus, ces recommandations n’étaient pas des recherches génériques. Leurs utilisateurs finaux avaient souvent besoin de recommandations filtrées (comme des dimensions spécifiques pour des vêtements ou une pointure particulière). Cette complexité s’étendait à la nature des données produit, qui était intrinsèquement multimodale, englobant les titres, descriptions et images des produits.
Cardinal leur a permis de satisfaire leurs exigences de performance, mais le schéma dynamique et la prise en charge de JSON de Zilliz Cloud se sont révélés être un véritable tournant ici. Cela a permis au client d’adapter ses modèles de données aux caractéristiques spécifiques de chaque catégorie de produits, garantissant que les métadonnées variées et complexes puissent être stockées et interrogées efficacement avec chaque vecteur. Cette adaptabilité, combinée aux performances supérieures de Cardinal, a été le facteur décisif pour ce client en particulier.
Découverte de médicaments propulsée par l’IA
La découverte de médicaments est un problème incroyablement difficile. Les molécules utilisées pour les médicaments peuvent varier en taille, depuis les « petites molécules » comptant des dizaines d’atomes jusqu’aux grands produits biologiques comptant des dizaines de milliers d’atomes. Le machine learning peut vectoriser chaque molécule, créant une représentation fondée sur sa fonction, comme le traitement d’une maladie ou d’un symptôme spécifique.
Dans ce processus, la fonctionnalité de recherche par plage de Zilliz Cloud joue un rôle crucial. Les chercheurs vectorisent leur maladie ou symptôme cible et recherchent dans Zilliz Cloud des médicaments candidats. La recherche par plage va au-delà des recherches top-k standard en trouvant tous les vecteurs (molécules) situés à une certaine distance de la cible, fournissant tous les candidats pertinents au lieu d’un nombre fixe. Cette fonctionnalité est non seulement essentielle pour la découverte de médicaments, mais aussi applicable dans des domaines comme la détection de fraude et la cybersécurité. Par exemple, dans le secteur bancaire, les transactions sont vectorisées et comparées à de nouvelles transactions à l’aide de la recherche par plage afin d’identifier des activités passées similaires, contribuant à la détection des valeurs aberrantes.
Mot de la fin
RAG a été et continuera d’être incroyablement important pour nous, mais ce n’est que la partie émergée de l’iceberg des bases de données vectorielles. Ici, nous avons présenté trois cas d’utilisation réels directement rendus possibles par certaines des nouvelles fonctionnalités que nous annonçons aujourd’hui. Lors de la comparaison de Zilliz Cloud avec d’autres bases de données vectorielles, ces fonctionnalités ont été, et continueront d’être, le facteur déterminant de réussite.
Cela étant dit, ne me croyez pas sur parole. De nombreux types de données peuvent être vectorisés, stockés et interrogés dans Zilliz Cloud. Essayez-le dès maintenant gratuitement, sans tracas d’installation, et que la révolution des données commence.
Continuer à lire
Milvus 2.6.x Now Generally Available on Zilliz Cloud, Making Vector Search Faster, Smarter, and More Cost-Efficient for Production AI
Milvus 2.6.x is now GA on Zilliz Cloud, delivering faster vector search, smarter hybrid queries, and lower costs for production RAG and AI applications.
DeepSeek-OCR Explained: Optical Compression for Scalable Long-Context and RAG Systems
Discover how DeepSeek-OCR uses visual tokens and Contexts Optical Compression to boost long-context LLM efficiency and reshape RAG performance.
Zilliz Cloud Update: Smarter Autoscaling for Cost Savings, Stronger Compliance with Audit Logs, and More
What's new in Zilliz Cloud? Smarter autoscaling with scale-down, audit logs GA, enhanced SSO, and Milvus 2.6 in Private Preview.