Témoignages clients
Credal AI

Credal AI débloque une GenAI sécurisée et gouvernable avec Milvus

Flexible Modulable
avec séparation de l'informatique et du stockage
Améliorée
précision des requêtes avec la recherche hybride
Déploiement accéléré des fonctionnalités
avec la principale communauté de logiciels libres

“

When you're engineering a solution as complex as ours, you're not just ticking boxes—you're looking for that sweet spot where all your must-haves intersect. Think of it as an eight-circle Venn diagram; while many databases met one or two of our criteria, Milvus was the only one sitting right at the intersection of all eight. It checked every single box for us—something no other solution managed to do.

Jack Fischer

Co-founder & CTO at Credal AI

À propos de Credal AI

[Credal AI] (https://www.credal.ai/) vise à rendre la GenAI sûre et accessible aux entreprises. L'entreprise propose des fonctions robustes d'intégration et de gouvernance des données, tirant les données de diverses plateformes telles que Microsoft Office, Google Workspace et Slack. Elle propose un "Okta pour l'IA", où l'accès et les permissions sont rigoureusement contrôlés, afin d'offrir aux développeurs et aux utilisateurs finaux une interface rationalisée et sécurisée. Credal AI constitue donc une solution de bout en bout pour le déploiement sécurisé de GenAI au niveau de l'entreprise.

Naviguer à l'échelle et dans la complexité : Les défis

Credal AI a dû relever plusieurs défis au début du développement de son produit. La recherche sémantique était une fonction essentielle, qui s'est avérée difficile à mettre en œuvre à grande échelle en utilisant les plugins de recherche vectorielle essentiels. Ces défis ont été exacerbés lorsque la recherche sémantique a été intégrée dans des flux de travail personnalisés qui nécessitaient des performances élevées de la base de données. Les mécanismes de recherche traditionnels devaient être améliorés pour construire ces flux de travail pilotés par la GenAI, qui devaient traiter de grands ensembles de données en temps réel sur la base de critères complexes définis par l'utilisateur.

En outre, leurs divers environnements d'hébergement, y compris les configurations basées sur le cloud et sur site, nécessitaient une base de données vectorielle qui pouvait être auto-hébergée et soutenue par une communauté open-source active. Ils avaient besoin d'une base de données rapide, évolutive et polyvalente pour gérer des pipelines de données complexes et des conditions d'hébergement variées.

Choisir Milvus : une base de données vectorielle centrée sur le développeur qui répond à toutes les attentes

Après une évaluation complète, Credal AI a conclu que [Milvus] (https://zilliz.com/what-is-milvus) fonctionnant sur Amazon EKS était la meilleure solution pour répondre à leurs besoins en matière de base de données vectorielles. Ce qui est ressorti immédiatement, c'est la communauté open-source active autour du projet. Il ne s'agissait pas d'un avantage, mais d'un facteur essentiel pour la résolution rapide des problèmes et le développement continu des fonctionnalités. En outre, le nombre élevé d'étoiles sur GitHub était plus qu'une mesure de vanité, mais un signe tangible d'une communauté de développeurs engagée et dynamique, ajoutant une couche de confiance dans la longévité de la solution.

Une autre considération essentielle était le diagramme Helm officiel de Milvus pour Kubernetes. Si la création d'un diagramme Helm personnalisé n'était pas un obstacle, un diagramme officiellement pris en charge témoignait de l'engagement de Milvus en faveur de la réussite des développeurs. Cela indiquait que l'équipe de Milvus ne cherchait pas uniquement à générer des revenus à court terme, mais qu'elle s'investissait réellement dans la résolution des problèmes des utilisateurs dans le monde réel. Ce soutien a été inestimable pour une startup comme Credal AI, d'autant plus qu'il lui a permis de rationaliser son processus de déploiement, de gagner du temps et d'économiser des ressources d'ingénierie.

Les fonctionnalités de Milvus ont également retenu leur attention, en particulier la disponibilité de la recherche hybride. La possibilité d'effectuer des recherches vectorielles tout en filtrant d'autres métadonnées était un besoin essentiel. De nombreuses solutions offraient une recherche vectorielle rapide, mais ne permettaient pas de l'étendre aux données structurées. La capacité de recherche hybride de Milvus était la pièce manquante du puzzle qui répondait à leurs exigences techniques et résolvait des problèmes commerciaux réels.

Enfin, l'architecture de Milvus, qui sépare le stockage et le calcul, a fourni l'évolutivité et la flexibilité que Credal AI recherchait. Ce choix de conception n'était pas qu'une simple notion architecturale ; il était fondamental pour que Credal AI ait confiance dans l'évolutivité du produit à l'avenir. Il leur a permis de faire évoluer leurs modèles d'accès au fur et à mesure qu'ils affinaient leur application. En ce qui concerne les "incontournables" de leur base de données vectorielle - les performances, les fonctionnalités, la communauté et l'architecture - Milvus répondait à toutes les attentes.

Résultat : Évolutivité et flexibilité réelles avec Milvus

La mise en œuvre de Milvus sur Amazon EKS a changé la donne pour Credal AI, en fournissant une base solide pour ses exigences complexes en matière de recherche vectorielle. Les capacités techniques de Milvus ont rapidement apaisé leurs incertitudes initiales quant aux performances de la base de données. Dans un paysage où les startups doivent souvent faire face à des besoins évolutifs, Milvus s'est avéré être une solution immédiate et un atout à long terme.

La décision de choisir Milvus a été validée par son intégration transparente dans les systèmes existants de Credal AI, remplissant les conditions techniques préalables et les objectifs commerciaux plus larges. La capacité d'évolutivité élevée de la plate-forme - grâce à son architecture de stockage et de calcul découplée - a donné à Credal AI la confiance nécessaire pour anticiper et s'adapter aux besoins émergents des clients. L'entreprise peut désormais se concentrer sur ce qu'elle fait le mieux : itérer son produit de base et stimuler l'engagement des utilisateurs. Soyez assuré que son backend peut faire face à tout ce qu'elle entreprend.

Aller de l'avant : Les projets futurs de Milvus

Credal AI envisage une future collaboration avec Zilliz, le mainteneur de Milvus, afin d'utiliser Zilliz Cloud pour ses clients basés sur le cloud. Cette démarche s'inscrit dans la mission actuelle de l'équipe, qui consiste à intégrer les fonctionnalités de GenAI dans des applications d'entreprise réelles, une tâche complexe qui nécessite des mesures de sécurité robustes et une gouvernance complète des données. L'utilisation de [Zilliz Cloud] (https://zilliz.com/cloud) sur AWS, une version entièrement gérée de Milvus, s'inscrit parfaitement dans cette stratégie plus large, promettant de rationaliser les opérations et d'améliorer les offres de services pour leurs clients en nuage.

Entre-temps, Milvus reste un élément central de la stratégie de Credal AI. Alors qu'ils poussent à fond sur tous les fronts pour rendre GenAI opérationnel pour les entreprises, l'évolutivité et la flexibilité offertes par Milvus sont plus précieuses que jamais. Leur relation avec Milvus n'est pas considérée comme une solution ponctuelle, mais comme un partenariat à long terme visant à relever des défis en constante évolution et à atteindre de nouveaux sommets.