Credal AI sblocca una GenAI sicura e governabile con Milvus
Flessibile Scalare
con calcolo e storage separati
Potenziato
precisione della query con la ricerca ibrida
Distribuzione accelerata delle funzionalità
con la principale comunità open-source
When you're engineering a solution as complex as ours, you're not just ticking boxes—you're looking for that sweet spot where all your must-haves intersect. Think of it as an eight-circle Venn diagram; while many databases met one or two of our criteria, Milvus was the only one sitting right at the intersection of all eight. It checked every single box for us—something no other solution managed to do.
Jack Fischer
Informazioni su Credal AI
Credal AI mira a rendere GenAI sicuro e accessibile per le aziende. Fornisce solide funzionalità di integrazione e governance dei dati, estraendo i dati da varie piattaforme come Microsoft Office, Google Workspace e Slack. Offre un "Okta per l'AI", in cui l'accesso e le autorizzazioni sono rigorosamente controllati, con l'obiettivo di fornire a sviluppatori e utenti finali un'interfaccia snella e sicura. Credal AI è quindi una soluzione end-to-end per l'implementazione sicura di GenAI a livello aziendale.
Navigare nella scala e nella complessità: Le sfide
Credal AI ha affrontato diverse sfide all'inizio dello sviluppo del suo prodotto. Una caratteristica critica era la ricerca semantica, che si è rivelata difficile da implementare su scala utilizzando i plugin essenziali di ricerca vettoriale. Queste sfide sono state esacerbate quando la ricerca semantica è stata inserita in flussi di lavoro personalizzati che richiedevano elevate prestazioni del database. I meccanismi di ricerca tradizionali dovevano essere migliorati per costruire questi flussi di lavoro guidati da GenAI, che dovevano elaborare grandi insiemi di dati in tempo reale sulla base di criteri complessi e definiti dall'utente.
Inoltre, i loro diversi ambienti di hosting, comprese le configurazioni basate su cloud e on-prem, richiedevano un database vettoriale che potesse essere auto-ospitato e supportato da una comunità open-source attiva. Avevano bisogno di un database veloce, scalabile e versatile per gestire pipeline di dati complesse e condizioni di hosting diverse.
La scelta di Milvus: un database vettoriale incentrato sugli sviluppatori che soddisfa tutte le esigenze
Dopo una valutazione completa, Credal AI ha concluso che Milvus in esecuzione su Amazon EKS era il vincitore per le sue esigenze di database vettoriale. Ciò che è emerso immediatamente è la comunità open-source attiva intorno al progetto. Non si trattava di un 'nice-to-have', ma di un fattore critico per la risoluzione rapida dei problemi e lo sviluppo continuo delle funzionalità. Inoltre, l'elevato numero di stelle di GitHub non era solo un indicatore di vanità, ma un segno tangibile di una comunità di sviluppatori attiva e vivace, che aggiungeva un livello di fiducia nella longevità della soluzione.
Un'altra considerazione critica è stata la Helm Chart ufficiale di Milvus per Kubernetes. Sebbene la creazione di un diagramma di Helm personalizzato non fosse un problema, un diagramma ufficialmente supportato era una testimonianza dell'impegno di Milvus per il successo degli sviluppatori. Ciò suggeriva che il team di Milvus non mirava solo a un guadagno a breve termine, ma era sinceramente interessato a risolvere le sfide degli utenti del mondo reale. Questo supporto è stato prezioso per una startup come Credal AI, soprattutto perché le ha permesso di ottimizzare il processo di distribuzione, risparmiando tempo e risorse ingegneristiche.
Anche le caratteristiche di Milvus hanno attirato la loro attenzione, in particolare la disponibilità di una ricerca ibrida. La capacità di eseguire ricerche vettoriali filtrando altri metadati era un'esigenza cruciale. Molte soluzioni offrivano una ricerca vettoriale veloce, ma si limitavano a estenderla ai dati strutturati. La capacità di ricerca ibrida di Milvus era il pezzo mancante del puzzle che soddisfaceva i requisiti tecnici e risolveva i problemi aziendali reali.
Infine, ma non meno importante, l'architettura di Milvus, che separa storage e calcolo, ha fornito la scalabilità e la flessibilità che Credal AI stava cercando. Questa scelta progettuale non era solo una nozione architettonica, ma era fondamentale per la fiducia nella scalabilità del prodotto in futuro. Ha permesso loro di evolvere i modelli di accesso man mano che perfezionavano l'applicazione. Per quanto riguarda i "must" per il loro database vettoriale - le prestazioni, le funzionalità, la comunità e l'architettura - Milvus ha risposto a tutti i requisiti.
Risultato: Scalabilità e flessibilità nel mondo reale con Milvus
L'implementazione di Milvus su Amazon EKS ha cambiato le carte in tavola per Credal AI, fornendo una solida struttura portante per le sue complesse esigenze di ricerca vettoriale. Le capacità tecniche di Milvus hanno rapidamente dissipato le incertezze iniziali sulle prestazioni del database. In un panorama in cui le startup hanno spesso a che fare con esigenze in continua evoluzione, Milvus si è dimostrato una soluzione immediata e una risorsa a lungo termine.
La decisione di scegliere Milvus è stata convalidata dalla sua perfetta integrazione nei sistemi esistenti di Credal AI, soddisfacendo i prerequisiti tecnici e gli obiettivi aziendali più ampi. La capacità della piattaforma di essere altamente scalabile, grazie alla sua architettura di storage e calcolo disaccoppiata, ha dato a Credal AI la sicurezza di anticipare e adattarsi alle esigenze emergenti dei clienti. L'azienda può ora concentrarsi su ciò che sa fare meglio: l'iterazione del suo prodotto principale e il coinvolgimento degli utenti. Con la certezza che il suo backend è in grado di gestire qualsiasi cosa.
Andare avanti: Piani futuri con Milvus
Credal AI sta valutando una futura collaborazione con Zilliz, il manutentore di Milvus, per utilizzare Zilliz Cloud per i suoi clienti basati su cloud. Questo si allinea bene con la missione in corso del team di portare le funzionalità di GenAI nelle applicazioni aziendali del mondo reale, un compito complesso che richiede solide misure di sicurezza e una governance dei dati completa. L'utilizzo di Zilliz Cloud su AWS, una versione completamente gestita di Milvus, si inserisce perfettamente in questa strategia più ampia, promettendo di semplificare le operazioni e migliorare l'offerta di servizi per i clienti cloud.
Nel frattempo, Milvus rimane un elemento centrale della strategia di Credal AI. Mentre si spinge a fondo su tutti i fronti per rendere GenAI operativo per le imprese, la scalabilità e la flessibilità offerte da Milvus sono più preziose che mai. Il rapporto con Milvus non è visto come una soluzione una tantum, ma come una partnership a lungo termine orientata ad affrontare sfide in continua evoluzione e a raggiungere nuovi traguardi.
- Informazioni su Credal AI
- Navigare nella scala e nella complessità: Le sfide
- La scelta di Milvus: un database vettoriale incentrato sugli sviluppatori che soddisfa tutte le esigenze
- Risultato: Scalabilità e flessibilità nel mondo reale con Milvus
- Andare avanti: Piani futuri con Milvus
Contenuto
Caso d'Uso
Settore
Sicurezza