Come Milvus alimenta la missione di Credal per una “IA utile, resa sicura”
Nel mondo odierno guidato dai dati, integrare l'intelligenza artificiale (AI) nei processi aziendali è diventato essenziale per rimanere competitivi. Ma con la potenza dell'AI arriva anche la sfida di gestire i dati in modo sicuro, controllare l'accesso e garantire la privacy. È qui che entra in gioco Credal, offrendo una soluzione che consente alle organizzazioni di sfruttare il potenziale della Generative AI mitigando al contempo i rischi. Al cuore della loro soluzione si trova Milvus, un database vettoriale open-source che è fondamentale nel rendere possibile la visione di Credal per una "AI utile, resa sicura."
Credal: colmare il divario tra GenAI e sicurezza dei dati aziendali
Credal mira a rendere l'integrazione della GenAI più sicura e più accessibile per le imprese. Il loro focus principale è integrare in modo fluido i dati provenienti da varie fonti, come Microsoft Office, Google Drive, Google Workspace, Slack, Confluence e altre ancora, rendendo questi dati disponibili agli utenti con autorizzazioni e riflessi completi. Il risultato è un ambiente facile da usare, adatto all'IT e sicuro per insight e processi decisionali guidati dall'AI.
Credal: una soluzione end-to-end per un'implementazione GenAI sicura e di livello enterprise
Dal punto di vista dell'utente, questo significa che può attingere a una grande quantità di dati, sfruttando la potenza della GenAI senza dover diventare esperto di programmazione o algoritmi complessi. Credal consente inoltre agli utenti di creare agenti ed esperti utilizzando i propri dati, assicurando che possano trarre il massimo dalla tecnologia GenAI.
Per amministratori e team IT, Credal offre strumenti di osservabilità e governance. Questi strumenti includono funzionalità per applicare policy di utilizzo accettabile, audit trail, logging, catalogazione dei dati e governance dei dati — tutti elementi cruciali per implementare efficacemente la GenAI nelle grandi imprese. La Chat UI e le API di Credal implementano funzioni vitali come la redazione delle PII, l'audit logging e i controlli di accesso ai dati, fornendo una soluzione pragmatica per integrare gli LLM con i dati aziendali.
La necessità di un database vettoriale pronto per la produzione
L'azienda ha affrontato sfide tecniche significative prima che Credal incorporasse Milvus nella sua piattaforma. La necessità di un database vettoriale è emersa inizialmente quando Credal ha cercato di implementare una soluzione di ricerca semantica ospitata da terze parti. Questo ha portato alla consapevolezza che i database vettoriali potevano avere applicazioni più ampie, inclusa la possibilità per gli utenti di cercare nei propri dati e creare workflow personalizzati all'interno della piattaforma Credal.
Durante la sperimentazione con la ricerca vettoriale, hanno scoperto che molte soluzioni disponibili sul mercato erano adatte alla prototipazione e alle prove di concetto, ma necessitavano di maggiore robustezza per implementazioni su scala enterprise. La necessità di un database vettoriale scalabile e pronto per la produzione è diventata evidente.
Scegliere Milvus: una decisione informata
Per rispondere alle loro esigenze di database vettoriale, Credal ha intrapreso un processo di valutazione. I loro criteri includevano self-hosting, sviluppo attivo, scalabilità e supporto della community. In questa valutazione, Milvus è emerso come il chiaro vincitore. Credal è rimasta colpita dallo sviluppo attivo di Milvus e dal livello di coinvolgimento della community. Le GitHub stars di Milvus indicavano una community open-source fiorente, il che faceva ben sperare per affidabilità e supporto a lungo termine. Milvus offriva anche un Helm chart ufficiale per il deployment su Kubernetes, dimostrando un impegno verso percorsi di installazione e deployment facili da usare.
La disponibilità della ricerca ibrida, che combina la ricerca vettoriale con il filtro dei metadati, è stata un altro fattore chiave che ha influenzato la decisione di Credal. Questa funzionalità si è rivelata vistosamente assente nelle altre opzioni che hanno preso in considerazione.
Scalabilità e separazione di storage e compute
Credal ha riconosciuto l'importanza della scalabilità e della separazione delle risorse di storage e calcolo. Il design di Milvus, che separa intenzionalmente storage e calcolo, offriva la flessibilità e la scalabilità di cui avevano bisogno. A differenza delle soluzioni a nodo singolo, l'architettura di Milvus ha consentito una risposta più agile alle mutevoli esigenze.
Il Co-founder & CTO di Credal, Jack Fischer, sottolinea l'importanza di questa decisione progettuale: “Soprattutto quando stavamo appena iniziando, non sapevamo esattamente come sarebbero stati i nostri pattern di accesso. Man mano che il nostro prodotto evolve, i nostri pattern di accesso evolvono sicuramente...Quindi siamo stati felici di vedere la separazione tra storage e calcolo. Eravamo fiduciosi di poterla far funzionare per noi, indipendentemente dalla direzione in cui avremmo portato il prodotto.”
Milvus: la scelta evidente per le esigenze di database vettoriale di Credal
Milvus ha superato tutte le alternative open-source prese in considerazione. La valutazione di Credal ha rivelato che solo una piattaforma soddisfaceva tutti i loro requisiti per un database vettoriale. La capacità di Milvus di supportare vari casi d'uso e la sua eccellenza tecnica lo hanno reso la scelta ideale per la missione di Credal.
"Per nostra fortuna, non abbiamo dovuto scegliere la meno peggio, ma quella che in realtà eccelleva davvero in tutto ciò che volevamo," afferma Fischer, "Se prendi il centro del diagramma di Venn, con otto cerchi e tutti sovrapposti, vedo che ce n'è solo uno al centro ed è Milvus, quindi Milvus soddisfaceva tutto, e nient'altro soddisfaceva tutto. Quindi, se ti interessano solo alcune di queste cose, potresti scegliere altre opzioni, ma se vuoi che tutto funzioni, deve essere Milvus."
L'integrazione di Milvus nell'ecosistema applicativo di Credal si è rivelata rivoluzionaria. Con gli embedding di testo di Milvus, Credal può elaborare e condensare in modo efficiente grandi porzioni di contenuto, rendendole accessibili ad applicazioni LLM avanzate. La versatilità degli embedding di testo migliora significativamente le capacità di ricerca, filtraggio e data curation di Credal.
L'architettura di Credal non si concentra solo sulla tecnologia avanzata, ma anche su integrazioni dati di alta qualità. Danno priorità all'interpretazione dei dati provenienti dai sistemi sorgente nel loro formato proprietario e garantiscono che questi dati vengano comunicati efficacemente ai modelli GenAI. Questo approccio meticoloso distingue Credal dal tipico sviluppo di demoware e consente loro di offrire risultati precisi e intuitivi.
Vantaggi e piani futuri
Milvus consente a Credal di offrire ai propri clienti una soluzione scalabile e facile da usare. Questo elimina la necessità di estesi sforzi di engineering da zero e riduce l'overhead operativo. La scalabilità e la robustezza di Milvus garantiscono che la piattaforma possa crescere con Credal man mano che il suo prodotto evolve.
Per quanto riguarda i piani futuri, Credal sta valutando l'uso di Zilliz Cloud per i suoi clienti basati sul cloud. Sicurezza, governance e funzionalità GenAI efficaci sono centrali nella loro roadmap. Credal serve principalmente aziende con 1.000-5.000 dipendenti e si impegna a far funzionare GenAI senza problemi in scenari aziendali reali. Con Milvus al centro, Credal è pronta a guidare il settore nella fornitura di "Useful AI, made safe" alle aziende di tutto il mondo.
Continua a leggere
Build Multimodal Search for 3D Assets with Tripo and Zilliz Cloud
Generate 3D assets with Tripo, then search them by text, image, and metadata with multimodal embeddings and Zilliz Cloud.
How to Improve Retrieval Quality for Japanese Text with Sudachi, Milvus/Zilliz, and AWS Bedrock
Learn how Sudachi normalization and Milvus/Zilliz hybrid search improve Japanese RAG accuracy with BM25 + vector fusion, AWS Bedrock embeddings, and practical code examples.
Top 10 Context Engineering Techniques You Should Know for Production RAG
A practical guide to context engineering for production LLM systems, covering RAG, context processing, memory, agents, and multimodal context.