Abbattere le barriere: democratizzare l'accesso ai database vettoriali per tutti
Questo post è stato originariamente pubblicato su The New Stack e viene ripubblicato qui con autorizzazione.
I large language model (LLM) e le tecnologie legate all’AI sono sulla bocca di tutti. I database vettoriali, l’infrastruttura critica per gli LLM e le applicazioni di AI, hanno attirato un’attenzione diffusa da una base di utenti più ampia, espandendosi dagli ingegneri algoritmici fino a includere sviluppatori applicativi e backend.
Diamo uno sguardo ai vantaggi dei database vettoriali, al motivo per cui democratizzarli è cruciale e a come renderli accessibili a tutti. Offriamo inoltre uno strumento di benchmark per aiutarti a scegliere il database vettoriale più adatto ai tuoi progetti.
Che cos’è un database vettoriale?
A differenza dei database relazionali tradizionali o NoSQL che archiviano e organizzano i dati in formati strutturati, un database vettoriale è progettato appositamente per archiviare e gestire dati non strutturati, come immagini, audio, video e testo in rappresentazioni numeriche chiamate embedding.
I database vettoriali sono cruciali per eseguire ricerche di similarità utilizzando l’algoritmo approximate nearest neighbor (ANN). Questo algoritmo consente di trovare il punto più vicino a un determinato punto all’interno di un insieme dato, rendendo i database vettoriali preziosi per vari casi d’uso, tra cui sistemi di raccomandazione, rilevamento di anomalie e sistemi di domande e risposte.
Database vettoriali vs. tecniche tradizionali di ricerca vettoriale
La ricerca vettoriale non è un concetto nuovo. Prima dell’emergere dei database vettoriali specializzati, erano disponibili vari stack tecnologici per condurre ricerche vettoriali. Tra gli esempi figurano librerie vettoriali come Facebook FAISS, Spotify Annoy, Google ScaNN ed estensioni di ricerca vettoriale come pgvector. Grandi aziende come Google, Microsoft e Netflix hanno utilizzato queste tecnologie per attività come i sistemi di raccomandazione.
Sebbene le tecniche tradizionali di ricerca vettoriale dispongano di funzionalità di base come l’archiviazione, l’indicizzazione e la ricerca di vettori, presentano dei limiti. Ad esempio, quando devi gestire un grande dataset con milioni o miliardi di vettori ad alta dimensionalità e, allo stesso tempo, hai bisogno di risposte rapide e di un’elevata recall, i sistemi di recupero tradizionali difficilmente possono soddisfare le tue aspettative. In questo caso è necessario un database vettoriale progettato appositamente.
Rispetto agli stack tradizionali di ricerca vettoriale, i database vettoriali progettati appositamente offrono funzionalità migliorate e varie, tra cui:
Supporto completo CRUD (create, read, update, and delete)
Filtraggio scalare e vettoriale
Supporto per SDK di più linguaggi di programmazione e API restful
Funzionalità di livello enterprise come alta disponibilità e scalabilità, gruppi di risorse, controllo degli accessi basato sui ruoli (RBAC) e deployment in produzione
E altro ancora.
I database vettoriali sono diventati sempre più popolari ed essenziali grazie all’ascesa di ChatGPT e al crescente interesse per l’AI generativa e gli LLM. Di conseguenza, sempre più sviluppatori e organizzazioni cercano di accedervi.
Perché i database vettoriali sono essenziali nell’era dell’AI?
I database vettoriali sono diventati indispensabili per gli LLM e gli stack tecnologici di AI correlati. Fungono da memoria a lungo termine degli LLM, ampliando la conoscenza e le capacità di recupero degli LLM e consentendo risposte più accurate relative ai tuoi dati e alla tua attività.
ChatGPT potrebbe generare risposte allucinatorie a causa della sua conoscenza offline di preaddestramento limitata o obsoleta. Inoltre, il limite di token di ChatGPT rende difficile per gli utenti fornire troppo contesto. Per risolvere questo problema, lo stack CVP (ChatGPT/LLM + un database vettoriale + prompt as code) sta guadagnando popolarità, utilizzando un database vettoriale per archiviare fatti specifici del dominio o proprietari al di fuori dell’LLM per il recupero. Questa espansione porta a risultati più accurati.
Gli stack IA popolari come LlamaIndex, AutoGPT e LangChain sono esempi che sfruttano i database vettoriali per l'archiviazione vettoriale a lungo termine e/o l'aumento della conoscenza degli LLM.
Democratizzare i database vettoriali per tutti
I database vettoriali sono cruciali nell'attuale rivoluzione dell'IA. Tuttavia, solo alcuni hanno pari accesso a questa tecnologia a causa di varie barriere, come tecnologia proprietaria, architettura e distribuzione complesse, costi elevati per singoli sviluppatori o piccoli team e scarsa esperienza utente. Pertanto, è fondamentale democratizzare i database vettoriali per fare progressi, con pionieri e fornitori che guidano il percorso.
Rendere i database vettoriali accessibili a tutti non può avvenire dall'oggi al domani. Non è realistico aspettarsi che ogni database memorizzi e cerchi vettori immediatamente o che i fornitori di database vettoriali aprano improvvisamente le loro tecnologie a tutti. Tuttavia, ci sono alcuni suggerimenti preziosi per migliorare la democratizzazione dei database vettoriali.
Evangelizzare la conoscenza, le competenze e le tecnologie dei database vettoriali
Per lavorare efficacemente con i database vettoriali, gli sviluppatori dovrebbero acquisire familiarità con i vantaggi, gli ecosistemi, i casi d'uso e i limiti di questa tecnologia. Quindi, diffondere la consapevolezza sulla conoscenza, le competenze e le tecnologie dei database vettoriali è fondamentale attraverso vari contenuti, tra cui articoli accademici, post di blog, tutorial e interventi. In Zilliz, abbiamo creato una libreria di contenuti che copre tutto, dalle basi delle tecnologie di ricerca vettoriale (come i dati non strutturati e Hierarchical Navigable Small Worlds) agli stack IA popolari (come LangChain, LlamaIndex e AutoGPT). Offriamo anche vari eventi offline e webinar che sono risorse preziose per gli sviluppatori interessati a questo stack vettoriale.
Aprire il codice sorgente a tutti gli sviluppatori
L'open source è un modo cruciale per promuovere la democratizzazione dei database vettoriali. Eliminando le barriere finanziarie, l'open source rende i database vettoriali accessibili a sviluppatori e organizzazioni di tutte le dimensioni. Significa anche fornire completa trasparenza, consentendo agli utenti di utilizzare e modificare il codice sorgente in base alle proprie esigenze.
L'open source promuove l'innovazione e la condivisione della conoscenza, creando al contempo una comunità prospera che contribuisce al miglioramento e alla crescita del prodotto. Questo approccio avvantaggia tutti i soggetti coinvolti, incluso il fornitore del database vettoriale.
Milvus è un pioniere notevole in quest'area, con oltre 3,4 milioni di pull Docker e oltre 21.000 stelle su GitHub. È anche un progetto popolare che si è diplomato dalla Linux Foundation AI & Data Foundation. Rendendolo open source, Zilliz ha reso questa tecnologia di database vettoriale accessibile a sviluppatori e imprese di tutte le dimensioni. Questa decisione ha promosso una comunità attiva di innovatori entusiasti che contribuiscono agli aggiornamenti e all'evoluzione di Milvus. Un eccellente esempio di tale collaborazione è Milvus Lite, una versione leggera di Milvus fornita da Bin Ji, un membro attivo della comunità.
Fornire servizi di database vettoriali completamente gestiti
Rendere i database vettoriali accessibili a tutti significa renderli facili da configurare, usare e mantenere. Sebbene ospitare questi database sul proprio sistema locale presenti dei vantaggi, può richiedere molto tempo ed essere costoso. Un servizio di database vettoriale completamente gestito, come Zilliz Cloud, può risolvere questo problema semplificando il deployment e la scalabilità delle applicazioni di ricerca vettoriale, liberando gli ingegneri affinché possano concentrarsi sul business.
Offrire opzioni cloud gratuite a sviluppatori individuali e piccoli team
Sebbene i servizi di database vettoriale completamente gestiti siano eccellenti, possono essere costosi per sviluppatori individuali e piccoli team. Per rendere i database vettoriali più accessibili, i provider potrebbero considerare di offrire a questi gruppi opzioni gratuite o almeno fornire opzioni convenienti. Questo approccio rappresenterebbe un passo significativo verso la democratizzazione dei database vettoriali e l’ampliamento della base di utenti. In cambio, le aziende di database vettoriali potrebbero ottenere maggiore attenzione e popolarità.
Fornire un’ottima esperienza utente che soddisfi le esigenze degli utenti
Dare priorità a un’esperienza utente fluida è anche fondamentale per la democratizzazione dei database vettoriali. Questo approccio significa offrire funzionalità che risolvano i problemi degli utenti, facciano risparmiare tempo e denaro e li aiutino ad avere successo. Le funzionalità chiave includono archiviazione, indicizzazione e interrogazione rapide dei vettori, bassa latenza con alto recall, organizzazione e accesso basato sui ruoli per una gestione più semplice dei team, supporto JSON per una migliore gestione dei dati e la possibilità di filtrare rapidamente le query usando chiavi di partizione.
Come scegliere il database vettoriale giusto per il tuo progetto
Scegliere il database vettoriale giusto per i tuoi progetti può essere complesso a causa delle molte opzioni disponibili. Fortunatamente, esiste una soluzione che può aiutarti a prendere una decisione informata: VectorDBBench, uno strumento di benchmarking open-source che valuta e confronta in modo approfondito diversi sistemi di database vettoriali in base a metriche critiche come query al secondo (QPS), latenza, throughput e capacità.
Conclusione
L’accesso ai database vettoriali sta aumentando grazie a un ingresso più semplice, funzionalità intuitive e prezzi accessibili. Progetti open-source come Milvus e servizi cloud come Zilliz Cloud guidano questa tendenza.
Con l’aumento della democratizzazione, possiamo aspettarci una crescita di applicazioni innovative e scoperte che utilizzano database vettoriali. Questa democratizzazione porterà a progressi in vari settori e plasmerà il futuro dell’innovazione basata sui dati.
Continua a leggere
Top 10 Context Engineering Techniques You Should Know for Production RAG
A practical guide to context engineering for production LLM systems, covering RAG, context processing, memory, agents, and multimodal context.
The Real Bottlenecks in Autonomous Driving — And How AI Infrastructure Can Solve Them
Autonomous driving faces a data bottleneck. Learn how AI-native vector databases like Zilliz solve scale, cost, and insight challenges across AV pipelines.
OpenAI o1: What Developers Need to Know
In this article, we will talk about the o1 series from a developer's perspective, exploring how these models can be implemented for sophisticated use cases.