Frank Liu: Perché sono entrato in un'azienda di database vettoriali
"I modelli di machine learning sono come una lingua per i computer, e gli embedding sono le parole." Uso spesso questa analogia per descrivere i modelli di machine learning (ML) e i loro embedding corrispondenti, sia in una conversazione individuale sia durante una presentazione keynote. Lavoro nel machine learning e in ambiti affini (principalmente nel sottocampo della computer vision) da quasi un decennio, da quando mi sono laureato. Questa analogia è un modo conciso per spiegare l'importanza degli embedding a un pubblico più ampio.
Proprio come il cervello umano ha una regione dedicata ai ricordi e alle emozioni (l'ippocampo), anche le macchine hanno bisogno di una soluzione permanente per archiviare e indicizzare le parole e i pensieri di una macchina. È qui che entra in gioco il database vettoriale: è un ippocampo per le macchine. È esattamente ciò che stiamo costruendo in Zilliz.
La missione di Zilliz non avrebbe risuonato in me se non avessi compreso il potere degli embedding. In questo post del blog, ti accompagnerò nel mio percorso in questo spazio e ti mostrerò come sono arrivato a Zilliz.
Una breve introduzione agli embedding
Per decenni abbiamo cercato di "insegnare" ai computer a comprendere il mondo come facciamo noi. I primi tentativi di creare chatbot, per esempio, erano incentrati sul riconoscimento di parole chiave e frasi, creando l'illusione di una comprensione generale. Fino a poco tempo fa, abbiamo compiuto progressi incredibili verso un chatbot general-purpose con LLM come Claude, Bard e ChatGPT, aprendo la possibilità di "agenti" intelligenti in grado di pianificare ed eseguire compiti complessi. Alla base, questi chatbot sono reti neurali specializzate: modelli di ML addestrati con una delle molte varianti della discesa del gradiente stocastica. Se non hai familiarità con le reti neurali, puoi pensarle come grandi modelli informatici che usano "strati" successivi per costruire rappresentazioni potenti, impossibili con algoritmi creati manualmente.
Alla base di tutti i modelli di ML ci sono concetti noti come embedding, che sono vettori ad alta dimensionalità. Forniscono un modo astratto ma convincente per rappresentare i dati di input nel modello. Questi embedding hanno proprietà uniche, ma non le tratterò in questo post. Se ti interessa saperne di più, puoi leggere il mio post sulla ricerca vettoriale, che copre la maggior parte delle basi.
I miei (molti) incontri con la ricerca vettoriale
Il mio primo incontro con il potenziale degli embedding è avvenuto nel 2014, quando ho iniziato a lavorare con le reti neurali in Yahoo. All'epoca, il machine learning era ancora il "far west" e non erano disponibili strumenti per le reti neurali. Le piattaforme di orchestrazione basate su container stavano appena iniziando a guadagnare popolarità (la prima versione di Docker è stata rilasciata nel 2013). Era un periodo incredibilmente entusiasmante per essere coinvolti nella computer vision e nel machine learning.
Nell'ambito dei nostri sforzi per migliorare le piattaforme e i servizi Yahoo con capacità di machine learning, siamo diventati early adopter della ricerca vettoriale. Questa decisione ha portato a un progetto durato mesi per introdurre la ricerca semantica su larga scala in Flickr, un prodotto che Yahoo possedeva all'epoca. Sebbene non fossi direttamente coinvolto in questo progetto, l'ho seguito da vicino. Una prima iterazione di questa ricerca vettoriale è stata incorporata in Vespa, un altro attore nello spazio dei database vettoriali.
Nello stesso periodo, molte grandi aziende hanno iniziato a rendersi conto del potenziale della ricerca vettoriale, soprattutto per applicazioni nella computer vision, come il riconoscimento delle immagini. Sebbene apprezzassi il potere delle reti neurali e delle rappresentazioni tramite embedding, desideravo lavorare di più nell'hardware, dato che avevo studiato Ingegneria Elettrica all'università. Di conseguenza, ho lasciato quel campo e ho fondato un'azienda di localizzazione indoor con sede a Shanghai. Nei successivi 2-3 anni, ho imparato una grande lezione: avviare un'azienda hardware è difficile.
Nel 2019, abbiamo cambiato direzione passando all'uso del machine learning e dei dati in streaming provenienti da unità di misura inerziale (IMU). Gli embedding hanno svolto un ruolo cruciale nel nostro successo e ci siamo assicurati contratti per implementare la nostra soluzione per vari clienti, tra cui molte aziende Fortune 500. Ho continuato a lavorare alla startup per altri due anni, finché non abbiamo finalmente raggiunto il pareggio. A quel punto, ho deciso che era arrivato il momento di una nuova avventura.
Avanti veloce fino al 2021, e ho avuto l'opportunità di sedermi con Charles (il nostro CEO) e Robert (Head of Product). Nel corso degli anni, gli embedding e la ricerca vettoriale sono diventati centrali per la mia identità e il mio successo nel più ampio ambito del ML. Quindi, la missione di Zilliz ha risuonato immediatamente con me. Dopo aver esaminato il più ampio panorama dei database vettoriali, sono rimasto sorpreso dal fatto che il mercato non offra una soluzione di ricerca vettoriale accessibile e scalabile, nonostante si tratti di uno strumento ben noto e potente. La capacità dei database vettoriali di fungere da soluzione di archiviazione de facto nell'era dell'AI/ML mi era chiara. Così, ho fatto il grande passo qui.
Democratizzare l'infrastruttura AI enterprise
In Zilliz, abbiamo incontrato alcune sfide nell'adozione di database vettoriali scalabili e cloud-native. Per quanto potenti possano essere gli embedding, gli ingegneri ML (me incluso) spesso sottovalutano l'importanza dell'infrastruttura e degli strumenti. Siamo costruttori nel profondo e quasi sempre preferiamo dedicare tempo a gestire i dati di training o a perfezionare l'architettura del modello, piuttosto che preoccuparci di come distribuire un'applicazione in produzione. Nel campo degli embedding, Zilliz si colloca saldamente al centro di un più ampio sforzo per democratizzare l'infrastruttura AI enterprise.
Ti invitiamo a unirti a noi!
Se questo messaggio risuona con te, faccelo sapere! Abbiamo diverse posizioni aperte in GTM, product ed engineering. Se anche tu sei appassionato di sistemi di raccomandazione, ricerca semantica e, in generale, di rendere i computer più "umani", dai pure un'occhiata alla nostra pagina delle carriere.
Continua a leggere
Zilliz Cloud Launches in AWS Australia, Expanding Global Reach to Australia and Neighboring Markets
We're thrilled to announce that Zilliz Cloud is now available in the AWS Sydney, Australia region (ap-southeast-2).
Data Deduplication at Trillion Scale: How to Solve the Biggest Bottleneck of LLM Training
Explore how MinHash LSH and Milvus handle data deduplication at the trillion-scale level, solving key bottlenecks in LLM training for improved AI model performance.
Vector Databases vs. Graph Databases
Use a vector database for AI-powered similarity search; use a graph database for complex relationship-based queries and network analysis.