Frank Liu : pourquoi j’ai rejoint une entreprise de bases de données vectorielles
« Les modèles de machine learning sont comme un langage pour les ordinateurs, et les embeddings en sont les mots. » J’utilise souvent cette analogie pour décrire les modèles de machine learning (ML) et leurs embeddings correspondants, que ce soit lors d’une conversation en tête-à-tête ou pendant une keynote. Je travaille dans le machine learning et autour de celui-ci (principalement dans le sous-domaine de la vision par ordinateur) depuis près d’une décennie, depuis l’obtention de mon diplôme. Cette analogie est une manière succincte d’expliquer l’importance des embeddings à un public plus large.
Tout comme le cerveau humain possède une région dédiée aux souvenirs et aux émotions (l’hippocampe), les machines ont également besoin d’une solution permanente pour stocker et indexer les mots et les pensées d’une machine. C’est là qu’intervient la base de données vectorielle : c’est un hippocampe pour les machines. C’est exactement ce que nous construisons chez Zilliz.
La mission de Zilliz n’aurait pas résonné en moi si je n’avais pas compris la puissance des embeddings. Dans cet article de blog, je vais vous faire découvrir mon parcours dans ce domaine et vous montrer comment j’ai fini chez Zilliz.
Un bref aperçu des embeddings
Pendant des décennies, nous avons essayé d’« enseigner » aux ordinateurs à comprendre le monde comme nous le faisons. Les premières tentatives de création de chatbots, par exemple, étaient centrées sur la reconnaissance de mots-clés et d’expressions, créant l’illusion d’une compréhension générale. Jusqu’à récemment, nous avons réalisé des progrès incroyables vers un chatbot à usage général avec des LLM tels que Claude, Bard et ChatGPT, faisant émerger la possibilité d’« agents » intelligents capables de planifier et d’exécuter des tâches complexes. Au cœur de ces chatbots se trouvent des réseaux neuronaux spécialisés : des modèles de ML entraînés avec l’une des nombreuses variantes de la descente de gradient stochastique. Si vous ne connaissez pas les réseaux neuronaux, vous pouvez les considérer comme de grands modèles informatiques qui utilisent des « couches » successives pour construire de puissantes représentations impossibles à obtenir avec des algorithmes conçus manuellement.
Au cœur de tous les modèles de ML se trouvent des concepts appelés embeddings, qui sont des vecteurs de grande dimension. Ils fournissent une manière abstraite mais convaincante de représenter les données d’entrée dans le modèle. Ces embeddings possèdent des propriétés uniques, mais je ne les aborderai pas dans cet article. Si vous souhaitez en savoir plus, vous pouvez lire mon article sur la recherche vectorielle, qui couvre la plupart des bases.
Mes (nombreuses) rencontres avec la recherche vectorielle
Ma première rencontre avec le potentiel des embeddings remonte à 2014, lorsque j’ai commencé à travailler avec des réseaux neuronaux chez Yahoo. À l’époque, le machine learning était encore le « Far West », et aucun outil n’était disponible pour les réseaux neuronaux. Les plateformes d’orchestration basées sur des conteneurs commençaient tout juste à gagner en popularité (la première version de Docker est sortie en 2013). C’était une période incroyablement passionnante pour s’impliquer dans la vision par ordinateur et le machine learning.
Dans le cadre de nos efforts pour améliorer les plateformes et services Yahoo avec des capacités de machine learning, nous sommes devenus un utilisateur précoce de la recherche vectorielle. Cette décision a donné lieu à un projet de plusieurs mois visant à apporter la recherche sémantique à grande échelle à Flickr, un produit que Yahoo possédait à l’époque. Bien que je n’aie pas été directement impliqué dans ce projet, je l’ai suivi de près. Une première itération de cette recherche vectorielle a été intégrée à Vespa, un autre acteur dans le domaine des bases de données vectorielles.
À peu près à la même époque, de nombreuses grandes entreprises ont commencé à réaliser le potentiel de la recherche vectorielle, en particulier pour les applications en vision par ordinateur, comme la reconnaissance d’images. Bien que j’apprécie la puissance des réseaux neuronaux et des représentations par embeddings, j’avais envie de travailler davantage dans le matériel, car j’avais étudié le génie électrique à l’université. En conséquence, j’ai quitté ce domaine et fondé une entreprise de localisation en intérieur basée à Shanghai. Au cours des 2 à 3 années suivantes, j’ai appris une grande leçon : créer une entreprise de matériel est difficile.
En 2019, nous avons changé de cap pour utiliser le machine learning et les données en streaming provenant d’unités de mesure inertielle (IMU). Les embeddings ont joué un rôle crucial dans notre réussite, et nous avons obtenu des contrats pour déployer notre solution auprès de divers clients, dont de nombreuses entreprises du Fortune 500. J’ai continué à travailler sur la startup pendant deux années supplémentaires, jusqu’à ce que nous atteignions enfin l’équilibre financier. À ce moment-là, j’ai décidé qu’il était temps de me lancer dans une nouvelle aventure.
Avançons rapidement jusqu’en 2021, et j’ai eu l’occasion de m’entretenir avec Charles (notre CEO) et Robert (Head of Product). Au fil des années, les embeddings et la recherche vectorielle sont devenus centraux dans mon identité et ma réussite au sein de l’écosystème ML au sens large. La mission de Zilliz a donc immédiatement résonné en moi. Après avoir étudié plus largement le domaine des bases de données vectorielles, j’ai été surpris de constater que le marché manque d’une solution de recherche vectorielle abordable et évolutive, alors même qu’il s’agit d’un outil bien connu et puissant. La capacité des bases de données vectorielles à servir de solution de stockage de facto à l’ère de l’IA/ML m’est apparue clairement. J’ai donc franchi le pas ici.
Démocratiser l’infrastructure d’IA d’entreprise
Chez Zilliz, nous avons rencontré certains défis lors de l’adoption de bases de données vectorielles évolutives et cloud-native. Aussi puissants que puissent être les embeddings, les ingénieurs ML (moi y compris) sous-estiment souvent l’importance de l’infrastructure et des outils. Nous sommes des bâtisseurs dans l’âme et préférons presque toujours consacrer du temps à préparer les données d’entraînement ou à perfectionner l’architecture du modèle plutôt qu’à nous préoccuper de la manière de déployer une application en production. Dans le domaine des embeddings, Zilliz se situe résolument au centre d’un effort plus large visant à démocratiser l’infrastructure d’IA d’entreprise.
Bienvenue parmi nous !
Si ce message résonne en vous, faites-le-nous savoir ! Nous avons plusieurs postes ouverts en GTM, produit et ingénierie. Si vous êtes également passionné par les systèmes de recommandation, la recherche sémantique et, plus généralement, par le fait de rendre les ordinateurs plus « humains », n’hésitez pas à consulter notre page carrières.
Continuer à lire
Zilliz Skills Breakdown: How AI Agents Master Vector Databases
Zilliz's Milvus Skill (pymilvus, 7 files) and Zilliz Cloud Skill (zilliz-cli, 14 modules) bring vector-DB dev and ops into one Claude Code session.
How Zilliz Saw the Future of Vector Databases—and Built for Production
An inside look at how Zilliz built vector databases for real-world use, focusing on scalability, stability, and running them reliably at scale.
Proactive Monitoring for Vector Database: Zilliz Cloud Integrates with Datadog
we're excited to announce Zilliz Cloud's integration with Datadog, enabling comprehensive monitoring and observability for your vectorDB deployments.