Come integrare l’API di embedding di OpenAI con Zilliz Cloud
Nel 2018, Zilliz ha sviluppato il database vettoriale Milvus per trasformare il modo in cui gestiamo ricerca e archiviazione (abbiamo già discusso in precedenza l’impatto degli embedding e dei database vettoriali). Inizialmente, Milvus si è concentrato sulla fornitura delle funzionalità principali essenziali per un database vettoriale, ponendo l’accento sul miglioramento dell’esperienza utente, sulla garanzia dell’affidabilità e sul potenziamento di prestazioni e scalabilità. Questo approccio ha portato a una crescita sostanziale all’interno della community di Milvus, inclusi utenti, contributori e stelle—ora prossime a 30.000.
Di recente, in particolare con il rilascio di Milvus 2.4, la community ha espresso un forte interesse nell’espandere l’ecosistema dei database vettoriali per includere più strumenti, visualizzazioni e connettori. Una richiesta chiave è stata una maggiore integrazione con i modelli di embedding. Questo feedback riflette le esigenze in evoluzione degli utenti e la crescente importanza dei modelli di embedding nel panorama dei database vettoriali.
Integrazioni dei modelli di embedding
Per rispondere a questa domanda crescente, siamo entusiasti di introdurre integrazioni con i modelli di embedding, che collegheranno senza soluzione di continuità il tuo database Milvus o Zilliz Cloud sia con modelli open-source sia commerciali. Queste integrazioni sono progettate per adattarsi alla vasta gamma di modelli di machine learning oggi disponibili, soddisfacendo diversi tipi di dati e casi d’uso. Che tu stia lavorando con testo, immagini o altri tipi di dati, questa funzionalità garantisce che tu possa sfruttare facilmente la potenza dei modelli di embedding per migliorare le tue capacità di ricerca per similarità semantica.
In risposta all’evoluzione del panorama dei modelli di embedding e delle esigenze degli utenti, offriremo due set paralleli di integrazioni. Il primo set si concentra sui popolari modelli di embedding open-source, offrendo flessibilità e convenienza per gli utenti che preferiscono soluzioni guidate dalla community. Il secondo set include integrazioni con modelli di embedding premium e commerciali, offrendo funzionalità avanzate e prestazioni migliorate per gli utenti con requisiti più specializzati. Questo duplice approccio garantisce che tutti gli utenti, indipendentemente dalle loro esigenze di embedding o dal loro budget, abbiano accesso a strumenti potenti per ottimizzare i propri database Milvus o Zilliz Cloud.
Perché l’integrazione con Zilliz Cloud è fondamentale
Integrare l’OpenAI Embedding API con Zilliz Cloud è importante per gli sviluppatori che desiderano migliorare le proprie capacità di ricerca vettoriale, come il Natural Language Processing. Combinando i potenti embedding pre-addestrati di OpenAI con il database vettoriale ad alte prestazioni di Zilliz Cloud, puoi creare sistemi di ricerca e recupero più accurati ed efficienti. Gli embedding di OpenAI catturano relazioni semantiche complesse nei tuoi dati, mentre Zilliz Cloud fornisce la scalabilità e la velocità necessarie per gestire grandi volumi di dati vettoriali. Questa integrazione consente agli sviluppatori di sfruttare modelli di IA avanzati per una migliore pertinenza nei risultati di ricerca, rendendo più semplice creare applicazioni che comprendono e rispondono alle query degli utenti con maggiore precisione.
Inoltre, questa integrazione semplifica il processo di sviluppo offrendo un modo ottimizzato per gestire e cercare all’interno di enormi dataset. Con Zilliz Cloud che gestisce l’infrastruttura backend e l’OpenAI Embedding API che fornisce le rappresentazioni sofisticate dei dati, gli sviluppatori possono concentrarsi maggiormente sulla creazione delle loro applicazioni e meno sulle complessità della gestione dei dati. Questa configurazione non solo migliora le prestazioni, ma riduce anche i tempi di sviluppo, consentendo
Esempi in Zilliz Cloud
La prima serie di integrazioni è una serie di esempi pronti per POC e script eseguibili che utilizzano Milvus e Zilliz Cloud. Questi esempi sono pensati per fornire un punto di partenza completamente personalizzabile affinché gli ingegneri software possano creare applicazioni per una varietà di casi d'uso. La maggior parte di questi esempi sarà costituita da script piuttosto semplici che combinano modelli di embedding upstream e il Milvus SDK. Puoi trovarli nei nostri notebook, dove ogni esempio potrebbe apparire più o meno così (notevolmente semplificato per leggibilità):
from pymilvus import connections, Collection
import openai
...
connections.connect(uri=URI, user=USER, password=PASSWORD, secure=True)
collection = Collection(name=COLLECTION_NAME, schema=schema)
collection.create_index(field_name="embedding", index_params=index_params)
...
for text in document:
embedding = openai.Embedding.create(
input=text,
engine=OPENAI_ENGINE)["data"][0]["embedding"]
collection.insert([embedding])
...
Sebbene piccoli script di esempio siano utili per un uso generico, abbiamo riscontrato che c'era un riutilizzo significativo tra i vari script; l'inferenza dei modelli e l'interrogazione del database, ad esempio, sono due azioni eseguite in quasi tutti gli esempi. Per risolvere questo problema ricorrente, abbiamo lanciato Towhee, un progetto Zilliz nell'ecosistema Milvus. Towhee integra centinaia di modelli open-source, API di embedding e modelli interni, dando ai professionisti del ML la possibilità di assemblare pipeline di ricerca end-to-end supportate da Milvus o Zilliz Cloud in poche righe di codice. Una pipeline di esempio per vettorizzare titoli di libri (utilizzando l'API di embedding di OpenAI) e inserirli in Milvus potrebbe apparire più o meno così:
pipeline = (
pipe.input('id', 'text')
.map(
ops.text_embedding.openai(
engine='embedding-engine',
api_key='my-api-key'
)
)
.map(
ops.ann_insert.milvus_client(
host='my-vector-database.url',
port='19530',
collection_name='my-collection'
)
)
.output()
)
Puoi vedere altri esempi di Towhee nel Milvus bootcamp, insieme a una guida completa nella documentazione di Towhee.
Connettiti con noi
Per farla breve; abbiamo fatto molti progressi in cinque anni, ma abbiamo ancora molta strada da fare. Zilliz continuerà a essere un sostenitore chiave e la principale forza trainante dietro il progetto Milvus, ma in futuro ci concentreremo anche su integrazioni e partnership con il più ampio ecosistema del machine learning.
Se sei un committer open source e vorresti parlare di una potenziale integrazione, ti invitiamo a contattarci o a inviarci un messaggio su Twitter. Non vediamo l'ora di averti come parte della community!
Continua a leggere
The Great AI Agent Protocol Race: Function Calling vs. MCP vs. A2A
Compare Function Calling, MCP, and A2A protocols for AI agents. Learn which standard best fits your development needs and future-proof your applications.
Introducing DeepSearcher: A Local Open Source Deep Research
In contrast to OpenAI’s Deep Research, this example ran locally, using only open-source models and tools like Milvus and LangChain.
Why Deepseek is Waking up AI Giants Like OpenAI And Why You Should Care
Discover how DeepSeek R1's open-source AI model with superior reasoning capabilities and lower costs is disrupting the AI landscape and challenging tech giants like OpenAI.