Zilliz Cloud Enterprise Vector Search alimenta l'IA ad alte prestazioni su AWS
Questo post è stato inizialmente pubblicato su AWS ed è ripubblicato qui con autorizzazione.
Man mano che le organizzazioni implementano architetture di retrieval-augmented generation (RAG) e applicazioni di intelligenza artificiale (AI) multimodale, la domanda di ricerca vettoriale ad alte prestazioni è diventata importante. Le aziende che sfruttano Amazon Bedrock e altri modelli fondamentali richiedono un’infrastruttura di ricerca vettoriale scalabile e robusta per allinearsi alle loro ambizioni in ambito AI. Zilliz Cloud su Amazon Web Services (AWS) offre un servizio di database vettoriale completamente gestito che fornisce ricerca basata su AI sicura, conforme e veloce su scala enterprise. Sebbene molte soluzioni funzionino in fase di sviluppo, gli ambienti di produzione richiedono prestazioni costanti sotto carichi di lavoro pesanti, mantenendo al contempo rigorosi requisiti di sicurezza.
Questo post esplora come Zilliz Cloud su AWS soddisfi questi requisiti, offrendo prestazioni, sicurezza e scalabilità per le iniziative di AI aziendale.
Scalare la ricerca vettoriale a miliardi con Zilliz Cloud
Progettato appositamente per carichi di lavoro AI mission-critical su AWS, Zilliz Cloud elimina la complessità operativa offrendo al contempo le prestazioni, la sicurezza e la scalabilità richieste dai clienti enterprise.
Cardinal, il nostro motore proprietario di ricerca vettoriale, alimenta il servizio e stabilisce nuovi benchmark di prestazioni nel settore. Cardinal offre un’efficienza senza precedenti, con un throughput delle query fino a 10 volte superiore e una costruzione degli indici 3 volte più rapida rispetto alle alternative open-source. Queste prestazioni rivoluzionarie consentono ai clienti AWS di scalare le loro operazioni di ricerca vettoriale fino a miliardi di embedding, ottimizzando al contempo costi e latenza. Che tu stia implementando sistemi RAG a livello aziendale o una ricerca di similarità in tempo reale, Zilliz Cloud fornisce l’infrastruttura pronta per la produzione per alimentare le tue iniziative AI più esigenti.
Ottimizzazione a 3 livelli
Cardinal raggiunge le sue prestazioni ed efficienza eccezionali attraverso uno stack integrato verticalmente con tre livelli chiave di ottimizzazione:
Algoritmi di indicizzazione avanzati: Combinando l’indicizzazione Inverted File (IVF) con approcci basati su grafi come Hierarchical Navigable Small World (HNSW), Cardinal offre un recall elevato e bassa latenza, anche in scenari complessi come la ricerca filtrata e la ricerca durante l’ingestione.
Ingegneria meticolosa: Cardinal implementa allocatori di memoria personalizzati, pianificazione NUMA-aware e pipeline di esecuzione multi-thread ottimizzate per prestazioni ad alto throughput e bassa latenza negli ambienti di produzione.
Miglioramenti del kernel consapevoli dell’hardware: Ottimizzato per i processori AWS Graviton basati su ARM, Cardinal utilizza l’accelerazione Single Instruction, Multiple Data (SIMD), il CPU pinning e la pianificazione I/O intelligente per ridurre significativamente i cicli CPU e migliorare il throughput.
Intelligenza integrata per Zero-DevOps
Zilliz Cloud offre sia alte prestazioni sia funzionalità di automazione intelligente:
AutoIndex: Sfruttando il machine learning, AutoIndex seleziona automaticamente il tipo di indice e la configurazione ottimali in base alle caratteristiche dei dati e allo stato del sistema. Questo garantisce il miglior equilibrio tra accuratezza della ricerca e latenza senza intervento umano.
Auto-Scaling: Calcolo e storage scalano elasticamente in base alle richieste del carico di lavoro in tempo reale, garantendo una gestione fluida dei picchi di traffico e di ingestioni massive di dati.
Funzionalità pronte per l’enterprise
Alta disponibilità: Il nostro design di sistema ad alta disponibilità distribuisce automaticamente le query tra le repliche, riducendo la latenza e garantendo al contempo un funzionamento continuo durante le interruzioni di zona. Le repliche sono sincronizzate in modo intelligente tra le zone di disponibilità AWS per la massima resilienza.
Osservabilità completa: La profonda integrazione con Prometheus consente il monitoraggio in tempo reale tramite 41 avvisi su 26 metriche, coprendo tutto, dallo stato dell’infrastruttura alle operazioni sui dati. I team possono gestire proattivamente la propria infrastruttura di vector search con piena visibilità sui pattern di prestazioni.
Migrazione dei dati senza interruzioni: Percorsi di migrazione ben definiti consentono agli utenti di Zilliz Cloud di migrare i dati da altre fonti come Pinecone ed Elasticsearch con un clic. La funzionalità di migrazione supporta anche la trasformazione automatica dello schema per preservare l’integrità dei dati sbloccando al contempo le capacità avanzate di Zilliz Cloud.
Infrastruttura globale e sicurezza: Disponibile in 7 regioni AWS tra Stati Uniti, Europa e APAC, Zilliz Cloud offre prestazioni a bassa latenza a livello globale. La sicurezza è integrata con autenticazione basata su Auth0 che supporta l’SSO enterprise tramite Okta, GitHub e Google OAuth.
Con la sua architettura cloud-native e il motore di indicizzazione proprietario Cardinal, Zilliz Cloud offre velocità, elasticità e semplicità senza pari per la vector search su scala di miliardi di vettori.
Profondamente integrato con la tecnologia AWS
Le infrastrutture affidabili e i servizi cloud forniti da AWS sono una chiave del successo di Zilliz Cloud nel supportare la vector search su scala di miliardi in produzione senza preoccuparsi dei dettagli hardware di basso livello. Zilliz Cloud è profondamente integrato con la tecnologia AWS per migliorare prestazioni, affidabilità e sicurezza:
Amazon EKS: Milvus è nativo di Kubernetes. Il Milvus completamente gestito su Zilliz Cloud distribuisce su EKS, l’ambiente Kubernetes gestito di AWS, i microservizi utilizzati per la vector search, l’indicizzazione e la gestione dei metadati, per una distribuzione semplificata e alta disponibilità.
AWS Graviton Processors: Offrono un rapporto prestazioni/costo superiore utilizzando un’architettura basata su ARM ottimizzata per carichi di lavoro ad alta intensità di calcolo come la creazione degli indici.
AWS PrivateLink: Fornisce connettività sicura e privata tra la VPC del cliente e i server del database vettoriale nella VPC di Zilliz Cloud, senza attraversare Internet pubblico.
AWS Global Infrastructure: Sfrutta la rete globale di regioni e zone di disponibilità di AWS per offrire esperienze di ricerca a bassa latenza in tutto il mondo.
Distribuzione flessibile per ogni requisito di sicurezza
L’offerta SaaS completamente gestita di Zilliz Cloud supporta la maggior parte dei carichi di lavoro enterprise. Tuttavia, le organizzazioni in settori altamente regolamentati spesso richiedono un controllo più rigoroso sulla residenza dei dati e sull’accesso all’infrastruttura. Con la sua offerta bring your own cloud (BYOC), la vector search ad alte prestazioni viene distribuita direttamente nel tuo account AWS e nella tua VPC, garantendo così la completa sovranità dei dati ed evitando qualsiasi esposizione a infrastrutture condivise o endpoint pubblici.
Perché Zilliz Cloud BYOC?
Sebbene l’AI generativa abbia portato importanti miglioramenti in termini di produttività e personalizzazione, i vincoli normativi possono rendere impraticabili le distribuzioni SaaS tradizionali. Le alternative on-premises, nel frattempo, spesso comportano una complessità operativa proibitiva.
Zilliz Cloud BYOC colma questo divario, offrendo alle aziende la possibilità di eseguire la vector search vicino ai propri dati, all’interno del proprio ambiente cloud sicuro. Elimina gli ostacoli alla conformità senza sacrificare prestazioni o scalabilità. I principali vantaggi di BYOC includono:
I dati rimangono all’interno del tuo ambiente AWS: Soddisfacendo anche i requisiti più rigorosi di sovranità e residenza dei dati
Le operazioni sono gestite in modo sicuro tramite servizi nativi AWS: Inclusi PrivateLink, IAM e VPC peering
Nessun egress di dati pubblico: I carichi di lavoro AI vengono eseguiti dove risiedono i dati, eliminando le preoccupazioni di sicurezza legate all’attraversamento di reti pubbliche da parte dei dati.
Come funziona Zilliz Cloud BYOC su AWS
La Figura 1 mostra come Zilliz Cloud BYOC abbia un’architettura progettata con cura per raggiungere l’equilibrio tra controllo e sovranità dei dati.
Architettura di Zilliz Cloud BYOC su AWS
Il Control Plane, gestito da Zilliz e ospitato nel loro account AWS, impartisce istruzioni per attività operative come aggiornamenti software e scalabilità all’interno della VPC Zilliz. Nel frattempo, il Data Plane, distribuito nell’account AWS del cliente, esegue tutti i servizi di ricerca vettoriale, garantendo un isolamento completo e fornendo al cliente piena visibilità.
Questo design è reso possibile dalle funzionalità di sicurezza di AWS:
AWS PrivateLink garantisce che la comunicazione tra il control plane di Zilliz e il tuo data plane rimanga privata e sicura, senza passare attraverso Internet pubblico.
I ruoli IAM tra account consentono un accesso sicuro e con privilegi minimi per il provisioning e la scalabilità.
Amazon S3 viene utilizzato per archiviare log di audit e metadati operativi all’interno del tuo ambiente, garantendo la conformità alle policy interne di governance dei dati.
Impatto reale sulle aziende
Le funzionalità di ricerca vettoriale ad alte prestazioni di Zilliz Cloud offrono un impatto aziendale significativo per i clienti enterprise AWS. Con ricerche a latenza inferiore a 10 ms su miliardi di vettori e una rigorosa conformità, le organizzazioni possono implementare applicazioni AI su scale senza precedenti.
Filevine, una delle principali società SaaS di AI legale con sede negli Stati Uniti, utilizza Zilliz Cloud per rendere rapidamente ricercabili enormi quantità di documenti legali, riducendo ad esempio i tempi di ricerca da ore a minuti. Questo miglioramento è determinato dall’incremento delle prestazioni di 10 volte di Cardinal e da funzionalità come l’ottimizzazione AutoIndex.
Scegliendo Zilliz Cloud su AWS, le organizzazioni possono scalare con fiducia le proprie operazioni di ricerca vettoriale e concentrarsi sull’innovazione, anziché sulla gestione dell’infrastruttura.
Inizia con il database vettoriale Zilliz Cloud su AWS
Che tu stia creando la tua prima applicazione AI o scalando sistemi esistenti per gestire miliardi di vettori, Zilliz Cloud offre le prestazioni, l’affidabilità e la sicurezza richieste dall’AI enterprise. Inizia a usare Zilliz Cloud oggi tramite AWS Marketplace, oppure se desideri iniziare una prova gratuita , esplorare le opzioni BYOC o contattare Zilliz tramite AWS. Trasforma le tue applicazioni AI con una ricerca vettoriale progettata per la scalabilità enterprise, offrendo le prestazioni che i tuoi utenti si aspettano con la sicurezza di cui la tua azienda ha bisogno.
Zilliz è entusiasta di essere tra i primi partner di lancio per i nuovi agenti e strumenti AI di AWS Marketplace, portando potenti funzionalità di database vettoriale ai clienti AWS.
Jiang ChenJiang is currently Director of Technical GTM at Zilliz. He has years of experience in data infrastructures and cloud security. Before joining Zilliz, he had previously served as a tech lead and product manager at Google, where he led the development of web-scale semantic understanding and search indexing that powers innovative search products such as short video search. He has extensive industry experience handling massive unstructured data and multimedia content retrieval. He has also worked on cloud authorization systems and research on data privacy technologies. Jiang holds a Master's degree in Computer Science from the University of Michigan.
Yuantao ZhangYuantao Zhang is Senior Partner Solution Architect at AWS.
Fei LangFei Lang is Principal Partner Solution Architect at AWS.
Continua a leggere
A Few Notes from Databricks Data + AI Summit 2026: Why the Data Layer Matters Again
James Luan shares notes from Databricks Data + AI Summit 2026 on why production AI is pushing the data layer back to the center of infrastructure.
Stop Building AI Data Infra for the Wrong Stage
Learn how AI data infrastructure should evolve from prototype to enterprise scale, and when Vector Lakebase becomes the right architecture for AI apps.
How to Build an Enterprise-Ready RAG Pipeline on AWS with Bedrock, Zilliz Cloud, and LangChain
Build production-ready enterprise RAG with AWS Bedrock, Nova models, Zilliz Cloud, and LangChain. Complete tutorial with deployable code.