Potenziare gli agenti AI: come Rexera trasforma le chiusure immobiliari con Zilliz Cloud
aumento del 40%
nell'accuratezza del recupero tramite ricerca ibrida
Costo inferiore del 50%
eliminando Elasticsearch e passando da database vettoriali self-hosted alla piattaforma completamente gestita di Zilliz Cloud
Elaborazione delle transazioni in tempo reale
è resa possibile dalle eccezionali prestazioni in termini di latenza di Zilliz Cloud
Complessità e oneri di gestione ridotti
eliminando la necessità di un'implementazione separata di Elasticsearch
Working with Zilliz Cloud has been transformative for our AI agent architecture. The hybrid search capability alone delivered a 40% accuracy improvement, and the scalability means we never worry about performance, even during the highest traffic periods. It's been essential to our continued growth.
Sasidhar Janaki
Informazioni su Rexera
Rexera non si limita a utilizzare agenti AI: li ha resi operativi su larga scala per gestire uno dei flussi di lavoro più complessi e ricchi di documenti nel settore immobiliare: il processo di closing. Con agenti AI come Iris che gestiscono oltre 10.000 attività al giorno ed elaborano milioni di pagine al mese, Rexera ha trasformato quella che un tempo era un’operazione manualmente intensiva e soggetta a ritardi in un sistema intelligente, quasi in tempo reale.
Ma scalare agenti AI in produzione non riguarda solo i prompt degli LLM: riguarda l’architettura. L’intelligence documentale in tempo reale richiede un recupero rapido e accurato e un coordinamento autonomo tra agenti che estraggono, convalidano e comunicano, il tutto alimentato da dati costantemente aggiornati e da un’infrastruttura in grado di raggiungere picchi di milioni di richieste simultanee senza cedere. Ecco perché Rexera si è rivolta a Zilliz Cloud, un database vettoriale progettato appositamente per i carichi di lavoro AI, per alimentare il cuore del suo ecosistema di agenti.
Da Iris, che estrae e convalida dati critici, a Mia e Ria, che automatizzano le comunicazioni, gli agenti di Rexera si affidano a Zilliz Cloud per fornire il contesto più rilevante, istantaneamente, tramite ricerca ibrida. Il risultato? Un aumento del 40% nell’accuratezza del recupero, l’eliminazione di un’infrastruttura fragile e un importante passo avanti nel modo in cui vengono concluse le transazioni immobiliari.
Scelta da oltre 350 società immobiliari, Rexera sta ridefinendo il modo in cui si chiudono gli accordi, con un’AI che funziona davvero su larga scala.
Rexera's ai agents.png
La sfida: scalare l’intelligence documentale immobiliare
Con l’espansione dell’attività di Rexera, l’azienda ha incontrato diverse sfide critiche nella propria pipeline di elaborazione dei documenti.
Quando Rexera è stata lanciata per la prima volta, elaborava documenti relativamente semplici: fatture e certificati in genere sotto le 10 pagine, che potevano essere inseriti direttamente nei large language models (LLMs). Tuttavia, la crescita dell’attività ha presto richiesto l’analisi di una documentazione immobiliare completa composta da migliaia di pagine, superando di gran lunga i limiti della finestra di contesto degli LLM disponibili.
La loro soluzione iniziale di database vettoriale, Deep Lake, archiviava gli embedding su bucket S3 ma soffriva di significativi colli di bottiglia nelle prestazioni. Il sistema scaricava interi set di vettori sul loro server prima di eseguire i calcoli di similarità, creando una latenza inaccettabile. Questo era inaccettabile per la loro attività in crescita, e avevano urgentemente bisogno di una nuova soluzione di ricerca vettoriale.
Inizialmente, Rexera ha esplorato l’opzione di self-hosting di Milvus sul proprio cluster Kubernetes, e ha funzionato molto bene. Ma hanno riconosciuto la complessità operativa del mantenimento di un ambiente di database vettoriale in produzione. La gestione dell’infrastruttura richiedeva risorse ingegneristiche specializzate, in particolare per gestire lo scaling elastico durante i picchi di traffico, quando arrivavano simultaneamente milioni di richieste. Le loro policy di conservazione dei dati, che richiedevano l’eliminazione degli embedding per le transazioni completate, aggiungevano un ulteriore livello di complessità operativa. Il team ha capito di aver bisogno di una soluzione che eliminasse questi oneri di gestione dell’infrastruttura mantenendo al contempo prestazioni elevate.
"Stavamo affrontando problemi di latenza e sfide di scalabilità con le nostre soluzioni precedenti," spiega Sasidhar Janaki, Senior Software Engineer presso Rexera, che lavora in azienda sin dalla sua fondazione. "Quando il traffico aumentava con milioni di richieste dei clienti, la nostra infrastruttura self-hosted non riusciva a tenere il passo e il recupero dei documenti richiedeva troppo tempo."
La soluzione: alimentare agenti AI con il database vettoriale Zilliz Cloud
Dopo una valutazione completa di molteplici opzioni di database vettoriale, tra cui Weaviate e Chroma, Rexera ha scelto Zilliz Cloud come fondamento del proprio sistema di intelligence documentale principalmente per la sua latenza superiore, la scalabilità e le capacità di ricerca ibrida. Zilliz Cloud è diventato il repository centrale di conoscenza che alimenta molteplici agenti AI nel loro ecosistema, come:
Iris – Estrae e convalida i dati da documentazione immobiliare complessa
Mia – Genera risposte automatiche intelligenti alle email basate sulla cronologia delle comunicazioni
Ria – Fornisce risposte SMS automatizzate per mantenere informate tutte le parti
Figura: Un esempio di come i nostri agenti IA collaborano per rivoluzionare l’acquisizione dei documenti HOA
Per ogni transazione, Rexera genera embedding per migliaia di pagine utilizzando il modello text-embedding-3-large di OpenAI e li archivia in Zilliz Cloud. Questi embedding vengono aggiornati continuamente man mano che il contenuto dei documenti cambia, garantendo che il sistema lavori sempre con le informazioni più aggiornate.
Quando un agente deve recuperare informazioni, sfrutta la capacità di ricerca ibrida di Zilliz Cloud per trovare i contenuti più pertinenti dal loro vasto repository documentale. Questo contesto recuperato viene quindi elaborato da più LLM, inclusi ChatGPT e Claude, con le risposte classificate per determinare se sia necessario l’intervento umano.
L’introduzione della ricerca ibrida all’interno di Zilliz Cloud è stata particolarmente trasformativa, poiché ha permesso a Rexera di combinare la similarità vettoriale con la ricerca tradizionale per parole chiave in un’unica piattaforma, eliminando la precedente necessità di mantenere due infrastrutture di ricerca separate.
Implementazione e architettura
L’architettura degli agenti IA di Rexera è un sistema modulare di livello production-grade, costruito per l’automazione delle transazioni su larga scala. Al suo centro c’è Agent One, un orchestratore centralizzato basato sui framework LangChain e LangGraph, con osservabilità fornita da LangSmith. Zilliz Cloud svolge un ruolo critico in questo ecosistema, fungendo da database vettoriale ad alte prestazioni che abilita il ragionamento retrieval-augmented su tutti gli agenti.
L’integrazione di Rexera con Zilliz Cloud e altri strumenti IA segue un flusso di lavoro semplificato:
Figura: Come Zilliz Cloud supporta il sistema di agenti IA di Rexera
Acquisizione documenti + embedding: Man mano che arrivano nuovi documenti di transazione—dai payoff dei mutui alle email HOA—Rexera utilizza modelli OpenAI o AWS Bedrock (tramite OpenRouter) per codificare i documenti in embedding vettoriali. Questi embedding, insieme a metadati come ID ordine, tipo di documento e ID organizzazione, vengono archiviati in Zilliz Cloud.
Orchestrazione degli agenti: Gli agenti specializzati vengono composti e orchestrati utilizzando gli strumenti componibili di LangChain e i workflow dinamici di LangGraph. LangSmith fornisce osservabilità lungo la catena. Questa struttura a livelli consente un comportamento degli agenti ottimizzato e spiegabile su attività come automazione delle chiamate, automazione web, analisi documentale e altro ancora.
Recupero contestuale per agenti IA tramite ricerca ibrida: Quando un agente (ad es. Max, Mia, Iris) ha bisogno di contesto per prendere una decisione o generare un output, Agent One sfrutta la ricerca ibrida di Zilliz Cloud—combinando ricerca per similarità vettoriale, ricerca full-text e filtraggio di metadati strutturati—per recuperare i contenuti più pertinenti su migliaia di pagine in millisecondi.
Verifica multi-modello: Per le transazioni critiche, il contesto recuperato viene passato attraverso più LLM, come Claude o modelli OpenAI GPT, per verificarne l’accuratezza e garantire una comprensione robusta e multi-prospettiva.
Aggiornamenti in streaming a Zilliz Cloud: Man mano che i documenti evolvono durante il ciclo di vita della transazione, gli embedding aggiornati vengono inviati continuamente in streaming a Zilliz Cloud, garantendo che i risultati del recupero riflettano lo stato più recente.
Questo sistema robusto, alimentato da Zilliz Cloud, consente a Rexera di gestire una flotta di agenti IA che automatizzano transazioni concorrenti ad alto rischio con velocità, accuratezza e spiegabilità.
Perché Rexera ha scelto Zilliz Cloud
Il processo di valutazione di Rexera includeva Deep Lake, Weaviate, Chroma, Milvus self-hosted e molte altre opzioni di database vettoriali. Diversi fattori decisivi li hanno portati a scegliere Zilliz Cloud:
Prestazioni di latenza superiori sono state la considerazione principale. Zilliz Cloud ha offerto i tempi di risposta eccezionali richiesti sia per il recupero dei documenti sia per i caricamenti, consentendo l’elaborazione delle transazioni quasi in tempo reale.
Scalabilità fluida si è rivelata fondamentale per il business di Rexera. Zilliz Cloud gestisce i picchi di traffico quando milioni di richieste dei clienti arrivano simultaneamente, senza i problemi di scalabilità riscontrati con le soluzioni self-hosted.
Funzionalità di ricerca ibrida è diventata una svolta per l’elaborazione dei documenti di Rexera. Questa funzionalità ha aumentato la loro accuratezza di recupero del 40% rispetto alla ricerca tradizionale basata su embedding e ha eliminato la necessità di mantenere database separati per diversi tipi di ricerca.
Workflow orientato agli sviluppatori migliora la produttività. Gli ingegneri possono avviare rapidamente container Docker Milvus locali per i test, quindi connettersi senza interruzioni a Zilliz Cloud negli ambienti di produzione.
"Quando Zilliz ha annunciato che la ricerca ibrida sarebbe stata inclusa nella piattaforma, eravamo incredibilmente entusiasti," ricorda Sasidhar. "Abbiamo ottenuto l’accesso anticipato circa due mesi prima del rilascio pubblico, ed è stato trasformativo. Abbiamo eliminato completamente Elasticsearch e ora usiamo Zilliz Cloud sia per la ricerca vettoriale sia per quella full-text."
Risultati e vantaggi del passaggio a Zilliz Cloud
Il passaggio di Rexera a Zilliz Cloud ha portato vantaggi immediati in termini di prestazioni e benefici architetturali a lungo termine:
Aumento del 40% nell’accuratezza di recupero: La ricerca ibrida offerta da Zilliz Cloud garantisce che gli agenti AI ottengano sempre il contesto corretto, anche su migliaia di pagine, aumentando la precisione nelle transazioni.
Costo totale inferiore del 50%: Eliminando Elasticsearch e passando da database vettoriali self-hosted alla piattaforma completamente gestita di Zilliz Cloud, Rexera ha quasi dimezzato i costi infrastrutturali.
Latenza migliore del 30% rispetto alle alternative: Rispetto ad altri database vettoriali valutati e provati da Rexera, Zilliz Cloud offre costantemente risposte alle query più rapide, anche sotto carichi di produzione.
Stack di ricerca unico: Sostituendo Elasticsearch, Rexera ha ridotto l’overhead operativo e semplificato la propria infrastruttura.
Cicli di sviluppo più rapidi: Gli ingegneri ora avviano container Milvus localmente e inviano direttamente a Zilliz Cloud in produzione—senza colli di bottiglia, senza sorprese.
Risposta in tempo reale su larga scala: La latenza inferiore al secondo di Zilliz Cloud consente decisioni in tempo reale per i clienti, anche durante i picchi di volume delle richieste.
Gestione dell’infrastruttura pari a zero: Niente più corse per scalare o mantenere l’infrastruttura vettoriale—Zilliz Cloud se ne occupa, così Rexera può concentrarsi sull’innovazione.
Piani futuri
Rexera è solo all’inizio. Con la crescita della domanda da parte dei clienti enterprise, il team prevede di:
Abilitare la multi-tenancy completa: Sebbene la separazione basata sui metadati funzioni oggi, Rexera adotterà le funzionalità di multi-tenancy di Zilliz Cloud per supportare un rigoroso isolamento dei dati per i grandi clienti.
Valutare continuamente nuovi modelli: I modelli di embedding e LLM vengono costantemente confrontati con carichi di lavoro reali per garantire prestazioni di alto livello.
Espandere le capacità degli agenti: Con la ricerca vettoriale scalabile come fondamento, Rexera sta esplorando nuovi comportamenti degli agenti—dalla sintesi dinamica ai workflow di conformità predittiva.
Conclusione
L’ecosistema di agenti AI di Rexera mostra ciò che è possibile quando l’infrastruttura vettoriale è costruita per scalare—non assemblata alla meglio. Standardizzando su Zilliz Cloud, hanno sbloccato intelligence in tempo reale lungo tutto il processo di closing, eliminato infrastrutture fragili e ottenuto un percorso affidabile per espandersi.
“La ricerca ibrida ci ha dato un aumento del 40% dell’accuratezza. Abbiamo eliminato Elasticsearch. E non ci pensiamo due volte a scalare. Zilliz Cloud ha reso tutto questo possibile.”
—Sasidhar Janaki, Senior Software Engineer, Rexera
We were facing latency issues and scaling challenges with our previous solutions. When traffic spiked with millions of customer requests, our self-hosted infrastructure couldn't keep up, and document retrieval was taking too long.
Sasidhar Janaki