Ускорение ИИ-агентов: как Rexera трансформирует закрытие сделок с недвижимостью с помощью Zilliz Cloud
увеличение на 40%
в точности извлечения благодаря гибридному поиску
Стоимость на 50% ниже
за счет отказа от Elasticsearch и перехода от самостоятельно размещаемых векторных баз данных к полностью управляемой платформе Zilliz Cloud
Обработка транзакций в реальном времени
обеспечивается исключительной производительностью Zilliz Cloud с точки зрения задержки
Сниженная сложность и управленческая нагрузка
устраняя необходимость в отдельной реализации Elasticsearch
Working with Zilliz Cloud has been transformative for our AI agent architecture. The hybrid search capability alone delivered a 40% accuracy improvement, and the scalability means we never worry about performance, even during the highest traffic periods. It's been essential to our continued growth.
Sasidhar Janaki
О Rexera
Rexera не просто использует AI-агентов — они внедрили их в эксплуатацию в масштабе, чтобы обрабатывать один из самых сложных и насыщенных документами рабочих процессов в недвижимости: процесс закрытия сделки. Благодаря AI-агентам, таким как Iris, которые управляют более чем 10 000 задач ежедневно и обрабатывают миллионы страниц в месяц, Rexera превратила то, что когда-то было трудоемкой ручной и подверженной задержкам операцией, в интеллектуальную систему, работающую почти в реальном времени.
Но масштабирование AI-агентов в production — это не только LLM-промпты, а архитектура. Интеллектуальная обработка документов в реальном времени требует быстрого и точного поиска и автономной координации между агентами, которые извлекают, проверяют и передают данные, — и всё это работает на постоянно обновляемых данных и инфраструктуре, способной выдерживать всплески до миллионов одновременных запросов без сбоев. Именно поэтому Rexera обратилась к Zilliz Cloud, векторной базе данных, специально созданной для AI-нагрузок, чтобы обеспечить ядро своей экосистемы агентов.
От Iris, которая извлекает и проверяет критически важные данные, до Mia и Ria, автоматизирующих коммуникации, агенты Rexera полагаются на Zilliz Cloud, чтобы мгновенно предоставлять наиболее релевантный контекст — через гибридный поиск. Результат? Повышение точности поиска на 40%, устранение хрупкой инфраструктуры и значительный шаг вперед в том, как закрываются сделки с недвижимостью.
Rexera, которой доверяют 350+ фирм в сфере недвижимости, переосмысливает то, как заключаются сделки, — с помощью AI, который действительно работает в масштабе.
Rexera's ai agents.png
Задача: масштабирование интеллектуальной обработки документов в недвижимости
По мере расширения бизнеса Rexera компания столкнулась с несколькими критическими проблемами в своем конвейере обработки документов.
Когда Rexera только запускалась, они обрабатывали относительно простые документы — счета и сертификаты, обычно менее 10 страниц, которые можно было напрямую передавать в большие языковые модели (LLM). Однако рост бизнеса вскоре потребовал анализировать комплексную документацию по недвижимости объемом в тысячи страниц, что значительно превышало ограничения контекстного окна доступных LLM.
Их первоначальное решение для векторной базы данных, Deep Lake, хранило эмбеддинги в S3-бакетах, но страдало от серьезных узких мест в производительности. Система загружала целые наборы векторов на их сервер перед выполнением вычислений схожести, создавая неприемлемую задержку. Это было недопустимо для их растущего бизнеса, и им срочно понадобилось новое решение для векторного поиска.
Изначально Rexera рассматривала самостоятельное развертывание Milvus в своем Kubernetes-кластере, и оно работало очень хорошо. Но они осознавали операционную сложность поддержания production-среды векторной базы данных. Управление инфраструктурой требовало специализированных инженерных ресурсов, особенно для обработки эластичного масштабирования во время всплесков трафика, когда одновременно поступали миллионы запросов. Их политики хранения данных, требовавшие удаления эмбеддингов для завершенных транзакций, добавляли еще один уровень операционной сложности. Команда поняла, что им нужно решение, которое устранит эти нагрузки по управлению инфраструктурой при сохранении высокой производительности.
«Мы сталкивались с проблемами задержки и масштабирования в наших предыдущих решениях», — объясняет Сасидхар Джанаки, старший инженер-программист в Rexera, работающий в компании с момента ее основания. «Когда трафик резко возрастал из-за миллионов клиентских запросов, наша самостоятельно размещенная инфраструктура не справлялась, а поиск документов занимал слишком много времени».
Решение: обеспечение AI-агентов с помощью векторной базы данных Zilliz Cloud
После всесторонней оценки нескольких вариантов векторных баз данных, включая Weaviate и Chroma, Rexera выбрала Zilliz Cloud в качестве основы для своей системы интеллектуальной обработки документов главным образом благодаря превосходной задержке, масштабируемости и возможностям гибридного поиска. Zilliz Cloud стала центральным репозиторием знаний, обеспечивающим работу нескольких AI-агентов в их экосистеме, таких как:
Iris – Извлекает и проверяет данные из сложной документации по недвижимости
Mia – Генерирует интеллектуальные автоматические ответы на электронные письма на основе истории коммуникаций
Ria – Предоставляет автоматические SMS-ответы, чтобы держать все стороны в курсе
Рисунок: Пример того, как наши AI-агенты работают вместе, чтобы революционизировать получение документов HOA
Для каждой транзакции Rexera генерирует эмбеддинги для тысяч страниц с использованием модели OpenAI text-embedding-3-large и сохраняет их в Zilliz Cloud. Эти эмбеддинги постоянно обновляются по мере изменения содержимого документов, гарантируя, что система всегда работает с самой актуальной информацией.
Когда агенту необходимо получить информацию, он использует возможность гибридного поиска Zilliz Cloud, чтобы найти наиболее релевантный контент в их обширном репозитории документов. Затем извлеченный контекст обрабатывается несколькими LLM, включая ChatGPT и Claude, а ответы ранжируются, чтобы определить, требуется ли вмешательство человека.
Внедрение гибридного поиска в Zilliz Cloud оказалось особенно трансформационным, поскольку позволило Rexera объединить векторное сходство с традиционным поиском по ключевым словам на единой платформе, устранив прежнюю необходимость поддерживать две отдельные поисковые инфраструктуры.
Реализация и архитектура
Архитектура AI-агентов Rexera — это модульная система промышленного уровня, созданная для автоматизации транзакций в масштабе. В ее основе лежит Agent One, централизованный оркестратор на базе фреймворков LangChain и LangGraph, с наблюдаемостью, обеспечиваемой LangSmith. Zilliz Cloud играет критически важную роль в этой экосистеме, выступая высокопроизводительной векторной базой данных, которая обеспечивает рассуждение с дополнением извлеченными данными для всех агентов.
Интеграция Rexera с Zilliz Cloud и другими AI-инструментами следует оптимизированному рабочему процессу:
Рисунок: Как Zilliz Cloud поддерживает систему AI Agents Rexera
Прием документов + эмбеддинг: По мере поступления новых транзакционных документов — от справок о погашении ипотечного кредита до электронных писем HOA — Rexera использует модели OpenAI или AWS Bedrock (через OpenRouter), чтобы кодировать документы в векторные эмбеддинги. Эти эмбеддинги вместе с метаданными, такими как ID заказа, тип документа и ID организации, сохраняются в Zilliz Cloud.
Оркестрация агентов: Специализированные агенты компонуются и оркестрируются с использованием компонуемого инструментария LangChain и динамических рабочих процессов LangGraph. LangSmith обеспечивает наблюдаемость по всей цепочке. Эта многоуровневая структура позволяет добиться тонко настроенного, объяснимого поведения агентов в таких задачах, как автоматизация звонков, веб-автоматизация, анализ документов и многое другое.
Контекстное извлечение для AI-агентов через гибридный поиск: Когда агенту (например, Max, Mia, Iris) нужен контекст для принятия решения или генерации результата, Agent One использует гибридный поиск Zilliz Cloud — объединяющий поиск по векторному сходству, полнотекстовый поиск и фильтрацию по структурированным метаданным, — чтобы извлечь наиболее релевантный контент из тысяч страниц за миллисекунды.
Много-модельная проверка: Для критически важных транзакций извлеченный контекст передается через несколько LLM, таких как Claude или модели OpenAI GPT, чтобы проверить точность и обеспечить надежное понимание с нескольких точек зрения.
Потоковые обновления в Zilliz Cloud: По мере того как документы изменяются в течение жизненного цикла транзакции, обновленные эмбеддинги непрерывно передаются в Zilliz Cloud, гарантируя, что результаты извлечения отражают актуальный статус.
Эта надежная система на базе Zilliz Cloud позволяет Rexera запускать парк AI-агентов, которые автоматизируют параллельные транзакции с высокими ставками быстро, точно и объяснимо.
Почему Rexera выбрала Zilliz Cloud
Процесс оценки Rexera включал Deep Lake, Weaviate, Chroma, self-hosted Milvus и множество других вариантов векторных баз данных. Несколько решающих факторов привели их к выбору Zilliz Cloud:
Превосходная производительность по задержке была главным критерием. Zilliz Cloud обеспечила исключительное время отклика, необходимое как для извлечения документов, так и для загрузок, обеспечивая обработку транзакций почти в реальном времени.
Бесшовная масштабируемость оказалась критически важной для бизнеса Rexera. Zilliz Cloud справляется со всплесками трафика, когда миллионы клиентских запросов поступают одновременно, без проблем масштабирования, с которыми они сталкивались в self-hosted решениях.
Возможность гибридного поиска стала переломным моментом для обработки документов Rexera. Эта функция повысила точность извлечения на 40% по сравнению с традиционным поиском на основе embeddings и устранила необходимость поддерживать отдельные базы данных для разных типов поиска.
Удобный для разработчиков рабочий процесс повышает продуктивность. Инженеры могут быстро запускать локальные контейнеры Milvus Docker для тестирования, а затем бесшовно подключаться к Zilliz Cloud в производственных средах.
«Когда Zilliz объявила, что гибридный поиск будет включен в платформу, мы были невероятно воодушевлены», — вспоминает Сасидхар. «Мы получили ранний доступ примерно за два месяца до публичного релиза, и это стало трансформационным. Мы полностью отказались от Elasticsearch и теперь используем Zilliz Cloud как для векторного, так и для полнотекстового поиска».
Результаты и преимущества перехода на Zilliz Cloud
Переход Rexera на Zilliz Cloud принес немедленные выигрыши в производительности и долгосрочные архитектурные преимущества:
Увеличение точности извлечения на 40%: Гибридный поиск, предлагаемый Zilliz Cloud, гарантирует, что AI agents всегда получают правильный контекст, даже среди тысяч страниц, повышая точность по всем транзакциям.
Снижение совокупной стоимости на 50%: Отказавшись от Elasticsearch и перейдя с self-hosted векторных баз данных на полностью управляемую платформу Zilliz Cloud, Rexera сократила инфраструктурные расходы почти вдвое.
Задержка на 30% ниже, чем у альтернатив: По сравнению с другими векторными базами данных, которые Rexera оценивала и пробовала, Zilliz Cloud стабильно обеспечивает более быстрые ответы на запросы даже под производственными нагрузками.
Единый стек поиска: Заменив Elasticsearch, Rexera снизила операционные издержки и упростила свою инфраструктуру.
Более быстрые циклы разработки: Теперь инженеры запускают контейнеры Milvus локально и отправляют изменения напрямую в Zilliz Cloud в production — без узких мест и неожиданностей.
Отклик в реальном времени в масштабе: Субсекундная задержка Zilliz Cloud обеспечивает принятие решений в реальном времени для клиентов даже во время пиковых объемов запросов.
Нулевое управление инфраструктурой: Больше не нужно в спешке масштабировать или поддерживать векторную инфраструктуру — Zilliz Cloud берет это на себя, чтобы Rexera могла сосредоточиться на инновациях.
Планы на будущее
Rexera только начинает. По мере роста спроса со стороны корпоративных клиентов команда планирует:
Включить полноценную мультитенантность: Хотя разделение на основе метаданных работает уже сегодня, Rexera внедрит функции мультитенантности Zilliz Cloud, чтобы поддерживать строгую изоляцию данных для крупных клиентов.
Непрерывно оценивать новые модели: Embedding-модели и LLM-модели постоянно сравниваются с реальными рабочими нагрузками, чтобы обеспечивать производительность высшего уровня.
Расширять возможности агентов: Используя масштабируемый векторный поиск как основу, Rexera изучает новые модели поведения агентов — от динамического резюмирования до предиктивных рабочих процессов комплаенса.
Заключение
Экосистема AI agents Rexera показывает, что возможно, когда векторная инфраструктура изначально создана для масштаба, а не собрана из разрозненных частей. Стандартизировавшись на Zilliz Cloud, они открыли доступ к интеллекту в реальном времени на протяжении процесса закрытия сделок, устранили хрупкую инфраструктуру и получили надежный путь к расширению.
«Гибридный поиск дал нам прирост точности на 40%. Мы отказались от Elasticsearch. И мы больше не задумываемся о масштабировании. Zilliz Cloud сделала все это возможным».
—Сасидхар Джанаки, Senior Software Engineer, Rexera
We were facing latency issues and scaling challenges with our previous solutions. When traffic spiked with millions of customer requests, our self-hosted infrastructure couldn't keep up, and document retrieval was taking too long.
Sasidhar Janaki