Корпоративный векторный поиск Zilliz Cloud обеспечивает высокопроизводительный ИИ на AWS
Эта публикация изначально была опубликована на AWS и перепечатана здесь с разрешения.
По мере того как организации внедряют архитектуры генерации с дополненным поиском (RAG) и мультимодальные приложения искусственного интеллекта (AI), спрос на высокопроизводительный векторный поиск стал важным. Предприятия, использующие Amazon Bedrock и другие базовые модели, нуждаются в масштабируемой, надежной инфраструктуре векторного поиска, соответствующей их амбициям в области AI. Zilliz Cloud на Amazon Web Services (AWS) предоставляет полностью управляемый сервис векторной базы данных, предлагающий безопасный, соответствующий требованиям и быстрый поиск на основе AI в корпоративном масштабе. Хотя многие решения работают в разработке, производственные среды требуют стабильной производительности при высоких нагрузках при соблюдении строгих требований безопасности.
В этой публикации рассматривается, как Zilliz Cloud на AWS отвечает этим требованиям, предлагая производительность, безопасность и масштабируемость для корпоративных AI-инициатив.
Масштабирование векторного поиска до миллиардов с помощью Zilliz Cloud
Специально созданный для критически важных AI-нагрузок на AWS, Zilliz Cloud устраняет операционную сложность, обеспечивая при этом производительность, безопасность и масштабируемость, которых требуют корпоративные клиенты.
Cardinal, наш проприетарный механизм векторного поиска, лежит в основе сервиса и устанавливает новые эталоны производительности в отрасли. Cardinal обеспечивает беспрецедентную эффективность: до 10 раз более высокую пропускную способность запросов и в 3 раза более быстрое построение индекса по сравнению с open-source-альтернативами. Эта прорывная производительность позволяет клиентам AWS масштабировать свои операции векторного поиска до миллиардов эмбеддингов, одновременно оптимизируя как стоимость, так и задержку. Независимо от того, внедряете ли вы корпоративные RAG-системы или поиск сходства в реальном времени, Zilliz Cloud предоставляет готовую к эксплуатации инфраструктуру для обеспечения работы ваших самых требовательных AI-инициатив.
3-уровневая оптимизация
Cardinal достигает своей исключительной производительности и эффективности благодаря вертикально интегрированному стеку с тремя ключевыми уровнями оптимизации:
Продвинутые алгоритмы индексирования: сочетая индексирование Inverted File (IVF) с подходами на основе графов, такими как Hierarchical Navigable Small World (HNSW), Cardinal обеспечивает высокий recall и низкую задержку — даже в сложных сценариях, таких как фильтрованный поиск и поиск во время загрузки данных.
Тщательная инженерная проработка: Cardinal реализует пользовательские распределители памяти, планирование с учетом NUMA и многопоточные конвейеры выполнения, тонко настроенные для высокой пропускной способности и низкой задержки в производственных средах.
Улучшения ядра с учетом аппаратного обеспечения: оптимизированный для процессоров AWS Graviton на базе ARM, Cardinal использует ускорение Single Instruction, Multiple Data (SIMD), привязку CPU и интеллектуальное планирование I/O, чтобы значительно сократить циклы CPU и повысить пропускную способность.
Встроенный интеллект для Zero-DevOps
Zilliz Cloud предлагает как высокую производительность, так и функции интеллектуальной автоматизации:
AutoIndex: Используя машинное обучение, AutoIndex автоматически выбирает оптимальный тип индекса и конфигурацию на основе характеристик данных и состояния системы. Это обеспечивает наилучший баланс между точностью поиска и задержкой без вмешательства человека.
Auto-Scaling: Вычислительные ресурсы и хранилище эластично масштабируются на основе требований рабочей нагрузки в реальном времени, обеспечивая бесперебойную обработку всплесков трафика и массивных загрузок данных.
Функции, готовые для предприятия
Высокая доступность: Наша архитектура системы высокой доступности автоматически распределяет запросы между репликами, снижая задержку и обеспечивая непрерывную работу во время сбоев зон. Реплики интеллектуально синхронизируются между зонами доступности AWS для максимальной отказоустойчивости.
Комплексная наблюдаемость: Глубокая интеграция с Prometheus обеспечивает мониторинг в реальном времени с помощью 41 оповещения по 26 метрикам, охватывая всё — от состояния инфраструктуры до операций с данными. Команды могут проактивно управлять своей инфраструктурой векторного поиска с полной видимостью паттернов производительности.
Бесшовная миграция данных: Хорошо продуманные пути миграции позволяют пользователям Zilliz Cloud переносить данные из других источников, таких как Pinecone и Elasticsearch, одним щелчком. Функция миграции также поддерживает автоматическое преобразование схемы для сохранения целостности данных и раскрытия расширенных возможностей Zilliz Cloud.
Глобальная инфраструктура и безопасность: Доступный в 7 регионах AWS в США, Европе и APAC, Zilliz Cloud обеспечивает низкую задержку по всему миру. Безопасность встроена благодаря аутентификации на базе Auth0 с поддержкой корпоративного SSO через Okta, GitHub и Google OAuth.
Благодаря своей cloud-native архитектуре и проприетарному индексному движку Cardinal Zilliz Cloud обеспечивает непревзойденную скорость, эластичность и простоту для векторного поиска в масштабе миллиардов векторов.
Глубокая интеграция с технологиями AWS
Надежные инфраструктуры и облачные сервисы, предоставляемые AWS, являются ключом к успеху Zilliz Cloud в обслуживании векторного поиска миллиардного масштаба в продакшене без необходимости заботиться о низкоуровневых деталях оборудования. Zilliz Cloud глубоко интегрирован с технологиями AWS для повышения производительности, надежности и безопасности:
Amazon EKS: Milvus изначально поддерживает Kubernetes. Полностью управляемый Milvus в Zilliz Cloud развертывает микросервисы, используемые для векторного поиска, индексирования и управления метаданными, в EKS — управляемой Kubernetes-среде AWS — для упрощенного развертывания и высокой доступности.
AWS Graviton Processors: Обеспечивают превосходное соотношение производительности и стоимости благодаря ARM-архитектуре, оптимизированной для вычислительно интенсивных рабочих нагрузок, таких как построение индексов.
AWS PrivateLink: Обеспечивает безопасное частное подключение между VPC клиента и серверами векторной базы данных в VPC Zilliz Cloud — без выхода в публичный интернет.
AWS Global Infrastructure: Использует глобальную сеть регионов и зон доступности AWS для предоставления поискового опыта с низкой задержкой по всему миру.
Гибкое развертывание для любых требований безопасности
Полностью управляемое SaaS-предложение Zilliz Cloud поддерживает большинство корпоративных рабочих нагрузок. Однако организациям в строго регулируемых отраслях часто требуется более жесткий контроль над размещением данных и доступом к инфраструктуре. Благодаря предложению bring your own cloud (BYOC) высокопроизводительный векторный поиск развертывается непосредственно в вашем аккаунте AWS и VPC, тем самым обеспечивая полный суверенитет данных и исключая любое воздействие общей инфраструктуры или публичных конечных точек.
Почему Zilliz Cloud BYOC?
Хотя генеративный ИИ обеспечил значительный рост продуктивности и персонализации, регуляторные ограничения могут сделать традиционные SaaS-развертывания неприемлемыми. Локальные альтернативы, в свою очередь, часто сопряжены с чрезмерной операционной сложностью.
Zilliz Cloud BYOC устраняет этот разрыв — предоставляя предприятиям возможность запускать векторный поиск рядом с их данными, в собственной безопасной облачной среде. Он устраняет препятствия, связанные с соответствием требованиям, без ущерба для производительности или масштабируемости. Ключевые преимущества BYOC включают:
Данные остаются в вашей среде AWS: удовлетворение даже самых строгих требований к суверенитету и резидентности данных
Операции безопасно управляются через сервисы AWS-native: включая PrivateLink, IAM и VPC peering
Отсутствие публичного вывода данных: рабочие нагрузки ИИ выполняются там, где находятся данные, устраняя опасения безопасности, связанные с передачей данных через публичные сети.
Как Zilliz Cloud BYOC работает на AWS
На рисунке 1 показано, как Zilliz Cloud BYOC использует тщательно продуманную архитектуру для достижения баланса контроля и суверенитета данных.
Архитектура Zilliz Cloud BYOC на AWS
Control Plane, управляемая Zilliz и размещенная в их аккаунте AWS, инициирует операционные задачи, такие как обновления программного обеспечения и масштабирование внутри Zilliz VPC. Тем временем Data Plane, развернутая в аккаунте AWS клиента, выполняет все сервисы векторного поиска, обеспечивая полную изоляцию и предоставляя клиенту полную видимость.
Этот дизайн стал возможен благодаря возможностям безопасности AWS:
AWS PrivateLink обеспечивает приватность и безопасность коммуникации между плоскостью управления Zilliz и вашей плоскостью данных, не проходя через публичный интернет.
Межаккаунтные роли IAM обеспечивают безопасный доступ по принципу наименьших привилегий для подготовки ресурсов и масштабирования.
Amazon S3 используется для хранения журналов аудита и операционных метаданных в вашей среде, обеспечивая соответствие внутренним политикам управления данными.
Реальное влияние на предприятия
Высокопроизводительные возможности векторного поиска Zilliz Cloud обеспечивают значительный бизнес-эффект для корпоративных клиентов AWS. Благодаря поиску с задержкой менее 10 мс по миллиардам векторов и строгому соответствию требованиям организации могут внедрять AI-приложения в беспрецедентных масштабах.
Filevine, ведущая американская SaaS-компания в сфере юридического ИИ, использует Zilliz Cloud, чтобы быстро делать огромные объемы юридических документов доступными для поиска, сокращая время исследований с часов до минут, например. Это улучшение обеспечивается 10-кратным повышением производительности Cardinal и такими функциями, как оптимизация AutoIndex.
Выбирая Zilliz Cloud на AWS, организации могут уверенно масштабировать свои операции векторного поиска и сосредоточиться на инновациях, а не на управлении инфраструктурой.
Начните работу с векторной базой данных Zilliz Cloud на AWS
Независимо от того, создаете ли вы свое первое AI-приложение или масштабируете существующие системы для обработки миллиардов векторов, Zilliz Cloud обеспечивает производительность, надежность и безопасность, которые требуются корпоративному ИИ. Начните использовать Zilliz Cloud сегодня через AWS Marketplace, или, если вы хотите начать бесплатную пробную версию , изучить варианты BYOC или связаться с Zilliz через AWS. Преобразуйте свои AI-приложения с помощью векторного поиска, созданного для корпоративного масштаба, обеспечивая производительность, которую ожидают ваши пользователи, и безопасность, необходимую вашему бизнесу.
Zilliz рада быть среди первых партнеров запуска для новых AI-агентов и инструментов AWS Marketplace, предоставляя клиентам AWS мощные возможности векторных баз данных.
Jiang ChenJiang is currently Director of Technical GTM at Zilliz. He has years of experience in data infrastructures and cloud security. Before joining Zilliz, he had previously served as a tech lead and product manager at Google, where he led the development of web-scale semantic understanding and search indexing that powers innovative search products such as short video search. He has extensive industry experience handling massive unstructured data and multimedia content retrieval. He has also worked on cloud authorization systems and research on data privacy technologies. Jiang holds a Master's degree in Computer Science from the University of Michigan.
Yuantao ZhangYuantao Zhang is Senior Partner Solution Architect at AWS.
Fei LangFei Lang is Principal Partner Solution Architect at AWS.
Читать далее
VDBBench Adds Cost-Aware Benchmarking for Vector Databases
Compare Zilliz Cloud, Pinecone, and turbopuffer with VDBBench cost-aware vector database benchmarks across latency, freshness, multitenancy, and cold starts.
Why Teams Are Migrating from Weaviate to Zilliz Cloud — and How to Do It Seamlessly
Explore how Milvus scales for large datasets and complex queries with advanced features, and discover how to migrate from Weaviate to Zilliz Cloud.
Legal Document Analysis: Harnessing Zilliz Cloud's Semantic Search and RAG for Legal Insights
Enhance legal document analysis with Zilliz Cloud’s Semantic Search and RAG. Improve accuracy, efficiency, and scalability for contracts, case law, and compliance.