Корпоративный векторный поиск Zilliz Cloud обеспечивает высокопроизводительный ИИ на AWS

Эта публикация изначально была опубликована на AWS и перепечатана здесь с разрешения.

По мере того как организации внедряют архитектуры генерации с дополненным поиском (RAG) и мультимодальные приложения искусственного интеллекта (AI), спрос на высокопроизводительный векторный поиск стал важным. Предприятия, использующие Amazon Bedrock и другие базовые модели, нуждаются в масштабируемой, надежной инфраструктуре векторного поиска, соответствующей их амбициям в области AI. Zilliz Cloud на Amazon Web Services (AWS) предоставляет полностью управляемый сервис векторной базы данных, предлагающий безопасный, соответствующий требованиям и быстрый поиск на основе AI в корпоративном масштабе. Хотя многие решения работают в разработке, производственные среды требуют стабильной производительности при высоких нагрузках при соблюдении строгих требований безопасности.

В этой публикации рассматривается, как Zilliz Cloud на AWS отвечает этим требованиям, предлагая производительность, безопасность и масштабируемость для корпоративных AI-инициатив.

Масштабирование векторного поиска до миллиардов с помощью Zilliz Cloud

Специально созданный для критически важных AI-нагрузок на AWS, Zilliz Cloud устраняет операционную сложность, обеспечивая при этом производительность, безопасность и масштабируемость, которых требуют корпоративные клиенты.

Cardinal, наш проприетарный механизм векторного поиска, лежит в основе сервиса и устанавливает новые эталоны производительности в отрасли. Cardinal обеспечивает беспрецедентную эффективность: до 10 раз более высокую пропускную способность запросов и в 3 раза более быстрое построение индекса по сравнению с open-source-альтернативами. Эта прорывная производительность позволяет клиентам AWS масштабировать свои операции векторного поиска до миллиардов эмбеддингов, одновременно оптимизируя как стоимость, так и задержку. Независимо от того, внедряете ли вы корпоративные RAG-системы или поиск сходства в реальном времени, Zilliz Cloud предоставляет готовую к эксплуатации инфраструктуру для обеспечения работы ваших самых требовательных AI-инициатив.

3-уровневая оптимизация

Cardinal достигает своей исключительной производительности и эффективности благодаря вертикально интегрированному стеку с тремя ключевыми уровнями оптимизации:

• Продвинутые алгоритмы индексирования: сочетая индексирование Inverted File (IVF) с подходами на основе графов, такими как Hierarchical Navigable Small World (HNSW), Cardinal обеспечивает высокий recall и низкую задержку — даже в сложных сценариях, таких как фильтрованный поиск и поиск во время загрузки данных.

• Тщательная инженерная проработка: Cardinal реализует пользовательские распределители памяти, планирование с учетом NUMA и многопоточные конвейеры выполнения, тонко настроенные для высокой пропускной способности и низкой задержки в производственных средах.

• Улучшения ядра с учетом аппаратного обеспечения: оптимизированный для процессоров AWS Graviton на базе ARM, Cardinal использует ускорение Single Instruction, Multiple Data (SIMD), привязку CPU и интеллектуальное планирование I/O, чтобы значительно сократить циклы CPU и повысить пропускную способность.

Встроенный интеллект для Zero-DevOps

Zilliz Cloud предлагает как высокую производительность, так и функции интеллектуальной автоматизации:

• AutoIndex: Используя машинное обучение, AutoIndex автоматически выбирает оптимальный тип индекса и конфигурацию на основе характеристик данных и состояния системы. Это обеспечивает наилучший баланс между точностью поиска и задержкой без вмешательства человека.

• Auto-Scaling: Вычислительные ресурсы и хранилище эластично масштабируются на основе требований рабочей нагрузки в реальном времени, обеспечивая бесперебойную обработку всплесков трафика и массивных загрузок данных.

Функции, готовые для предприятия

• Высокая доступность: Наша архитектура системы высокой доступности автоматически распределяет запросы между репликами, снижая задержку и обеспечивая непрерывную работу во время сбоев зон. Реплики интеллектуально синхронизируются между зонами доступности AWS для максимальной отказоустойчивости.

• Комплексная наблюдаемость: Глубокая интеграция с Prometheus обеспечивает мониторинг в реальном времени с помощью 41 оповещения по 26 метрикам, охватывая всё — от состояния инфраструктуры до операций с данными. Команды могут проактивно управлять своей инфраструктурой векторного поиска с полной видимостью паттернов производительности.

• Бесшовная миграция данных: Хорошо продуманные пути миграции позволяют пользователям Zilliz Cloud переносить данные из других источников, таких как Pinecone и Elasticsearch, одним щелчком. Функция миграции также поддерживает автоматическое преобразование схемы для сохранения целостности данных и раскрытия расширенных возможностей Zilliz Cloud.

• Глобальная инфраструктура и безопасность: Доступный в 7 регионах AWS в США, Европе и APAC, Zilliz Cloud обеспечивает низкую задержку по всему миру. Безопасность встроена благодаря аутентификации на базе Auth0 с поддержкой корпоративного SSO через Okta, GitHub и Google OAuth.

Благодаря своей cloud-native архитектуре и проприетарному индексному движку Cardinal Zilliz Cloud обеспечивает непревзойденную скорость, эластичность и простоту для векторного поиска в масштабе миллиардов векторов.

Глубокая интеграция с технологиями AWS

Надежные инфраструктуры и облачные сервисы, предоставляемые AWS, являются ключом к успеху Zilliz Cloud в обслуживании векторного поиска миллиардного масштаба в продакшене без необходимости заботиться о низкоуровневых деталях оборудования. Zilliz Cloud глубоко интегрирован с технологиями AWS для повышения производительности, надежности и безопасности:

• Amazon EKS: Milvus изначально поддерживает Kubernetes. Полностью управляемый Milvus в Zilliz Cloud развертывает микросервисы, используемые для векторного поиска, индексирования и управления метаданными, в EKS — управляемой Kubernetes-среде AWS — для упрощенного развертывания и высокой доступности.

• AWS Graviton Processors: Обеспечивают превосходное соотношение производительности и стоимости благодаря ARM-архитектуре, оптимизированной для вычислительно интенсивных рабочих нагрузок, таких как построение индексов.

• AWS PrivateLink: Обеспечивает безопасное частное подключение между VPC клиента и серверами векторной базы данных в VPC Zilliz Cloud — без выхода в публичный интернет.

• AWS Global Infrastructure: Использует глобальную сеть регионов и зон доступности AWS для предоставления поискового опыта с низкой задержкой по всему миру.

Гибкое развертывание для любых требований безопасности

Полностью управляемое SaaS-предложение Zilliz Cloud поддерживает большинство корпоративных рабочих нагрузок. Однако организациям в строго регулируемых отраслях часто требуется более жесткий контроль над размещением данных и доступом к инфраструктуре. Благодаря предложению bring your own cloud (BYOC) высокопроизводительный векторный поиск развертывается непосредственно в вашем аккаунте AWS и VPC, тем самым обеспечивая полный суверенитет данных и исключая любое воздействие общей инфраструктуры или публичных конечных точек.

Почему Zilliz Cloud BYOC?

Хотя генеративный ИИ обеспечил значительный рост продуктивности и персонализации, регуляторные ограничения могут сделать традиционные SaaS-развертывания неприемлемыми. Локальные альтернативы, в свою очередь, часто сопряжены с чрезмерной операционной сложностью.

Zilliz Cloud BYOC устраняет этот разрыв — предоставляя предприятиям возможность запускать векторный поиск рядом с их данными, в собственной безопасной облачной среде. Он устраняет препятствия, связанные с соответствием требованиям, без ущерба для производительности или масштабируемости. Ключевые преимущества BYOC включают:

• Данные остаются в вашей среде AWS: удовлетворение даже самых строгих требований к суверенитету и резидентности данных

• Операции безопасно управляются через сервисы AWS-native: включая PrivateLink, IAM и VPC peering

• Отсутствие публичного вывода данных: рабочие нагрузки ИИ выполняются там, где находятся данные, устраняя опасения безопасности, связанные с передачей данных через публичные сети.

Как Zilliz Cloud BYOC работает на AWS

На рисунке 1 показано, как Zilliz Cloud BYOC использует тщательно продуманную архитектуру для достижения баланса контроля и суверенитета данных.

Архитектура Zilliz Cloud BYOC на AWS

Control Plane, управляемая Zilliz и размещенная в их аккаунте AWS, инициирует операционные задачи, такие как обновления программного обеспечения и масштабирование внутри Zilliz VPC. Тем временем Data Plane, развернутая в аккаунте AWS клиента, выполняет все сервисы векторного поиска, обеспечивая полную изоляцию и предоставляя клиенту полную видимость.

Этот дизайн стал возможен благодаря возможностям безопасности AWS:

• AWS PrivateLink обеспечивает приватность и безопасность коммуникации между плоскостью управления Zilliz и вашей плоскостью данных, не проходя через публичный интернет.

• Межаккаунтные роли IAM обеспечивают безопасный доступ по принципу наименьших привилегий для подготовки ресурсов и масштабирования.

• Amazon S3 используется для хранения журналов аудита и операционных метаданных в вашей среде, обеспечивая соответствие внутренним политикам управления данными.

Реальное влияние на предприятия

Высокопроизводительные возможности векторного поиска Zilliz Cloud обеспечивают значительный бизнес-эффект для корпоративных клиентов AWS. Благодаря поиску с задержкой менее 10 мс по миллиардам векторов и строгому соответствию требованиям организации могут внедрять AI-приложения в беспрецедентных масштабах.

Filevine, ведущая американская SaaS-компания в сфере юридического ИИ, использует Zilliz Cloud, чтобы быстро делать огромные объемы юридических документов доступными для поиска, сокращая время исследований с часов до минут, например. Это улучшение обеспечивается 10-кратным повышением производительности Cardinal и такими функциями, как оптимизация AutoIndex.

Выбирая Zilliz Cloud на AWS, организации могут уверенно масштабировать свои операции векторного поиска и сосредоточиться на инновациях, а не на управлении инфраструктурой.

Начните работу с векторной базой данных Zilliz Cloud на AWS

Независимо от того, создаете ли вы свое первое AI-приложение или масштабируете существующие системы для обработки миллиардов векторов, Zilliz Cloud обеспечивает производительность, надежность и безопасность, которые требуются корпоративному ИИ. Начните использовать Zilliz Cloud сегодня через AWS Marketplace, или, если вы хотите начать бесплатную пробную версию , изучить варианты BYOC или связаться с Zilliz через AWS. Преобразуйте свои AI-приложения с помощью векторного поиска, созданного для корпоративного масштаба, обеспечивая производительность, которую ожидают ваши пользователи, и безопасность, необходимую вашему бизнесу.

Zilliz рада быть среди первых партнеров запуска для новых AI-агентов и инструментов AWS Marketplace, предоставляя клиентам AWS мощные возможности векторных баз данных.