Zilliz Cloud oferece melhor desempenho e custos mais baixos com AWS Graviton baseado em Arm Neoverse
Com a infraestrutura de nuvem avançando para dar suporte ao crescimento exponencial da IA, o Zilliz Cloud —o banco de dados vetorial totalmente gerenciado criado com base no Milvus —aproveita CPUs baseadas em Arm Neoverse para oferecer eficiência de custos e desempenho incomparáveis para workloads de IA em escala empresarial. Este blog explora como o Zilliz Cloud fez a transição de CPUs x86 para Arm em workloads intensivos em computação, reduzindo custos operacionais e viabilizando busca vetorial em escala de bilhões para workloads de IA de missão crítica, como RAG e busca multimodal.
Zilliz Cloud: Banco de Dados Vetorial Totalmente Gerenciado para Workloads de Produção
O Zilliz Cloud é um banco de dados vetorial totalmente gerenciado, projetado para aplicações de IA em produção, oferecendo busca vetorial em larga escala a baixo custo. Criado com base no Milvus de código aberto, ele oferece suporte a até 100 bilhões de vetores em dados não estruturados (imagens, texto, áudio) com busca de similaridade vetorial com latência abaixo de 20 ms, tornando-o ideal para aplicações como RAG, AI Agents, busca visual, sistemas de recomendação e detecção de anomalias. Os principais recursos do Zilliz Cloud incluem o AutoIndex, que seleciona dinamicamente estratégias de indexação ideais para alta precisão de busca sem ajuste manual, um mecanismo de indexação Cardinal que viabiliza buscas 10x mais rápidas do que o Milvus de código aberto, e suporte a recuperação híbrida que combina busca vetorial densa e busca de texto completo para melhores resultados.
Principais Benefícios do Zilliz Cloud
Alto Desempenho: Capaz de atender dados vetoriais em escala de bilhões com milhares de QPS. Escolha flexível de tipos de cluster para alcançar um equilíbrio entre latência, precisão e custo
Escalabilidade: Escala horizontalmente para lidar com até 100 bilhões de vetores por meio da arquitetura distribuída e nativa da nuvem
Eficiência de Custos: Reduz os custos de infraestrutura em 70% por meio da quantização binária RaBitQ, otimizações de índice vetorial e armazenamento em camadas
Facilidade de Uso: Simplifica a implantação e as operações com AutoIndex e um serviço totalmente gerenciado
Segurança & Confiabilidade: Oferece segurança de nível empresarial e SLA de 99,95% de disponibilidade
Entendendo Bancos de Dados Vetoriais
Bancos de dados vetoriais são especializados em armazenar vetores de alta dimensionalidade gerados por modelos de embedding. Esses vetores possibilitam a busca semântica por meio da busca Approximate Nearest Neighbour, que é crítica para fluxos de trabalho de IA em processamento de linguagem natural, visão computacional e sistemas de recomendação. Ao lidar com indexação em tempo real e consultas multimodais, os bancos de dados vetoriais abordam os desafios de gerenciar dados não estruturados com eficiência. O Zilliz Cloud aproveita esses recursos para impulsionar aplicações de IA com latência abaixo de 20 ms, garantindo alto desempenho para workloads de produção.
O Papel do Milvus
O Milvus, o banco de dados vetorial de código aberto mais popular, com mais de 36 mil estrelas no GitHub, é a base do Zilliz Cloud com sua arquitetura escalável e nativa da nuvem. Seu design distribuído permite que o Zilliz Cloud escale horizontalmente em bilhões de vetores, mantendo baixa latência, possibilitando o manuseio eficiente de conjuntos de dados massivos.
A partir do Milvus 2.3, o suporte a CPUs Arm foi adicionado juntamente com imagens oficiais do Docker para Arm64, simplificando a instalação e a implantação em plataformas econômicas e energeticamente eficientes. Executar o Milvus em CPUs Arm oferece um aumento de desempenho de 20% em relação ao x86 tradicional, resultando em consultas mais rápidas para aplicações que dependem de busca e recuperação vetorial rápidas.
Jornada para CPUs baseadas em Arm
A adoção, pela Zilliz Cloud, dos processadores AWS Graviton3 baseados em Arm marca um salto estratégico no desempenho e na eficiência de custos das cargas de trabalho de IA. Os processadores AWS Graviton3, impulsionados pela arquitetura Arm Neoverse, aproveitam o suporte às instruções SVE e BFloat16 para oferecer desempenho e eficiência superiores. Esses aprimoramentos arquiteturais também incluem unidades vetoriais mais amplas e uma pilha de software aprimorada, tornando o Graviton3 uma escolha ideal para tarefas de GenAI, como pesquisa semântica e pipelines RAG, que exigem operações vetoriais de alto rendimento e processamento em tempo real.
O custo é uma grande barreira para a adoção de pesquisa de IA em larga escala nas empresas. Para resolver isso, a Zilliz Cloud implementou inúmeras otimizações de engenharia que reduzem significativamente os custos e melhoram a eficiência, tornando a pesquisa vetorial mais acessível para seus clientes, mesmo em escala de bilhões.
Desde que tomou conhecimento do poder de computação avançado e do design de instruções otimizado para operações vetoriais, a equipe da Zilliz Cloud tem trabalhado em estreita colaboração com as equipes da Arm e da AWS para migrar as cargas de trabalho de indexação com uso intensivo de computação para o AWS Graviton3.
Um dos benefícios mais notáveis da adoção dos processadores AWS Graviton3 é o aumento substancial no desempenho e na eficiência de custos. Especificamente, a Zilliz Cloud observou:
Desempenho de Criação de Índices: O desempenho de criação de índices aumentou 50% em comparação com a implementação x86, acelerando drasticamente a indexação vetorial, uma operação crítica durante a ingestão de dados para acelerar a consulta no momento da recuperação. Esse aprimoramento permite um processamento de dados mais rápido e um manuseio mais eficiente de conjuntos de dados vetoriais em escala de bilhões.
Operações de Pesquisa: As operações de pesquisa registraram um ganho de eficiência de 10% em benchmark em relação ao x86, resultando em resultados de execução de consultas mais rápidos e recuperação de dados mais responsiva. Essa melhoria permite uma navegação mais fluida por grandes conjuntos de dados, garantindo que os usuários possam localizar rapidamente registros específicos ou explorar vastas quantidades de informações.
Além dos ganhos de desempenho, a adoção de instâncias em nuvem baseadas no AWS Graviton3 reduziu os custos operacionais da Zilliz Cloud em 10%, impulsionada pela eficiência energética dos processadores e pela vantagem de preço-desempenho em comparação com instâncias x86. Essa atualização está alinhada à missão da Zilliz Cloud de oferecer soluções de alto desempenho e custo-benefício para aplicações de IA. Ao aproveitar os processadores AWS Graviton3, a Zilliz Cloud aprimora sua capacidade de lidar com cargas de trabalho exigentes de GenAI, ao mesmo tempo em que reduz o custo total de propriedade.
"A arquitetura baseada em Arm Neoverse do AWS Graviton oferece uma solução econômica e energeticamente eficiente para pesquisa vetorial em escala massiva em produção, garantindo que as empresas possam aumentar a adoção de pesquisa de IA sem comprometer o desempenho", disse James Luan, VP de Engenharia da Zilliz. "Ao integrar o design inovador da Arm, a Zilliz Cloud capacita as organizações a escalar aplicações de IA com maior eficiência, mantendo o alto desempenho necessário para permanecer competitivas."
Conclusão
A integração, pela Zilliz Cloud, dos processadores AWS Graviton3 baseados em Arm oferece uma vantagem competitiva em infraestrutura de IA, combinando escalabilidade e desempenho otimizado em custos para cargas de trabalho críticas. Ao aproveitar sua arquitetura aprimorada de computação e eficiência energética, a plataforma acelera implantações de IA/ML por meio de construção de índices mais rápida, recursos de pesquisa acelerados e custos de infraestrutura reduzidos. À medida que as organizações priorizam cada vez mais soluções escaláveis e econômicas para cargas de trabalho impulsionadas por IA, a adoção, pela Zilliz Cloud, de tecnologia de computação de alto desempenho e custo eficiente garante que ela permaneça líder na entrega de serviços em nuvem inovadores e eficientes. Essa abordagem voltada para o futuro capacita os clientes a enfrentar desafios complexos de dados, mantendo a agilidade em um cenário tecnológico cada vez mais complexo e em evolução.
Visite o Arm Developer Hub para obter ferramentas testadas em campo, demonstrações e guias passo a passo para turbinar suas aplicações de IA na arquitetura Arm.
Pronto para revolucionar a busca semântica? Explore nosso tutorial sobre como criar uma aplicação com RAG usando o Zilliz Cloud em servidores baseados em Arm.
Migre sem complicações com Arm Cloud Migration – seu atalho para aumentar a eficiência e otimizar o desempenho no Arm.
Jiang ChenJiang is currently Director of Technical GTM at Zilliz. He has years of experience in data infrastructures and cloud security. Before joining Zilliz, he had previously served as a tech lead and product manager at Google, where he led the development of web-scale semantic understanding and search indexing that powers innovative search products such as short video search. He has extensive industry experience handling massive unstructured data and multimedia content retrieval. He has also worked on cloud authorization systems and research on data privacy technologies. Jiang holds a Master's degree in Computer Science from the University of Michigan.
Ashok BhatAshok Bhat is the Senior Product Manager at Arm.
Continue lendo
Stop Building AI Data Infra for the Wrong Stage
Learn how AI data infrastructure should evolve from prototype to enterprise scale, and when Vector Lakebase becomes the right architecture for AI apps.
Migrating from S3 Vectors to Zilliz Cloud: Unlocking the Power of Tiered Storage
Learn how Zilliz Cloud bridges cost and performance with tiered storage and enterprise-grade features, and how to migrate data from AWS S3 Vectors to Zilliz Cloud.
Zilliz Cloud Enterprise Vector Search Powers High-Performance AI on AWS
Zilliz Cloud on AWS powers secure, scalable, ultra-fast vector search for enterprise AI apps, with BYOC, sub-10ms latency, and zero-DevOps simplicity.