Novidades no Milvus 2.3 Beta - 10X mais rápido com GPUs
Temos orgulho de anunciar o lançamento Beta do Milvus 2.3 em nome da comunidade Milvus. Este lançamento Beta contém novos recursos e melhorias que temos certeza de que impulsionarão o desempenho das suas aplicações com tecnologia de IA. Agradecemos sua ajuda para testar alguns desses recursos a fim de nos levar rapidamente ao lançamento geral! Esta publicação do blog destacará alguns dos recursos mais importantes. Para obter uma lista completa de alterações, confira as notas de lançamento.
- 📦 PyPI: https://pypi.org/project/milvus/
- 📚 Docs: https://milvus.io/docs
- 🛠️ Notas de lançamento: https://github.com/milvus-io/milvus/releases
- 🐳 Imagem Docker: docker pull milvusdb/milvus
- 🚀 Lançamento: https://github.com/milvus-io/milvus/releases/tag/v2.3.0-beta
Um dos recursos do Milvus 2.3 Beta é seu suporte à aceleração por GPU e à integração baseada em RAFT, o que permite ao Milvus aproveitar totalmente o poder das unidades modernas de processamento gráfico. O Milvus acelerado por GPU oferece desempenho 10X mais rápido do que a versão somente CPU. Isso pode melhorar significativamente a velocidade e a capacidade de resposta das suas aplicações com tecnologia de IA e aprendizado de máquina, permitindo um processamento de dados mais rápido e preciso.
Outro recurso fundamental do Milvus 2.3 Beta é seu suporte à busca por intervalo, permitindo que os usuários busquem dados dentro de um intervalo especificado. Isso pode ser particularmente útil para aplicações que exigem consultas de dados complexas, pois permite buscas mais precisas e acuradas. Além disso, o Milvus 2.3 Beta também oferece suporte a mmap e backups incrementais, todos os quais podem ajudar ainda mais a impulsionar o desempenho e a eficiência das suas aplicações de IA. Ao permitir um gerenciamento e armazenamento de dados mais eficientes, esses recursos podem garantir que seus sistemas de IA operem continuamente em níveis máximos.
No geral, as melhorias neste lançamento são essenciais para qualquer desenvolvedor que esteja criando aplicações com recursos de busca por similaridade.
Suporte a GPU Nvidia Este novo recurso traz a capacidade de oferecer suporte à computação heterogênea, o que pode acelerar significativamente cargas de trabalho especializadas. Esta nova adição permite que os usuários esperem buscas de dados vetoriais mais rápidas e eficientes, melhorando, em última análise, a produtividade e o desempenho. Comparamos RAFT-IVF-Flat (GPU) com IVF-Flat (CPU) e HNSW (CPU) em quatro conjuntos de dados com 95% de recall. O índice GPU alcançou uma taxa de transferência média 32x e 8x maior do que IVF-Flat e HNSW. Os resultados da avaliação são mostrados na Tabela 1. (Esses benchmarks foram executados no Knowhere em um host com CPU de 8 núcleos, 32 GB de RAM e uma GPU Nvidia A100)
Tabela 1. O QPS de IVF-Flat, HNSW, RAFT-IVF-Flat em quatro conjuntos de dados com 95% de recall
| SIFT | GIST | GLOVE | DEEP | |
|---|---|---|---|---|
| IVF-Flat (CPU) | 3097 | 142 | 791 | 723 |
| HNSW (CPU) | 14,537 | 791 | 1,516 | 5,761 |
| RAFT-IVF-Flat (GPU) | 121,568 | 5,737 | 20,163 | 16,557 |
Agradecimentos especiais a @wphicks e @cjnolet, da Nvidia, por suas valiosas contribuições ao código RAFT.
Busca por intervalo A busca por intervalo é um método de busca diferente da consulta k-NN. Consultas k-NN retornam um número fixo dos vizinhos mais próximos. Para a busca por intervalo, dada uma consulta q e um limite de distância R, ela retorna todas as entidades dentro da distância R de q. A busca por intervalo é comumente usada para encontrar todos os resultados relevantes dentro de um intervalo especificado. Por exemplo, ela pode ajudar com (mas não se limita a) deduplicação de dados ou detecção de violação de direitos autorais sem deixar de identificar candidatos semelhantes.
Upsert Upsert é uma operação que atualizará o valor de uma entidade se ela já existir em uma coleção ou inserirá uma nova se ela não existir. O Milvus oferece alta flexibilidade para adicionar dados às suas coleções. Por enquanto, há três opções no total:
- Bulk insert para alta taxa de transferência em casos offline.
- Insert para baixa latência em casos de streaming online.
- Upsert para os casos em que você não tem certeza se deve atualizar ou inserir novas entidades.
Change Data Capture (CDC) Change Data Capture (CDC) é o processo de identificar e capturar alterações nos dados em um banco de dados vetorial em tempo real e entregar essas alterações a sistemas downstream. O Milvus agora oferece backup e sincronização sem tempo de inatividade com base nesse mecanismo. Os desenvolvedores também podem usar CDC para capturar e fornecer um fluxo contínuo de alterações para suas cargas de trabalho downstream, como análise de dados ou auditoria personalizada.
Memory-mapped (mmap) file I/O Em cenários de memória insuficiente em grandes conjuntos de dados e em que o desempenho de consulta não é crítico, o Milvus usa mmap para permitir que o sistema trate partes de um arquivo como se estivessem na memória, reduzindo o uso de memória e melhorando o desempenho se todos os dados estiverem no cache de páginas do sistema.
Resumo
Além de todos os recursos listados acima, o Milvus 2.3 Beta inclui várias correções de bugs e melhorias. Para saber mais:
- Consulte as notas de lançamento da versão 2.3 Beta para obter a lista completa de alterações
- Baixe o Milvus e comece
- Confira os benchmarks do Milvus neste artigo
Continue lendo
How to Install and Run OpenClaw (Previously Clawdbot/Moltbot) on Mac
Turn your Mac into an AI gateway for WhatsApp, Telegram, Discord, iMessage, and more — in under 5 minutes.
Why and How to Migrate from Self-Hosted Milvus to Zilliz Cloud
A simple, step-by-step guide to migrating from Milvus to Zilliz Cloud. Learn both endpoint and backup methods for a smooth, scalable vector database migration.
DeepSeek-OCR Explained: Optical Compression for Scalable Long-Context and RAG Systems
Discover how DeepSeek-OCR uses visual tokens and Contexts Optical Compression to boost long-context LLM efficiency and reshape RAG performance.