Milvus: A chave para o desenvolvimento de RAG - Melhore a eficiência, reduza custos e aprimore o desempenho
Introdução
No meu blog anterior, vimos como a Geração Aumentada por Recuperação (RAG) aborda os desafios enfrentados por grandes modelos de linguagem (LLMs), como alucinações e a necessidade de informações específicas de domínio. Também enfatizamos seu papel em garantir a privacidade dos dados e possibilitar a recuperação de informações em tempo real.
No centro de uma estrutura básica de RAG estão dois elementos cruciais: o Recuperador e o Gerador. O Recuperador, alimentado por um banco de dados vetorial, fornece informações contextuais para as consultas dos usuários, enquanto o Gerador, frequentemente impulsionado por LLMs como o ChatGPT, elabora respostas finais com base nesse contexto. Entender esses aspectos técnicos fará com que você se sinta mais informado sobre as complexidades do RAG.
À medida que os desenvolvedores ampliam os limites das aplicações de RAG e as levam para ambientes de produção, eles precisam de respostas mais rápidas, de maior qualidade e mais precisas. Isso ressalta a importância crítica de bancos de dados vetoriais robustos para possibilitar maior eficiência e qualidade na recuperação.
A versão mais recente do Milvus representa um avanço notável na tecnologia de bancos de dados vetoriais, especialmente no aprimoramento do desempenho do RAG. Este post vai mergulhar nos recursos mais recentes do Milvus, destacar suas funcionalidades e ilustrar por que ele é a principal escolha para desenvolver aplicações de RAG bem-sucedidas.
Simplificando o Desenvolvimento e a Validação de RAG por Meio da Integração com Modelos Populares de Embedding e Reranking
Embora uma configuração básica de RAG seja suficiente para prototipagem ou pequenos projetos, ela fica aquém para aplicações prontas para produção. À medida que os desenvolvedores avançam para apps de RAG mais complexos, eles incorporam componentes técnicos adicionais ao pipeline, aumentando a complexidade do desenvolvimento. Além disso, a rápida evolução e as variações de parâmetros nas tecnologias relacionadas a RAG acrescentam obstáculos adicionais à criação, ao ajuste fino e à validação de apps. Para enfrentar esses desafios, muitos desenvolvedores de RAG recorrem a frameworks ou bibliotecas como LangChain, LlamaIndex e DSPy, que oferecem ampla funcionalidade para desenvolvimento e validação simplificados.
Milvus é um banco de dados vetorial especializado para armazenamento e recuperação eficientes de dados. Em sua versão mais recente, o Milvus integra perfeitamente modelos convencionais de embedding e reranking, permitindo que os usuários transformem facilmente texto em vetores pesquisáveis e reranqueiem os resultados recuperados para obter respostas mais precisas, sem adicionar componentes adicionais de embedding e reranking ao pipeline de RAG. Como resultado, essa integração simplifica o processo geral de desenvolvimento e validação de RAG.
Atualmente, o Milvus oferece suporte a uma variedade de embeddings populares, incluindo OpenAI Embedding API, sentence transformers, BGE-M3, BM25, SPLADE e Voyage AI.
| Modelos de embedding integrados | Tipo de vetor | API ou open-source |
| OpenAI Embedding API | Denso | API |
| sentence transformers | Denso | Open-source |
| BM25 | Esparso | Open-source |
| SPLADE | Esparso | Open-source |
| BGE-M3 | Híbrido | Open-source |
| Voyage AI | Denso | API |
Atualmente, o Milvus oferece suporte aos seguintes modelos de reranking: BGE, Cross-encoder, Voyage AI e Cohere.
| Modelos de reranking integrados | API ou Open-sourced |
| BGE rerankers | Open-sourced |
| Cross encoders | Open-sourced |
| Voyage AI rerankers | API |
| Cohere rerankers | API |
Daremos suporte a mais modelos nos próximos meses. Fique atento. A documentação do Milvus fornece orientações detalhadas sobre como aproveitar esses modelos de embedding pré-treinados.
Aprimorando a Qualidade da Recuperação e a Recuperação de Dados Multimodais com Busca Híbrida
Aplicações RAG do mundo real são usadas em diversos casos de uso que lidam com texto e dados multimodais, como imagens, vídeos e áudio. Lidar com informações ricas exige que um banco de dados vetorial armazene e recupere embeddings de forma eficiente em vários tipos de dados para atender a consultas multimodais.
O Milvus se destaca ao oferecer suporte a múltiplos vetores e uma estrutura de busca híbrida. Os usuários podem consolidar múltiplos campos vetoriais, até 10, em uma única coleção. Os vetores nesses campos podem representar diferentes aspectos ou modalidades de dados relacionados à mesma entidade, enriquecendo significativamente o conjunto de informações.
Fig1: Como o Milvus realiza uma busca híbrida
Essa capacidade de busca híbrida e as estratégias mistas de reranking oferecem maior flexibilidade na recuperação de informações multimodais e multidimensionais. Ela se mostra inestimável em casos de uso como identificar o indivíduo mais semelhante em uma biblioteca vetorial com base em atributos como fotos, voz e impressões digitais.
Além disso, o Milvus amplia sua busca híbrida para oferecer suporte a vetores esparsos, amplamente utilizados para conhecimento fora do domínio e recuperação por palavras-chave. Essa extensão permite a recuperação mista de palavras-chave e embeddings vetoriais, levando a resultados de recuperação mais precisos e, por fim, melhorando a precisão da geração da resposta final em sua aplicação RAG.
Melhorando a Velocidade e a Precisão da Recuperação com Busca Filtrada por Escalares Atualizada
Em aplicações práticas, nem todos os dados são adequados para busca vetorial. Considere, por exemplo, um chatbot focado em estoque de roupas. Junto com os vetores, os dados contêm numerosos atributos, como cor e tamanho. Filtrar esses dados escalares antes ou depois da busca vetorial se mostra mais eficiente e mais rápido do que convertê-los em vetores.
O Milvus oferece suporte à busca filtrada por escalares, fortalecendo a precisão e a velocidade da recuperação. Atualizações recentes desse recurso incluem:
Função de Busca por Agrupamento: Esta função utiliza agregação de colunas escalares para fornecer dados agregados refinados e de alto nível. Ela simplifica as buscas, especialmente em casos de uso como buscar um número específico de documentos relacionados a uma consulta.
Correspondência Aproximada para Colunas Escalares: Consultas aproximadas para colunas escalares agora abrangem correspondência de infixo e sufixo, elevando a qualidade da busca além da correspondência de prefixo anteriormente suportada.
Índice Invertido para Velocidades de Busca Aceleradas: A introdução do Índice Invertido pode aumentar o desempenho em mais de dez vezes em casos de uso de busca reversa.
Fig2: O índice invertido melhora as velocidades de busca em 10x
Essas melhorias capacitam os sistemas RAG a adaptar suas abordagens a requisitos de negócios específicos. Por exemplo, os usuários podem pesquisar documentos jurídicos com eficiência com base em datas de casos ou filtrar relatórios de notícias relevantes por localização geográfica. Essa abordagem de busca multidimensional aumenta a precisão e a eficiência da sua aplicação RAG ao lidar com consultas direcionadas.
Oferecendo Soluções RAG com Custo Eficiente
Construir e manter uma grande base de conhecimento para seu aplicativo RAG pode ser financeiramente caro, principalmente porque os conjuntos de dados continuam a se expandir. Portanto, são necessárias soluções econômicas que facilitem o gerenciamento de grandes volumes de dados.
O Milvus oferece uma solução econômica como um banco de dados vetorial de código aberto sob a licença Apache-2.0, livre de custos de licenciamento. Seu conjunto de recursos de alto desempenho está prontamente disponível sem quaisquer custos adicionais.
Além disso, o Milvus integra Mmap para minimizar o consumo de memória, otimizando a alocação de recursos. O Milvus vai além ao introduzir capacidades de armazenamento de dados frios e quentes em camadas, adaptadas para acomodar dados com diferentes frequências de acesso e requisitos de latência. O Milvus reduz os custos de armazenamento ao posicionar estrategicamente os dados em diferentes mídias de armazenamento, como RAM, NVMe, EBS e S3, e ao aproveitar as capacidades de armazenamento em nuvem. Técnicas inteligentes de cache e fragmentação de dados contribuem ainda mais para a eficiência de recursos durante as consultas, permitindo que aplicações RAG impulsionadas pelo Milvus operem com custos menores sem comprometer o desempenho.
Fig3: Como funciona a abordagem de armazenamento de dados frios e quentes em camadas
Essa abordagem minimiza o investimento inicial e garante eficiência operacional contínua, tornando o Milvus uma escolha ideal para implementações RAG conscientes dos custos.
Resumo
Desde sua integração com modelos de embedding populares até suas capacidades de recuperação de dados multimodais e busca com filtro escalar aprimorada, o banco de dados vetorial Milvus ajuda os desenvolvedores a criar aplicações RAG mais rápidas, mais precisas e mais versáteis do que nunca.
Além disso, o Milvus oferece uma solução econômica para construir e manter grandes bases de conhecimento com sua essência de código aberto, recursos de alto desempenho e estratégias de armazenamento otimizadas. Ao minimizar o consumo de memória, implementar armazenamento de dados em camadas e aproveitar técnicas inteligentes de cache e fragmentação de dados, o Milvus permite que aplicações RAG operem com eficiência a custos menores sem sacrificar o desempenho.
Em conclusão, o Milvus transforma o desenvolvimento de RAG ao fornecer aos desenvolvedores as ferramentas para criar aplicações mais rápidas, mais precisas e com custo eficiente. Com o Milvus, as possibilidades de inovação em RAG são infinitas, e o futuro da recuperação de informações está mais promissor do que nunca.
Continue lendo
Zilliz Cloud Audit Logs Goes GA: Security, Compliance, and Transparency at Scale
Zilliz Cloud Audit Logs are now GA, giving enterprises real-time visibility, compliance-ready trails, and stronger security across AWS, GCP, and Azure.
AI Integration in Video Surveillance Tools: Transforming the Industry with Vector Databases
Discover how AI and vector databases are revolutionizing video surveillance with real-time analysis, faster threat detection, and intelligent search capabilities for enhanced security.
Why Deepseek is Waking up AI Giants Like OpenAI And Why You Should Care
Discover how DeepSeek R1's open-source AI model with superior reasoning capabilities and lower costs is disrupting the AI landscape and challenging tech giants like OpenAI.