Milvus: La clave para el desarrollo de RAG - Mejora la eficiencia, reduce costos y optimiza el rendimiento
Introducción
En mi blog anterior, analizamos cómo la Generación Aumentada por Recuperación (RAG) aborda los desafíos que enfrentan los grandes modelos de lenguaje (LLMs), como las alucinaciones y la necesidad de información específica del dominio. También enfatizamos su papel para garantizar la privacidad de los datos y permitir la recuperación de información en tiempo real.
En el corazón de un framework RAG básico se encuentran dos elementos cruciales: el Recuperador y el Generador. El Recuperador, impulsado por una base de datos vectorial, proporciona información contextual para las consultas de los usuarios, mientras que el Generador, a menudo impulsado por LLMs como ChatGPT, elabora respuestas finales basadas en este contexto. Comprender estos aspectos técnicos te hará sentir más informado sobre las complejidades de RAG.
A medida que los desarrolladores amplían los límites de las aplicaciones RAG y las llevan a entornos de producción, necesitan respuestas más rápidas, de mayor calidad y más precisas. Esto subraya la importancia crítica de las bases de datos vectoriales robustas para permitir una mayor eficiencia y calidad de recuperación.
La última versión de Milvus representa un avance notable en la tecnología de bases de datos vectoriales, particularmente en la mejora del rendimiento de RAG. Esta publicación profundizará en las funciones más recientes de Milvus, destacará sus funcionalidades e ilustrará por qué es la opción principal para desarrollar aplicaciones RAG exitosas.
Simplificación del desarrollo y la validación de RAG mediante la integración con modelos populares de embedding y reranking
Aunque una configuración básica de RAG es suficiente para prototipos o proyectos pequeños, se queda corta para aplicaciones listas para producción. A medida que los desarrolladores avanzan hacia aplicaciones RAG más complejas, incorporan componentes técnicos adicionales en el pipeline, lo que aumenta la complejidad del desarrollo. Además, la rápida evolución y las variaciones de parámetros en las tecnologías relacionadas con RAG añaden más obstáculos a la creación, el ajuste fino y la validación de aplicaciones. Para abordar estos desafíos, muchos desarrolladores de RAG recurren a frameworks o bibliotecas como LangChain, LlamaIndex, y DSPy, que ofrecen una amplia funcionalidad para un desarrollo y una validación simplificados.
Milvus es una base de datos vectorial especializada para el almacenamiento y la recuperación eficientes de datos. En su última versión, Milvus integra sin problemas modelos convencionales de embedding y reranking, lo que permite a los usuarios transformar fácilmente texto en vectores buscables y reordenar los resultados recuperados para obtener respuestas más precisas sin añadir componentes adicionales de embedding y reranking al pipeline de RAG. Como resultado, esta integración simplifica el proceso general de desarrollo y validación de RAG.
Milvus actualmente admite una variedad de embeddings populares, incluidos OpenAI Embedding API, sentence transformers, BGE-M3, BM25, SPLADE, y Voyage AI.
| Modelos de incrustación integrados | Tipo de vector | API o código abierto |
| OpenAI Embedding API | Denso | API |
| sentence transformers | Denso | Código abierto |
| BM25 | Disperso | Código abierto |
| SPLADE | Disperso | Código abierto |
| BGE-M3 | Híbrido | Código abierto |
| Voyage AI | Denso | API |
Milvus actualmente admite los siguientes modelos de reranking: BGE, Cross-encoder, Voyage AI y Cohere.
| Modelos de reranking integrados | API o código abierto |
| BGE rerankers | Código abierto |
| Cross encoders | Código abierto |
| Voyage AI rerankers | API |
| Cohere rerankers | API |
Admitiremos más modelos en los próximos meses. Mantente atento. La documentación de Milvus proporciona orientación detallada sobre cómo aprovechar estos modelos de incrustación preentrenados.
Mejora de la calidad de recuperación y la recuperación de datos multimodales con búsqueda híbrida
Las aplicaciones RAG del mundo real se utilizan en diversos casos de uso que tratan con texto y datos multimodales como imágenes, videos y audio. Manejar información rica requiere una base de datos vectorial para almacenar y recuperar eficientemente incrustaciones en varios tipos de datos con el fin de atender consultas multimodales.
Milvus da un paso al frente al ofrecer soporte multivector y un marco de búsqueda híbrida. Los usuarios pueden consolidar múltiples campos vectoriales, hasta 10, dentro de una sola colección. Los vectores en estos campos pueden representar diferentes aspectos o modalidades de datos relacionados con la misma entidad, enriqueciendo significativamente el conjunto de información.
Fig1: Cómo Milvus realiza una búsqueda híbrida
Esta capacidad de búsqueda híbrida y las estrategias de reranking mixtas proporcionan mayor flexibilidad al recuperar información multimodal y multidimensional. Resulta invaluable en casos de uso como identificar al individuo más similar en una biblioteca vectorial basándose en atributos como imágenes, voz y huellas dactilares.
Además, Milvus extiende su búsqueda híbrida para admitir vectores dispersos, ampliamente utilizados para conocimiento fuera de dominio y recuperación por palabras clave. Esta extensión permite la recuperación mixta de palabras clave e incrustaciones vectoriales, lo que conduce a resultados de recuperación más precisos y, en última instancia, mejora la precisión de la generación de respuestas finales en tu aplicación RAG.
Mejora de la velocidad y precisión de recuperación con búsqueda filtrada por escalares mejorada
En aplicaciones prácticas, no todos los datos son adecuados para la búsqueda vectorial. Tomemos, por ejemplo, un chatbot centrado en el inventario de ropa. Junto con los vectores, los datos contienen numerosos atributos como color y talla. Filtrar dichos datos escalares antes o después de la búsqueda vectorial resulta más eficiente y rápido que convertirlos en vectores.
Milvus admite la búsqueda filtrada por escalares, fortaleciendo la precisión y la velocidad de recuperación. Las actualizaciones recientes de esta función incluyen:
Función de búsqueda por agrupación: Esta función utiliza la agregación de columnas escalares para ofrecer datos agregados refinados y de alto nivel. Agiliza las búsquedas, especialmente en casos de uso como buscar un número específico de documentos relacionados con una consulta.
Coincidencia difusa para columnas escalares: Las consultas difusas para columnas escalares ahora abarcan coincidencias de infijo y sufijo, elevando la calidad de búsqueda más allá de la coincidencia de prefijo admitida anteriormente.
Índice invertido para acelerar las velocidades de búsqueda: La introducción del índice invertido puede aumentar el rendimiento en más de diez veces en casos de uso de búsqueda inversa.
Fig2: El índice invertido mejora las velocidades de búsqueda en 10x
Estas mejoras permiten a los sistemas RAG adaptar sus enfoques a requisitos empresariales específicos. Por ejemplo, los usuarios pueden buscar eficientemente documentos legales basándose en fechas de casos o filtrar informes de noticias relevantes por ubicación geográfica. Este enfoque de búsqueda multidimensional mejora la precisión y la eficiencia de su aplicación RAG al gestionar consultas específicas.
Ofrecer soluciones RAG rentables
Crear y mantener una gran base de conocimientos para su aplicación RAG puede ser financieramente costoso, principalmente porque los conjuntos de datos continúan expandiéndose. Por lo tanto, se necesitan soluciones rentables que faciliten la gestión de grandes cantidades de datos.
Milvus ofrece una solución rentable como base de datos vectorial de código abierto bajo la licencia Apache-2.0, libre de costos de licencia. Su conjunto de funciones de alto rendimiento está disponible de inmediato sin ningún costo adicional.
Además, Milvus integra Mmap para minimizar el consumo de memoria, optimizando la asignación de recursos. Milvus va un paso más allá al introducir capacidades de almacenamiento de datos por niveles fríos y calientes, adaptadas para acomodar datos con diferentes frecuencias de acceso y requisitos de latencia. Milvus reduce los costos de almacenamiento al colocar estratégicamente los datos en diferentes medios de almacenamiento, como RAM, NVMe, EBS y S3, y al aprovechar las capacidades de almacenamiento en la nube. Las técnicas inteligentes de almacenamiento en caché y particionamiento de datos contribuyen aún más a la eficiencia de los recursos durante las consultas, lo que permite que las aplicaciones RAG impulsadas por Milvus operen a menores costos sin comprometer el rendimiento.
Fig3: Cómo funciona el enfoque de almacenamiento de datos por niveles fríos y calientes
Este enfoque minimiza la inversión inicial y garantiza una eficiencia operativa continua, lo que convierte a Milvus en una opción ideal para implementaciones RAG conscientes de los costos.
Resumen
Desde su integración con modelos de embedding populares hasta sus capacidades de recuperación de datos multimodales y búsqueda mejorada con filtros escalares, la base de datos vectorial Milvus ayuda a los desarrolladores a crear aplicaciones RAG más rápidas, precisas y versátiles que nunca.
Además, Milvus ofrece una solución rentable para crear y mantener grandes bases de conocimientos con su espíritu de código abierto, funciones de alto rendimiento y estrategias de almacenamiento optimizadas. Al minimizar el consumo de memoria, implementar almacenamiento de datos por niveles y aprovechar técnicas inteligentes de almacenamiento en caché y particionamiento de datos, Milvus permite que las aplicaciones RAG operen eficientemente a menores costos sin sacrificar el rendimiento.
En conclusión, Milvus transforma el desarrollo de RAG al proporcionar a los desarrolladores las herramientas para crear aplicaciones más rápidas, precisas y rentables. Con Milvus, las posibilidades de innovación en RAG son infinitas, y el futuro de la recuperación de información es más brillante que nunca.
Sigue leyendo
Zilliz Cloud BYOC Now Available Across AWS, GCP, and Azure
Zilliz Cloud BYOC is now generally available on all three major clouds. Deploy fully managed vector search in your own AWS, GCP, or Azure account — your data never leaves your VPC.
Announcing the General Availability of Single Sign-On (SSO) on Zilliz Cloud
SSO is GA on Zilliz Cloud, delivering the enterprise-grade identity management capabilities your teams need to deploy vectorDB with confidence.
Proactive Monitoring for Vector Database: Zilliz Cloud Integrates with Datadog
we're excited to announce Zilliz Cloud's integration with Datadog, enabling comprehensive monitoring and observability for your vectorDB deployments.