DeepRAG: Pensando hasta la recuperación paso a paso para modelos de lenguaje grandes
Imagina que estás planeando un viaje por carretera y le preguntas a tu asistente digital: ¿Cuál es la ruta más rápida a las montañas ahora mismo? Sin información en tiempo real, te sugiere una autopista basándose en patrones de tráfico desactualizados, dejándote atrapado en un desvío. Pero con actualizaciones de tráfico en vivo, habría detectado el cierre y te habría guiado por una ruta panorámica más rápida. Esto pone de relieve una limitación central de los modelos de lenguaje grandes (LLMs): su dependencia de conocimiento estático y preentrenado a menudo conduce a respuestas desactualizadas o incompletas. Lageneración aumentada por recuperación (RAG) aborda esto combinando los LLMs con fuentes de conocimiento externas como bases de datos o motores de búsqueda. En lugar de depender solo del conocimiento almacenado, RAG recupera información relevante y la incorpora en la respuesta del modelo. Esto es útil para responder preguntas sobre eventos recientes o temas especializados. Sin embargo, los sistemas RAG tradicionales están lejos de ser perfectos. A menudo recuperan información irrelevante, pasan por alto detalles cruciales o desperdician recursos en búsquedas innecesarias.DeepRAG, presentado en el artículo DeepRAG: Thinking to Retrieval Step by Step for Large Language Models, resuelve estos problemas con un enfoque más adaptativo. En lugar de tratar la recuperación como un único paso, divide las preguntas complejas en subconsultas más pequeñas y decide en cada etapa si depender del conocimiento interno o buscar datos externos. Técnicas como la búsqueda en árbol binario, que explora diferentes rutas de respuesta, y el aprendizaje por imitación, donde el modelo se entrena usando ejemplos de expertos, ayudan a DeepRAG a recuperar solo lo necesario. Este enfoque paso a paso reduce las búsquedas desperdiciadas y mejora la precisión de las respuestas.En este artículo, exploraremos cómo funciona DeepRAG, desglosaremos sus componentes clave y mostraremos cómo las bases de datos vectoriales como Milvus y Zilliz Cloud pueden mejorar aún más sus capacidades de recuperación.
Las deficiencias del conocimiento estático y la recuperación ingenua
Aunque los modelos de lenguaje grandes (LLMs) destacan en la generación de respuestas coherentes, se quedan cortos cuando las consultas exigen conocimiento actual, específico o profundamente contextual. Esto se debe a que su conocimiento se basa en conjuntos de datos estáticos recopilados durante el entrenamiento, lo que limita su capacidad para responder preguntas que requieren información en tiempo real o especializada. Una vez que el entrenamiento se completa, su conocimiento queda congelado, lo que los hace poco fiables para consultas que exigen actualidad, especificidad o contexto dinámico.
Actualidad: Para temas como eventos actuales o actualizaciones en vivo, los LLMs proporcionan información desactualizada. Cuando se les pregunta: “¿Quién ganó la Copa del Mundo este año?”, el modelo puede responder basándose en torneos anteriores en lugar de en los resultados más recientes.
Especificidad: Los LLMs a menudo fallan en dominios especializados como la medicina, el derecho o los estándares técnicos, donde el conocimiento actualizado o altamente especializado es fundamental. Por ejemplo, una consulta sobre los tratamientos más recientes aprobados por la FDA para la enfermedad de Alzheimer puede producir recomendaciones desactualizadas.
Contexto dinámico: La información que evoluciona rápidamente, como los precios de las acciones, las tendencias en redes sociales o las condiciones meteorológicas, está fuera de su alcance. Sin actualizaciones externas, el modelo adivina en lugar de proporcionar respuestas informadas.
La generación aumentada por recuperación (RAG) amplía las capacidades de los LLMs al incorporar información externa de bases de datos, motores de búsqueda o APIs antes de generar respuestas. Sin embargo, los sistemas RAG tradicionales introducen su propio conjunto de problemas:
Recuperación excesiva: Cuando RAG recupera demasiados documentos irrelevantes, inunda al modelo con ruido, haciendo que las respuestas sean menos precisas. Por ejemplo, si se pregunta: “¿Qué causó los incendios forestales de Hawái de 2023?”, un sistema RAG tradicional podría recuperar una variedad de artículos sobre prevención de incendios forestales o incendios históricos en lugar de la causa específica.
Recuperación insuficiente: Las consultas mal formuladas o demasiado amplias pueden dar lugar a la omisión de detalles clave. Buscar solo “causas de los incendios forestales en Hawái” podría excluir informes oficiales de investigación que atribuyen la causa a líneas eléctricas caídas.
Desperdicio computacional: Recuperar y procesar grandes volúmenes de información innecesaria aumenta los tiempos de respuesta y los costos sin mejorar la calidad de la respuesta.
La raíz de estos problemas es que los sistemas RAG tradicionales tratan todas las consultas de la misma manera, recuperando información externa de forma indiscriminada sin evaluar si es necesaria. Esta falta de adaptabilidad genera ineficiencias para preguntas simples y respuestas incompletas para las complejas. Las consultas simples, como “¿Qué es la fotosíntesis?”, no requieren recuperación externa porque la respuesta ya está dentro del conocimiento interno del modelo. En cambio, las preguntas complejas o de varios pasos, como “Compara la eficacia de las vacunas de ARNm en diferentes grupos de edad”, exigen información externa y pueden implicar dividir la consulta en subpreguntas para recuperar los datos más relevantes.
Este enfoque rígido resalta la necesidad de un sistema más adaptativo que pueda equilibrar el conocimiento interno con la recuperación externa, adaptando su estrategia según la complejidad y los requisitos de cada consulta.
Cómo DeepRAG adapta la recuperación paso a paso
DeepRAG aborda las limitaciones de los sistemas RAG tradicionales introduciendo un proceso adaptativo que refleja cómo nosotros, como humanos, abordamos preguntas complejas. En lugar de recuperar información toda de una vez o para cada consulta, DeepRAG descompone las preguntas en subconsultas más pequeñas y manejables, y decide en cada paso si la información externa es necesaria. Este proceso adaptativo reduce las búsquedas innecesarias y mejora la precisión.
La clave del enfoque de DeepRAG reside en cómo estructura y navega el proceso de recuperación. En lugar de tratar una consulta como un único bloque, sigue una narrativa de recuperación, una secuencia lógica en la que cada subconsulta se basa en los pasos anteriores para formar gradualmente una respuesta completa. En cada etapa, DeepRAG toma decisiones atómicas para determinar si debe confiar en el conocimiento interno o buscar datos externos, lo que le permite mantenerse eficiente y centrado en lo que realmente se necesita para responder a la pregunta.
Echa un vistazo a la siguiente ilustración que muestra cómo DeepRAG refleja el pensamiento humano.
Figura 1: Ilustración de cómo DeepRAG refleja el pensamiento humano
Al estructurar el proceso de razonamiento mediante una narrativa de recuperación bien definida y tomar decisiones atómicas precisas en cada paso, DeepRAG garantiza que solo recupere información cuando sea necesario y que recurra al conocimiento interno cuando corresponda. Este enfoque equilibrado conduce a respuestas más eficientes y precisas, al tiempo que reduce el costo computacional asociado con una recuperación excesiva o irrelevante. Este marco adaptativo no solo mejora la calidad de las respuestas, sino que también optimiza el uso de recursos, lo que convierte a DeepRAG en una solución más práctica y escalable para tareas complejas de recuperación de información.
Los componentes principales detrás de la recuperación adaptativa de DeepRAG
El proceso de recuperación adaptativa de DeepRAG se basa en un enfoque estructurado que descompone preguntas complejas, toma decisiones informadas sobre cuándo recuperar información externa y refina sus estrategias de razonamiento mediante entrenamiento. Este proceso se construye sobre cuatro componentes interconectados: modelado de Proceso de Decisión de Markov (MDP), búsqueda en árbol binario, aprendizaje por imitación y una cadena de calibración, todos los cuales trabajan juntos para equilibrar eficiencia y precisión al responder preguntas.
Descripción general del Proceso de Decisión de Markov (MDP)
En el centro del proceso de toma de decisiones de DeepRAG se encuentra el marco de Proceso de decisión de Markov (MDP) , que ayuda al sistema a trazar sistemáticamente los pasos necesarios para responder una pregunta. El MDP consta de cuatro componentes:
Estados (S): Representan el progreso actual al responder una pregunta. Un estado incluye la pregunta original junto con cualquier subconsulta y sus respuestas correspondientes generadas hasta el momento.
Acciones (A): En cada estado, el modelo toma dos decisiones para guiar sus acciones. La decisión de terminación determina si el modelo debe detenerse y proporcionar una respuesta final o continuar generando subconsultas. La decisión atómica decide si el modelo debe usar su conocimiento interno o recuperar información externa para abordar la siguiente subconsulta.
Transiciones (P): Definen cómo el sistema pasa de un estado a otro según las acciones elegidas.
Recompensas (R): Un sistema de puntuación que recompensa al modelo por encontrar la respuesta correcta mientras penaliza las recuperaciones innecesarias o excesivas.
Por ejemplo, supongamos que al sistema se le pregunta “¿Cuál es la duración total de todas las películas de The Lord of the Rings?”. El estado inicial s_0 contiene solo la pregunta. La primera acción del modelo podría ser generar una subconsulta como “¿Cuáles son los títulos de las películas de The Lord of the Rings?”. Luego decide si usar conocimiento interno o recuperar datos externos. Una vez que tiene la lista de películas, el sistema transiciona a un nuevo estado s_1, que ahora contiene los títulos de las películas. A continuación, genera subconsultas como “¿Cuál es la duración de The Fellowship of the Ring?” y continúa tomando decisiones similares hasta recopilar toda la información necesaria. Finalmente, suma las duraciones y proporciona el total, alcanzando un estado terminal.
Estrategia de búsqueda en árbol binario
Para gestionar eficazmente este proceso de toma de decisiones, DeepRAG utiliza una búsqueda en árbol binario. Esta estrategia permite al sistema explorar múltiples rutas de razonamiento al tratar cada decisión como un nodo en un árbol. Para cada subconsulta, DeepRAG genera dos ramas:
Una rama representa el uso de conocimiento paramétrico (conocimiento interno).
La otra representa la recuperación de documentos externos.
A medida que el sistema explora el árbol, construye una narrativa de recuperación, que es una secuencia de subconsultas y respuestas que conducen a la respuesta final. La búsqueda en árbol binario ayuda al modelo a evaluar diferentes rutas de razonamiento, decidiendo cuándo la recuperación es necesaria y cuándo el conocimiento interno es suficiente.
Este enfoque permite a DeepRAG descomponer consultas complejas en subconsultas más pequeñas y manejables, y tomar decisiones adaptativas en cada paso. Al navegar por el árbol binario, el modelo puede equilibrar la compensación entre depender del conocimiento preentrenado y recuperar datos externos, lo que en última instancia mejora la precisión y la eficiencia de las respuestas. La naturaleza estructurada de la búsqueda en árbol binario garantiza que DeepRAG no solo recupere información cuando es esencial, sino que también evite recuperaciones innecesarias, optimizando los recursos computacionales mientras mantiene la calidad de la respuesta.
Aprendizaje por imitación
Aunque la búsqueda en árbol binario ayuda a DeepRAG a explorar rutas de razonamiento, aún necesita aprender qué rutas son las más eficientes. Aquí es donde el aprendizaje por imitación desempeña un papel. El aprendizaje por imitación enseña a DeepRAG mostrando ejemplos de rutas de razonamiento óptimas, aquellas que dan como resultado respuestas correctas mientras minimizan las recuperaciones siguiendo el siguiente algoritmo.
Figura: Algoritmo que DeepRAG utiliza para construir rutas de razonamiento óptimas.
La figura anterior describe cómo DeepRAG construye rutas de razonamiento óptimas mediante aprendizaje por imitación. El sistema emplea una cola de prioridad para explorar trayectorias de razonamiento, favoreciendo las rutas con menos recuperaciones. Así es como funciona el algoritmo:
Inicialización: Comienza colocando la pregunta original en una cola de prioridad con un conteo de recuperaciones de cero.
Exploración de rutas: El algoritmo extrae de la cola la ruta con menos recuperaciones y genera la siguiente subconsulta.
Toma de decisiones: En cada paso, el modelo decide si detenerse y proporcionar una respuesta final (decisión de terminación) o continuar generando subconsultas.
Generación de respuestas: Si el modelo elige responder directamente, vuelve a agregar esta ruta a la cola. Si decide recuperar documentos, agrega la nueva ruta con un conteo de recuperaciones incrementado.
Terminación: El proceso continúa hasta que el algoritmo identifica una ruta de razonamiento que alcanza la respuesta correcta con la menor cantidad de recuperación.
Cadena de calibración
Incluso después del aprendizaje por imitación, DeepRAG puede tener dificultades para saber cuándo recuperar información externa en lugar de confiar en el conocimiento interno. Para refinar su proceso de toma de decisiones, DeepRAG utiliza una cadena de calibración, que ajusta finamente el comportamiento de recuperación del modelo basándose en pares de preferencias, ejemplos que indican la acción preferida (recuperación o conocimiento interno) para cada subconsulta.La cadena de calibración ajusta la toma de decisiones del modelo utilizando la siguiente función de pérdida:
L = - log σ [ β log ( πθ(yw | si, qi) / πref(yw | si, qi) ) - β log ( πθ(yl | si, qi) / πref(yl | si, qi) ) ]
Así funciona la fórmula:
σ es la función logística, que normaliza las salidas del modelo.
β es un hiperparámetro que controla la penalización por desviarse de la ruta de decisión preferida.
πθ(yw | si, qi) representa la probabilidad de responder a la subconsulta qi en el estado si utilizando conocimiento paramétrico.
πθ(yl | si, qi) representa la probabilidad de responder a la subconsulta basándose en documentos recuperados.
πref es el modelo de referencia utilizado como línea base para la comparación.
Esta función de pérdida anima al modelo a favorecer la ruta de razonamiento más eficiente, decidiendo si usar conocimiento interno o recuperar datos externos, basándose en los ejemplos óptimos proporcionados durante el aprendizaje por imitación. Si el modelo recupera información innecesariamente o no la recupera cuando es necesario, la cadena de calibración corrige estas tendencias, ayudando al sistema a lograr un equilibrio entre eficiencia y precisión.
La siguiente figura ilustra cómo DeepRAG integra búsqueda en árbol binario, aprendizaje por imitación y cadena de calibración para construir rutas de razonamiento eficientes. Muestra el proceso paso a paso de descomposición de consultas, toma de decisiones y calibración del modelo que permite a DeepRAG equilibrar el conocimiento interno y la recuperación externa.
Figura: _Una visión general del marco DeepRAG comprende tres pasos_A través de la integración de modelado MDP, búsqueda en árbol binario, aprendizaje por imitación y la cadena de calibración, DeepRAG logra un proceso de recuperación adaptativo capaz de manejar preguntas complejas de múltiples pasos.
Rendimiento de DeepRAG en benchmarks
Después de refinar su estrategia de recuperación y su proceso de razonamiento adaptativo, DeepRAG demuestra un sólido rendimiento en múltiples benchmarks de preguntas y respuestas (QA) de dominio abierto. Estos benchmarks evalúan la capacidad de DeepRAG para descomponer consultas complejas, tomar decisiones de recuperación eficientes y generar respuestas con precisión, incluso en escenarios dinámicos o de múltiples saltos. DeepRAG ha sido evaluado en cinco conjuntos de datos diversos: HotpotQA y 2WikiMultihopQA para QA factual de múltiples saltos, CAG para consultas sensibles al tiempo, y PopQA y WebQuestions para tareas de QA de dominio abierto. Cada conjunto de datos presenta desafíos únicos, como el razonamiento de múltiples pasos, los cambios temporales en los datos o el manejo de consultas fuera de distribución.
En HotpotQA, DeepRAG alcanza una puntuación F1 de 51.54, superando a métodos como UAR (34.2) y FLARE (32.0). En 2WikiMultihopQA, que requiere un razonamiento complejo de múltiples saltos, DeepRAG obtiene 53.25 en F1, superando a modelos de referencia que a menudo tienen dificultades con consultas de múltiples pasos. Para tareas sensibles al tiempo como CAG, DeepRAG alcanza una puntuación de Coincidencia Exacta (EM) de 59.8, superando a los sistemas RAG tradicionales. En conjuntos de datos de QA de dominio abierto como PopQA y WebQuestions, DeepRAG logra puntuaciones EM de 43.2 y 38.8, respectivamente, manteniendo una alta precisión mientras reduce las recuperaciones innecesarias. Estos resultados resaltan la capacidad de DeepRAG para equilibrar la eficiencia de recuperación y la precisión de las respuestas, superando a los sistemas RAG tradicionales y a los recuperadores densos al decidir eficazmente cuándo recuperar información externa y cuándo confiar en su conocimiento interno.
Integración de DeepRAG con bases de datos vectoriales para una recuperación mejorada
Una de las fortalezas de DeepRAG es su capacidad para decidir cuándo recuperar información externa y cuándo confiar en el conocimiento interno. Sin embargo, la calidad y la eficiencia de la recuperación también dependen del sistema que utiliza para almacenar y buscar datos. Aquí es donde las bases de datos vectoriales como Milvus y Zilliz Cloud mejoran el rendimiento de DeepRAG, ofreciendo soluciones escalables y eficientes para manejar grandes volúmenes de datos no estructurados.
Las bases de datos vectoriales almacenan datos como vectores de alta dimensión, lo que permite búsquedas de similitud rápidas y precisas. En el flujo de trabajo de DeepRAG, cuando el sistema genera una subconsulta que requiere información externa, puede consultar una base de datos vectorial como Milvus para encontrar los documentos más relevantes basándose en la similitud semántica. Este enfoque mejora tanto la velocidad como la relevancia de los datos recuperados, impactando directamente en la calidad de las respuestas de DeepRAG.
Milvus es una base de datos vectorial de código abierto optimizada para búsquedas de similitud de alto rendimiento, capaz de manejar datos vectoriales a escala de miles de millones. Zilliz Cloud, construida sobre Milvus, ofrece una solución gestionada basada en la nube que simplifica el escalado y el mantenimiento. Estas bases de datos proporcionan la infraestructura que DeepRAG necesita para realizar recuperaciones eficientes, especialmente para aplicaciones a gran escala.
Ejemplo: automatización de atención al cliente Considere un sistema de atención al cliente integrado con DeepRAG y Milvus para manejar consultas complejas de clientes. Un usuario envía la pregunta: “¿Cómo puedo transferir mi cuenta a otro usuario y asegurarme de que mi información de facturación esté actualizada?” Esta pregunta implica múltiples pasos y requiere información de diferentes secciones de la documentación de una empresa.
Paso 1 – Generación de subconsultas: DeepRAG comienza descomponiendo la consulta compleja en subconsultas más pequeñas y manejables. En este caso, identifica dos subpreguntas distintas: “¿Cómo transferir una cuenta a otro usuario?” y “¿Cómo actualizar la información de facturación?”. Esta descomposición permite a DeepRAG centrarse en responder cada parte de la solicitud del usuario de forma individual, mejorando tanto la eficiencia de la recuperación como la calidad de la respuesta final.
Paso 2 – Recuperación con Milvus: Una vez generadas las subconsultas, DeepRAG utiliza Milvus para buscar documentos relevantes. Cada subconsulta se convierte en un vector y se compara con los documentos almacenados en Milvus, que también están indexados como vectores. Para la primera subconsulta, el sistema recupera un documento titulado “Transferring Account Ownership”, que detalla los pasos necesarios para transferir una cuenta. Para la segunda subconsulta, encuentra un documento llamado “Updating Your Billing Details”, que describe cómo los usuarios pueden cambiar su información de pago. La búsqueda semántica de Milvus garantiza que solo se recuperen los documentos más relevantes, minimizando los datos innecesarios.
Paso 3 – Ensamblaje de la respuesta: Después de recuperar los documentos, DeepRAG procesa la información para extraer los detalles más útiles. Lee el contenido de los artículos recuperados y resume los pasos esenciales. Para la subconsulta sobre la transferencia de cuenta, DeepRAG genera una respuesta como: “Para transferir tu cuenta, ve a Configuración > Administración de cuenta y selecciona ‘Transferir propiedad’. Introduce los datos del nuevo usuario y confirma el cambio.” Para la actualización de facturación, produce: “Para actualizar la información de facturación, visita Configuración de facturación y haz clic en ‘Editar método de pago’. Realiza los cambios necesarios y guarda.” Este paso garantiza que los usuarios reciban instrucciones claras y concisas adaptadas a sus preguntas específicas.
Paso 4 – Respuesta final: Finalmente, DeepRAG combina las respuestas individuales en una respuesta coherente, abordando directamente la consulta de varias partes del usuario. El sistema fusiona la orientación de ambas subconsultas en una respuesta fluida, proporcionando al usuario toda la información que necesita sin hacerle leer varios documentos. Esta integración de subrespuestas da como resultado una respuesta completa y útil que resuelve el problema del usuario de manera eficiente.
En este ejemplo, la integración de DeepRAG con Milvus permite que el sistema gestione consultas complejas de manera eficiente. El razonamiento paso a paso de DeepRAG, combinado con la recuperación rápida y precisa de Milvus, garantiza que el usuario obtenga una respuesta precisa y completa sin tener que revisar documentos irrelevantes.
Este enfoque destaca cómo las bases de datos vectoriales como Milvus y Zilliz Cloud pueden mejorar el proceso de recuperación de DeepRAG, haciéndolo muy adecuado para aplicaciones del mundo real donde la recuperación de información eficiente y precisa es crítica.
Direcciones futuras para DeepRAG
Aunque DeepRAG ha logrado avances significativos en la generación aumentada por recuperación, hay áreas en las que futuras investigaciones podrían mejorar aún más sus capacidades:
Integración de recuperación multimodal: Ampliar DeepRAG para manejar datos multimodales como imágenes, audio y videos ampliaría enormemente su aplicabilidad. Esta mejora permitiría al sistema procesar y recuperar información de diversas fuentes, lo que le permitiría responder consultas más complejas que requieren conocimientos más allá del texto. Por ejemplo, en un entorno médico, DeepRAG podría recuperar tanto informes textuales como imágenes médicas relevantes para proporcionar una respuesta más completa.
Decisiones de recuperación sensibles al contexto: Mejorar la capacidad de DeepRAG para tomar decisiones de recuperación más sensibles al contexto es un siguiente paso crucial. Actualmente, el sistema se basa en su marco basado en MDP para decidir cuándo recuperar datos externos, pero las iteraciones futuras podrían incorporar una comprensión más matizada de la intención y el contexto de la consulta. Esto ayudaría al modelo a evaluar mejor cuándo es necesaria la recuperación y a adaptar su enfoque a consultas complejas o ambiguas, mejorando tanto la eficiencia como la precisión.
Recuperación de datos en tiempo real y dinámica:Mejorar la capacidad de DeepRAG para acceder y procesar fuentes de datos en tiempo real lo haría más eficaz para aplicaciones sensibles al tiempo. Integrar flujos de datos en vivo, como noticias o actualizaciones del mercado de valores, permitiría a DeepRAG manejar consultas que requieren información actualizada. Esta capacidad sería especialmente valiosa en ámbitos como las finanzas, la agregación de noticias o la respuesta ante emergencias, donde el acceso a los datos más actuales es fundamental.
Conclusión
DeepRAG avanza la generación aumentada por recuperación al combinar la descomposición adaptativa de consultas con estrategias de recuperación eficientes, lo que conduce a respuestas más precisas mientras minimiza las búsquedas innecesarias. Su sólido rendimiento en diversos benchmarks destaca su capacidad para manejar consultas complejas de múltiples pasos con un razonamiento mejorado y eficiencia en la recuperación. Aunque el modelo central opera de forma independiente, integrar DeepRAG con bases de datos vectoriales como Milvus y Zilliz Cloud puede mejorar aún más sus capacidades de recuperación en aplicaciones a gran escala. Con futuras mejoras en la recuperación multimodal, las decisiones sensibles al contexto y el acceso a datos en tiempo real, DeepRAG está bien posicionado para convertirse en una solución versátil y potente para una amplia gama de tareas complejas de recuperación de información.
Recursos adicionales
Artículos académicos:
[2502.01142] DeepRAG: Pensar para recuperar paso a paso para modelos de lenguaje grandes
[2404.19456] Un estudio de métodos, entornos y métricas de aprendizaje por imitación
Procesos de decisión de Markov robustos: un lugar donde la IA y los métodos formales se encuentran
Artículos:
Sigue leyendo
Introducing Zilliz Cloud Global Cluster: Region-Level Resilience for Mission-Critical AI
Zilliz Cloud Global Cluster delivers multi-region resilience, automatic failover, and fast global AI search with built-in security and compliance.
Zilliz Cloud Launches in AWS Australia, Expanding Global Reach to Australia and Neighboring Markets
We're thrilled to announce that Zilliz Cloud is now available in the AWS Sydney, Australia region (ap-southeast-2).
Vector Databases vs. Key-Value Databases
Use a vector database for AI-powered similarity search; use a key-value database for high-throughput, low-latency simple data lookups.