La mejor base de datos vectorial acaba de mejorar
Impulsadas por la adopción generalizada de ChatGPT y otros LLMs, las bases de datos vectoriales experimentaron un aumento de popularidad en 2023.
Aunque muchos clientes de Zilliz Cloud utilizan nuestro servicio en algún tipo de sistema de generación aumentada por recuperación (RAG), también hemos visto adopción en diversos sistemas de búsqueda y recuperación. Esto no es una anomalía; en términos generales, Zilliz Cloud está pensado como una forma de que las computadoras comprendan realmente los datos generados por humanos, desde texto e imágenes hasta transacciones bancarias y comportamientos de usuarios.
Hoy, presentamos el siguiente paso en nuestra evolución al añadir una serie de nuevas funciones a Zilliz Cloud: búsqueda por rango, multi-tenencia y RBAC, una mejora de hasta 10 veces en el rendimiento de búsqueda e indexación, y mucho más. Pero ¿por qué decidimos introducir estas funciones? La respuesta es sencilla: nuestros usuarios las exigieron. Las aplicaciones que están creando y los desafíos de ingeniería que están abordando requieren una base de datos vectorial diseñada específicamente que admita funciones esenciales de base de datos y una variedad de cargas de trabajo. En el resto de esta publicación, profundizaré en tres casos de uso reales de clientes en los que las nuevas funciones de Zilliz Cloud no solo fueron beneficiosas, sino críticas para el desarrollo y el éxito de las aplicaciones de nuestros usuarios.
Entremos en materia.
Agentes autónomos eficientes
La memoria —fragmentos y partes de texto inyectados en la ventana de contexto de un LLM para proporcionarle información histórica— es posiblemente uno de los componentes más importantes de un agente autónomo (personaje virtual). Las ventanas de contexto están gravemente limitadas por dos razones diferentes: 1) no son infinitas, 2) los contextos largos ralentizan significativamente la generación de texto, y 3) la mayoría de los LLMs de contexto largo tienden a "recordar" solo la información al principio y al final de la ventana de contexto. Las bases de datos vectoriales resuelven todos estos problemas.
Tomemos como ejemplo un bot de servicio al cliente o un agente de soporte. En esta aplicación, muchas piezas de información diferentes, es decir, la base de conocimiento original, todos los prompts del usuario, imágenes subidas por los usuarios, fragmentos de audio, todas las respuestas del agente, etc., deben almacenarse en Zilliz Cloud para permitir una recuperación rápida. Cada vez que un cliente escribe un mensaje, debe recuperarse todo el contenido relevante de la base de conocimiento y de conversaciones anteriores, lo que hace que esta carga de trabajo sea tanto intensiva en lectura como intensiva en escritura, con toneladas de datos de mensajes almacenados por segundo.
Para hacer que este problema sea aún más desafiante, los datos suministrados a este agente de servicio al cliente son inherentemente multimodales; la búsqueda de texto simplemente no es suficiente. La arquitectura de base de datos distribuida de Zilliz ya admite esto a escala masiva: aumentar el recuento de nodos de consulta para un mayor rendimiento de lectura y el recuento de nodos de datos para un mayor rendimiento de escritura, pero nuestro nuevo motor de búsqueda vectorial Cardinal fue el factor decisivo definitivo. Cardinal incluye nuestro propio índice vectorial propietario, una serie de optimizaciones de cómputo a nivel de código máquina y algoritmos conscientes de la caché, entre muchas otras optimizaciones de rendimiento. En resumen, para esta aplicación en particular, Zilliz Cloud terminó permitiendo el mismo rendimiento de búsqueda e indexación que otras bases de datos vectoriales a menos de un tercio del precio. Donde el costo anual era prohibitivo para otras soluciones de búsqueda vectorial, intervenimos e hicimos realidad este agente autónomo.
Recomendación de productos
Los sistemas de recomendación están diseñados para impulsar una variedad de contenido, p. ej., productos, noticias, contenido de usuarios, etc., basándose en el historial previo de visualización o navegación de un consumidor. Las bases de datos vectoriales son perfectas para este tipo de aplicación: al vectorizar y almacenar cada elemento individual en Zilliz Cloud, las recomendaciones pueden realizarse simplemente llamando a collection.search. Los vecinos más cercanos resultantes son, en sí mismos, las recomendaciones más relevantes.
Las recomendaciones rápidas y relevantes son imprescindibles para cualquier producto B2C, pero en el mundo del comercio electrónico, las recomendaciones de productos son especialmente cruciales para la experiencia general y pueden ser impulsores de ingresos increíblemente eficientes. Una de las misiones principales de nuestros usuarios era mejorar el rendimiento de su sistema de recomendación de productos aprovechando la IA. Como muchos otros, su caso de uso era extremadamente sensible a la latencia: las consultas a su base de datos vectorial debían completarse en 10 milisegundos para mantener una buena experiencia de usuario final, y requería un rendimiento moderado. Además, estas recomendaciones no eran búsquedas genéricas. Sus usuarios finales a menudo necesitaban recomendaciones filtradas (como dimensiones específicas para ropa o una talla de calzado concreta). Esta complejidad se extendía a la naturaleza de los datos de productos, que era inherentemente multimodal, e incluía títulos, descripciones e imágenes de productos.
Cardinal les permitió cumplir sus requisitos de rendimiento, pero el esquema dinámico y la compatibilidad con JSON de Zilliz Cloud demostraron ser revolucionarios aquí. Permitió al cliente adaptar sus modelos de datos a las características específicas de cada clase de producto, garantizando que los metadatos variados y complejos pudieran almacenarse y consultarse eficientemente con cada vector. Esta adaptabilidad, combinada con el rendimiento superior de Cardinal, fue el factor decisivo para este cliente en particular.
Descubrimiento de fármacos impulsado por IA
El descubrimiento de fármacos es un problema increíblemente difícil. Las moléculas de los fármacos pueden variar en tamaño, desde "moléculas pequeñas" con decenas de átomos hasta grandes productos biológicos con decenas de miles de átomos. El aprendizaje automático puede vectorizar cada molécula, creando una representación basada en su función, como tratar una enfermedad o síntoma específico.
En este proceso, la función de búsqueda por rango de Zilliz Cloud desempeña un papel crucial. Los investigadores vectorizan su enfermedad o síntoma objetivo y buscan fármacos candidatos en Zilliz Cloud. La búsqueda por rango va más allá de las búsquedas top-k estándar al encontrar todos los vectores (moléculas) dentro de una cierta distancia del objetivo, proporcionando todos los candidatos relevantes en lugar de un número fijo. Esta función no solo es vital para el descubrimiento de fármacos, sino que también es aplicable en áreas como la detección de fraudes y la ciberseguridad. Por ejemplo, en la banca, las transacciones se vectorizan y se comparan con nuevas transacciones usando la búsqueda por rango para identificar actividades pasadas similares, lo que ayuda en la detección de valores atípicos.
Palabras finales
RAG ha sido y seguirá siendo increíblemente importante para nosotros, pero es solo la punta del iceberg de las bases de datos vectoriales. Aquí presentamos tres casos de uso reales habilitados directamente por algunas de las nuevas funciones que anunciamos hoy. Al comparar Zilliz Cloud con otras bases de datos vectoriales, estas funciones fueron, y seguirán siendo, el factor determinante para el éxito.
Dicho esto, no te fíes solo de mi palabra. Muchos tipos de datos pueden vectorizarse, almacenarse y consultarse dentro de Zilliz Cloud. Pruébalo ahora gratis sin complicaciones de instalación, y que comience la revolución de los datos.
Sigue leyendo
The AWS Outage Was a Wake-Up Call for Vector Database Cross-Region Disaster Recovery
Zilliz Cloud Had the Answer Before the Crisis. Zilliz Cloud is the world's first vector database with native cross-region disaster recovery.
Zilliz Cloud Audit Logs Goes GA: Security, Compliance, and Transparency at Scale
Zilliz Cloud Audit Logs are now GA, giving enterprises real-time visibility, compliance-ready trails, and stronger security across AWS, GCP, and Azure.
Vector Databases vs. Object-Relational Databases
Use a vector database for AI-powered similarity search; use an object-relational database for complex data modeling with both relational integrity and object-oriented features.