Cómo Milvus impulsa la misión de Credal de “IA útil, hecha segura”
En el mundo actual impulsado por los datos, integrar la inteligencia artificial (IA) en los procesos empresariales se ha vuelto esencial para mantenerse competitivo. Pero con el poder de la IA también llega el desafío de gestionar los datos de forma segura, controlar el acceso y garantizar la privacidad. Aquí es donde Credal entra en juego, ofreciendo una solución que permite a las organizaciones aprovechar el potencial de la IA generativa mientras mitigan los riesgos. En el centro de su solución se encuentra Milvus, una base de datos vectorial de código abierto que es fundamental para hacer posible la visión de Credal de "IA útil, hecha segura."
Credal: Cerrando la brecha entre GenAI y la seguridad de los datos empresariales
Credal tiene como objetivo hacer que la integración de GenAI sea más segura y accesible para las empresas. Su enfoque principal es integrar sin problemas datos de diversas fuentes, como Microsoft Office, Google Drive, Google Workspace, Slack, Confluence y más, poniendo estos datos a disposición de los usuarios con permisos y reflejos completos. El resultado es un entorno fácil de usar, amigable para TI y seguro para obtener información y tomar decisiones impulsadas por IA.
Credal: una solución integral para el despliegue seguro de GenAI de nivel empresarial
Desde la perspectiva del usuario, esto significa que pueden acceder a una gran cantidad de datos, aprovechando el poder de GenAI sin tener que dominar la programación ni algoritmos complejos. Credal también permite a los usuarios crear agentes y expertos utilizando sus datos, asegurando que puedan sacar el máximo provecho de la tecnología GenAI.
Para los administradores y equipos de TI, Credal ofrece herramientas de observabilidad y gobernanza. Estas herramientas incluyen funciones para aplicar políticas de uso aceptable, pistas de auditoría, registro, catalogación de datos y gobernanza de datos — todos elementos cruciales para desplegar GenAI de manera efectiva en grandes empresas. La interfaz de chat y las APIs de Credal implementan funciones vitales como la redacción de PII, el registro de auditoría y los controles de acceso a datos, proporcionando una solución pragmática para integrar LLMs con datos corporativos.
La necesidad de una base de datos vectorial lista para producción
La empresa enfrentaba importantes desafíos técnicos antes de que Credal incorporara Milvus en su plataforma. La necesidad de una base de datos vectorial surgió inicialmente cuando Credal buscó implementar una solución de búsqueda semántica alojada por un tercero. Esto llevó a la comprensión de que las bases de datos vectoriales podrían tener aplicaciones más amplias, incluida la posibilidad de permitir a los usuarios buscar en sus datos y crear flujos de trabajo personalizados dentro de la plataforma Credal.
Mientras experimentaban con la búsqueda vectorial, descubrieron que muchas soluciones disponibles en el mercado eran adecuadas para prototipos y pruebas de concepto, pero necesitaban más solidez para implementaciones a escala empresarial. La necesidad de una base de datos vectorial escalable y lista para producción se hizo evidente.
Elegir Milvus: una decisión informada
Para abordar sus necesidades de bases de datos vectoriales, Credal emprendió un proceso de evaluación. Sus criterios incluían autoalojamiento, desarrollo activo, escalabilidad y apoyo de la comunidad. En esta evaluación, Milvus surgió como el claro ganador. Credal quedó impresionado por el desarrollo activo de Milvus y el nivel de participación de su comunidad. Las estrellas de GitHub de Milvus indicaban una comunidad de código abierto próspera, lo que auguraba una fiabilidad y un soporte a largo plazo. Milvus también ofrecía un chart oficial de Helm para el despliegue en Kubernetes, demostrando un compromiso con rutas de instalación y despliegue fáciles de usar.
La disponibilidad de búsqueda híbrida, que combina búsqueda vectorial con filtrado de metadatos, fue otro factor clave que influyó en la decisión de Credal. Esta función resultó estar notoriamente ausente en otras opciones que consideraron.
Escalabilidad y separación de almacenamiento y computación
Credal reconoció la importancia de la escalabilidad y de separar los recursos de almacenamiento y cómputo. El diseño de Milvus, que separa intencionalmente el almacenamiento y el cómputo, ofrecía la flexibilidad y escalabilidad que necesitaban. A diferencia de las soluciones de un solo nodo, la arquitectura de Milvus permitía una respuesta más ágil a las demandas cambiantes.
El cofundador y CTO de Credal, Jack Fischer, enfatiza la importancia de esta decisión de diseño: “Especialmente cuando recién estábamos empezando, no sabíamos exactamente cómo serían nuestros patrones de acceso. A medida que nuestro producto evoluciona, nuestros patrones de acceso definitivamente evolucionan...Así que nos alegró ver la separación entre almacenamiento y cómputo. Estábamos seguros de que podríamos hacer que funcionara para nosotros, independientemente de hacia dónde lleváramos el producto.”
Milvus: la elección clara para las necesidades de base de datos vectorial de Credal
Milvus superó a todas las alternativas de código abierto consideradas. La evaluación de Credal reveló que solo una plataforma cumplía todos sus requisitos de base de datos vectorial. La capacidad de Milvus para admitir diversos casos de uso y su destreza técnica lo convirtieron en la opción ideal para la misión de Credal.
"Por suerte para nosotros, no tuvimos que elegir la menos mala, sino la que realmente sobresalía en todo lo que queríamos," dice Fischer, "Si tomas el centro del diagrama de Venn, con ocho círculos y todos se superponen, veo que solo hay una en el centro y es Milvus, así que Milvus cumplía con todo, y ninguna otra cumplía con todo. Así que si solo te importan algunas de estas cosas, podrías elegir otras opciones, pero si quieres que todo funcione, tiene que ser Milvus."
Integrar Milvus en el ecosistema de aplicaciones de Credal ha demostrado ser un punto de inflexión. Con las incrustaciones de texto de Milvus, Credal puede procesar y destilar eficientemente grandes piezas de contenido, haciéndolas accesibles para aplicaciones LLM avanzadas. La versatilidad de las incrustaciones de texto mejora significativamente las capacidades de búsqueda, filtrado y curación de datos de Credal.
La arquitectura de Credal no solo se centra en tecnología avanzada, sino también en integraciones de datos de alta calidad. Priorizan interpretar los datos de los sistemas de origen en su formato propietario y garantizar que estos datos se comuniquen de manera efectiva a los modelos GenAI. Este enfoque meticuloso diferencia a Credal del desarrollo típico de demoware y les permite ofrecer resultados precisos e intuitivos.
Beneficios y planes futuros
Milvus permite a Credal ofrecer una solución escalable y fácil de usar a sus clientes. Esto elimina la necesidad de grandes esfuerzos de ingeniería desde cero y reduce la sobrecarga operativa. La escalabilidad y solidez de Milvus garantizan que la plataforma pueda crecer con Credal a medida que su producto evoluciona.
En cuanto a los planes futuros, Credal está considerando el uso de Zilliz Cloud para sus clientes basados en la nube. La seguridad, la gobernanza y la funcionalidad GenAI efectiva son fundamentales en su hoja de ruta. Credal atiende principalmente a empresas con entre 1.000 y 5.000 empleados y está comprometida con hacer que GenAI funcione sin problemas en escenarios empresariales reales. Con Milvus en su núcleo, Credal está preparada para liderar el camino en la entrega de "IA útil, hecha segura" a empresas de todo el mundo.
Sigue leyendo
Context Engineering Strategies for AI Agents: A Developer’s Guide
Learn practical context engineering strategies for AI agents. Explore frameworks, tools, and techniques to improve reliability, efficiency, and cost.
Zilliz Cloud Update: Smarter Autoscaling for Cost Savings, Stronger Compliance with Audit Logs, and More
What's new in Zilliz Cloud? Smarter autoscaling with scale-down, audit logs GA, enhanced SSO, and Milvus 2.6 in Private Preview.
Selecting the Right ETL Tools for Unstructured Data to Prepare for AI
Learn the right ETL tools for unstructured data to power AI. Explore key challenges, tool comparisons, and integrations with Milvus for vector search.