Credal AI consigue una GenAI segura y gobernable con Milvus
Escala flexible
con computación y almacenamiento separados
Mejorado
precisión de consulta con búsqueda híbrida
Despliegue acelerado de funciones
con la principal comunidad de código abierto
When you're engineering a solution as complex as ours, you're not just ticking boxes—you're looking for that sweet spot where all your must-haves intersect. Think of it as an eight-circle Venn diagram; while many databases met one or two of our criteria, Milvus was the only one sitting right at the intersection of all eight. It checked every single box for us—something no other solution managed to do.
Jack Fischer
Acerca de Credal AI
Credal AI tiene como objetivo hacer que GenAI sea segura y accesible para las empresas. Proporcionan una sólida integración de datos y funciones de gobierno, extrayendo datos de varias plataformas como Microsoft Office, Google Workspace y Slack. Ofrecen un "Okta para IA", donde el acceso y los permisos se controlan rigurosamente, con el objetivo de ofrecer a los desarrolladores y usuarios finales una interfaz racionalizada y segura. Credal AI es, por tanto, una solución integral para el despliegue seguro y empresarial de GenAI.
Navegar por la escala y la complejidad: Los retos
Credal AI se enfrentó a varios retos al iniciar el desarrollo de su producto. Una característica crítica era la búsqueda semántica, que resultó difícil de implementar a escala utilizando plugins de búsqueda vectorial. Estos retos se agravaron cuando la búsqueda semántica se integró en flujos de trabajo personalizados que requerían un alto rendimiento de la base de datos. Era necesario mejorar los mecanismos de búsqueda tradicionales para construir estos flujos de trabajo impulsados por GenAI, que necesitaban procesar grandes conjuntos de datos en tiempo real basándose en intrincados criterios definidos por el usuario.
Por otra parte, sus diversos entornos de alojamiento, incluyendo configuraciones basadas en la nube y on-prem, necesitaban una base de datos vectorial que pudiera ser auto-alojada y apoyada por una comunidad activa de código abierto. Necesitaban una base de datos rápida, escalable y versátil para gestionar canalizaciones de datos complejas y diversas condiciones de alojamiento.
Elección de Milvus: una base de datos vectorial centrada en el desarrollador que cumple todos los requisitos
Tras una evaluación exhaustiva, Credal AI llegó a la conclusión de que Milvus que se ejecuta en Amazon EKS era la ganadora para sus necesidades de bases de datos vectoriales. Lo que destacó inmediatamente fue la activa comunidad de código abierto en torno al proyecto. No se trataba de una "ventaja", sino de un factor crítico para la resolución rápida de problemas y el desarrollo continuo de características. Además, el elevado número de estrellas de GitHub era algo más que una métrica de vanidad, sino un signo tangible de una comunidad de desarrolladores comprometida y dinámica, lo que añadía una capa de confianza en la longevidad de la solución.
Otra consideración crítica fue el gráfico Helm oficial de Milvus para Kubernetes. Si bien la creación de un gráfico Helm personalizado no era un factor decisivo, un gráfico con soporte oficial era un testimonio del compromiso de Milvus con el éxito de los desarrolladores. Sugería que el equipo de Milvus no solo buscaba ingresos a corto plazo, sino que estaba realmente interesado en resolver los retos reales de los usuarios. Este apoyo fue inestimable para una startup como Credal AI, especialmente porque les permitió agilizar su proceso de despliegue, ahorrando tiempo y recursos de ingeniería.
Las características de Milvus también llamaron su atención, en particular la disponibilidad de la búsqueda híbrida. La capacidad de realizar búsquedas vectoriales al tiempo que se filtraban otros metadatos era una necesidad crítica. Muchas soluciones ofrecían una búsqueda vectorial rápida, pero se limitaban a ampliarla con datos estructurados. La capacidad de búsqueda híbrida de Milvus era la pieza del rompecabezas que faltaba para satisfacer sus requisitos técnicos y resolver problemas empresariales reales.
Por último, pero no por ello menos importante, la arquitectura de Milvus, que separa almacenamiento y computación, proporcionaba la escalabilidad y flexibilidad que Credal AI buscaba. Esta elección de diseño no era sólo una noción arquitectónica; era fundamental para su confianza en la escalabilidad del producto en el futuro. Les permitía evolucionar sus patrones de acceso a medida que perfeccionaban su aplicación. En lo que respecta a las características imprescindibles de su base de datos vectorial (rendimiento, funciones, comunidad y arquitectura), Milvus cumplía todos los requisitos.
Resultado: Escalabilidad y flexibilidad en el mundo real con Milvus
La implementación de Milvus en Amazon EKS ha cambiado las reglas del juego para Credal AI, proporcionando una sólida columna vertebral para sus complejos requisitos de búsqueda vectorial. Las capacidades técnicas de Milvus disiparon rápidamente sus dudas iniciales sobre el rendimiento de la base de datos. En un entorno en el que las nuevas empresas a menudo se enfrentan a necesidades cambiantes, Milvus demostró ser una solución inmediata y un activo a largo plazo.
La decisión de elegir Milvus fue validada por su perfecta integración en los sistemas existentes de Credal AI, cumpliendo los requisitos técnicos previos y los objetivos empresariales más amplios. La gran escalabilidad de la plataforma -gracias a su arquitectura de almacenamiento y computación desacoplados- dio a Credal AI la confianza necesaria para anticiparse y adaptarse a las nuevas necesidades de los clientes. Ahora la empresa puede centrarse en lo que mejor sabe hacer: iterar su producto principal e impulsar la participación de los usuarios. Puede estar segura de que su backend puede hacer frente a todo lo que le echen.
Avanzando: Planes de futuro con Milvus
Credal AI está considerando una futura colaboración con Zilliz, el mantenedor de Milvus, para utilizar Zilliz Cloud para sus clientes basados en la nube. Esto se alinea bien con la misión actual del equipo de llevar la funcionalidad de GenAI a las aplicaciones empresariales del mundo real, una tarea compleja que requiere medidas de seguridad robustas y un gobierno de datos exhaustivo. Aprovechar Zilliz Cloud en AWS, una versión totalmente gestionada de Milvus, encaja perfectamente en esta estrategia más amplia, prometiendo agilizar las operaciones y mejorar las ofertas de servicios para sus clientes en la nube.
Mientras tanto, Milvus sigue siendo una pieza central en la estrategia de Credal AI. A medida que avanzan a toda máquina en todos los frentes para que GenAI sea operativa para las empresas, la escalabilidad y flexibilidad que ofrece Milvus son más valiosas que nunca. Su relación con Milvus no se ve como una solución puntual, sino como una asociación a largo plazo orientada a superar los retos cambiantes y alcanzar nuevas cotas.
- Acerca de Credal AI
- Navegar por la escala y la complejidad: Los retos
- Elección de Milvus: una base de datos vectorial centrada en el desarrollador que cumple todos los requisitos
- Resultado: Escalabilidad y flexibilidad en el mundo real con Milvus
- Avanzando: Planes de futuro con Milvus
Contenido
Caso de uso
Industria
Seguridad