Como o Milvus impulsiona a missão da Credal por “IA útil, tornada segura”
No mundo atual orientado por dados, integrar a inteligência artificial (IA) aos processos empresariais tornou-se essencial para se manter competitivo. Mas, com o poder da IA, também vem o desafio de gerenciar dados com segurança, controlar o acesso e garantir a privacidade. É aqui que a Credal entra em cena, oferecendo uma solução que capacita as organizações a aproveitar o potencial da IA Generativa enquanto mitiga riscos. No centro de sua solução está o Milvus, um banco de dados vetorial de código aberto que é fundamental para viabilizar a visão da Credal de "IA útil, feita com segurança."
Credal: Preenchendo a lacuna entre GenAI e segurança de dados empresariais
A Credal tem como objetivo tornar a integração de GenAI mais segura e acessível para as empresas. Seu foco principal é integrar perfeitamente dados de várias fontes, como Microsoft Office, Google Drive, Google Workspace, Slack, Confluence e outras, disponibilizando esses dados aos usuários com permissões e reflexões completas. O resultado é um ambiente amigável para o usuário, amigável para TI e seguro para insights e tomada de decisões impulsionados por IA.
Credal: uma solução de ponta a ponta para implantação segura de GenAI de nível empresarial
Do ponto de vista do usuário, isso significa que ele pode acessar uma grande variedade de dados, aproveitando o poder da GenAI sem precisar dominar programação ou algoritmos complexos. A Credal também permite que os usuários criem agentes e especialistas usando seus dados, garantindo que possam aproveitar ao máximo a tecnologia GenAI.
Para administradores e equipes de TI, a Credal oferece ferramentas de observabilidade e governança. Essas ferramentas incluem recursos para aplicar políticas de uso aceitável, trilhas de auditoria, registro de logs, catalogação de dados e governança de dados — todos elementos cruciais para implantar GenAI de forma eficaz em grandes empresas. A interface de chat e as APIs da Credal implementam funções vitais como redação de PII, registro de auditoria e controles de acesso a dados, fornecendo uma solução pragmática para integrar LLMs com dados corporativos.
A necessidade de um banco de dados vetorial pronto para produção
A empresa enfrentou desafios técnicos significativos antes de a Credal incorporar o Milvus à sua plataforma. A necessidade de um banco de dados vetorial surgiu inicialmente quando a Credal buscou implementar uma solução de busca semântica hospedada por terceiros. Isso levou à percepção de que bancos de dados vetoriais poderiam ter aplicações mais amplas, incluindo permitir que os usuários pesquisassem seus dados e criassem fluxos de trabalho personalizados dentro da plataforma Credal.
Ao experimentar a busca vetorial, eles descobriram que muitas soluções disponíveis no mercado eram adequadas para prototipagem e provas de conceito, mas precisavam de mais robustez para implementações em escala empresarial. A necessidade de um banco de dados vetorial escalável e pronto para produção tornou-se evidente.
Escolhendo o Milvus: uma decisão informada
Para atender às suas necessidades de banco de dados vetorial, a Credal iniciou um processo de avaliação. Seus critérios incluíam auto-hospedagem, desenvolvimento ativo, escalabilidade e suporte da comunidade. Nessa avaliação, o Milvus surgiu como o vencedor claro. A Credal ficou impressionada com o desenvolvimento ativo do Milvus e o nível de engajamento da comunidade. As estrelas no GitHub do Milvus indicavam uma comunidade de código aberto próspera, o que era um bom presságio para confiabilidade e suporte de longo prazo. O Milvus também oferecia um Helm chart oficial para implantação em Kubernetes, demonstrando um compromisso com caminhos de instalação e implantação amigáveis para o usuário.
A disponibilidade de busca híbrida, combinando busca vetorial com filtragem por metadados, foi outro fator-chave que influenciou a decisão da Credal. Esse recurso provou estar claramente ausente em outras opções que eles consideraram.
Escalabilidade e separação de armazenamento e computação
A Credal reconheceu a importância da escalabilidade e da separação dos recursos de armazenamento e computação. O design do Milvus, que separa intencionalmente armazenamento e computação, ofereceu a flexibilidade e a escalabilidade de que precisavam. Diferentemente das soluções de nó único, a arquitetura do Milvus permitiu uma resposta mais ágil às demandas em constante mudança.
O cofundador e CTO da Credal, Jack Fischer, enfatiza a importância dessa decisão de design: “Especialmente quando estávamos apenas começando, não sabíamos exatamente como seriam nossos padrões de acesso. À medida que nosso produto evolui, nossos padrões de acesso definitivamente evoluem...Então ficamos felizes em ver a separação entre armazenamento e computação. Estávamos confiantes de que poderíamos fazer isso funcionar para nós, independentemente de para onde levássemos o produto.”
Milvus: a escolha clara para as necessidades de banco de dados vetorial da Credal
O Milvus superou todas as alternativas de código aberto consideradas. A avaliação da Credal revelou que apenas uma plataforma atendia a todos os seus requisitos de banco de dados vetorial. A capacidade do Milvus de dar suporte a vários casos de uso e sua excelência técnica fizeram dele a escolha ideal para a missão da Credal.
"Para nossa sorte, não tivemos que escolher o menos ruim, mas aquele que realmente se destacou em tudo o que queríamos," diz Fischer, "Se você pegar o meio do diagrama de Venn, com oito círculos e todos eles se sobrepondo, vejo que há apenas um no meio e é o Milvus, então o Milvus atendeu a tudo, e nenhum outro atendeu a tudo. Então, se você se importa apenas com alguns desses aspectos, poderia escolher outras opções, mas se quiser que tudo funcione, tem que ser o Milvus."
Integrar o Milvus ao ecossistema de aplicações da Credal provou ser um divisor de águas. Com os embeddings de texto do Milvus, a Credal consegue processar e destilar com eficiência grandes volumes de conteúdo, tornando-os acessíveis a aplicações avançadas de LLM. A versatilidade dos embeddings de texto aprimora significativamente as capacidades de busca, filtragem e curadoria de dados da Credal.
A arquitetura da Credal não se concentra apenas em tecnologia avançada, mas também em integrações de dados de alta qualidade. Eles priorizam a interpretação de dados de sistemas de origem em seu formato proprietário e garantem que esses dados sejam comunicados de forma eficaz aos modelos de GenAI. Essa abordagem meticulosa diferencia a Credal do desenvolvimento típico de demoware e permite que ela entregue resultados precisos e intuitivos.
Benefícios e planos futuros
O Milvus permite que a Credal ofereça uma solução escalável e fácil de usar aos seus clientes. Isso elimina a necessidade de grandes esforços de engenharia do zero e reduz a sobrecarga operacional. A escalabilidade e a robustez do Milvus garantem que a plataforma possa crescer com a Credal à medida que seu produto evolui.
Quanto aos planos futuros, a Credal está considerando o uso do Zilliz Cloud para seus clientes baseados em nuvem. Segurança, governança e funcionalidade eficaz de GenAI são centrais em seu roadmap. A Credal atende principalmente empresas com 1.000 a 5.000 funcionários e está comprometida em fazer a GenAI funcionar perfeitamente em cenários empresariais reais. Com o Milvus em seu núcleo, a Credal está pronta para liderar o caminho na entrega de "IA útil, tornada segura" para empresas em todo o mundo.
Continue lendo
Why and How to Migrate from Self-Hosted Milvus to Zilliz Cloud
A simple, step-by-step guide to migrating from Milvus to Zilliz Cloud. Learn both endpoint and backup methods for a smooth, scalable vector database migration.
Announcing the General Availability of Single Sign-On (SSO) on Zilliz Cloud
SSO is GA on Zilliz Cloud, delivering the enterprise-grade identity management capabilities your teams need to deploy vectorDB with confidence.
Building RAG Pipelines for Real-Time Data with Cloudera and Milvus
explore how Cloudera can be integrated with Milvus to effectively implement some of the key functionalities of RAG pipelines.