Wie Milvus Credals Mission für „Nützliche KI, sicher gemacht“ unterstützt
In der heutigen datengetriebenen Welt ist die Integration künstlicher Intelligenz (KI) in Unternehmensprozesse unverzichtbar geworden, um wettbewerbsfähig zu bleiben. Doch mit der Leistungsfähigkeit von KI geht auch die Herausforderung einher, Daten sicher zu verwalten, den Zugriff zu kontrollieren und den Datenschutz zu gewährleisten. Hier kommt Credal ins Spiel und bietet eine Lösung, die Unternehmen befähigt, das Potenzial von Generativer KI zu nutzen und gleichzeitig Risiken zu mindern. Im Zentrum ihrer Lösung steht Milvus, eine Open-Source-Vektordatenbank, die eine zentrale Rolle dabei spielt, Credals Vision von „Nützlicher KI, sicher gemacht“ zu ermöglichen.
Credal: Die Lücke zwischen GenAI und Unternehmensdatensicherheit schließen
Credal zielt darauf ab, die Integration von GenAI für Unternehmen sicherer und zugänglicher zu machen. Ihr Kernfokus liegt auf der nahtlosen Integration von Daten aus verschiedenen Quellen wie Microsoft Office, Google Drive, Google Workspace, Slack, Confluence und mehr, wodurch diese Daten den Nutzern mit vollständigen Berechtigungen und Reflektionen zur Verfügung gestellt werden. Das Ergebnis ist eine benutzerfreundliche, IT-freundliche, sichere Umgebung für KI-gestützte Erkenntnisse und Entscheidungsfindung.
Credal: eine End-to-End-Lösung für sichere GenAI-Bereitstellung auf Unternehmensniveau
Aus Sicht der Nutzer bedeutet dies, dass sie auf eine Fülle von Daten zugreifen und die Leistungsfähigkeit von GenAI nutzen können, ohne sich mit Programmierung oder komplexen Algorithmen auskennen zu müssen. Credal befähigt Nutzer außerdem, Agenten und Experten mithilfe ihrer Daten zu erstellen, sodass sie die GenAI-Technologie optimal nutzen können.
Für Administratoren und IT-Teams bietet Credal Observability- und Governance-Tools. Diese Tools umfassen Funktionen zur Durchsetzung von Richtlinien für akzeptable Nutzung, Audit-Trails, Protokollierung, Datenkatalogisierung und Data Governance — alles entscheidende Elemente für den effektiven Einsatz von GenAI in großen Unternehmen. Credals Chat-UI und APIs implementieren wichtige Funktionen wie PII-Redaktion, Audit-Protokollierung und Datenzugriffskontrollen und bieten damit eine pragmatische Lösung für die Integration von LLMs mit Unternehmensdaten.
Der Bedarf an einer produktionsreifen Vektordatenbank
Das Unternehmen stand vor erheblichen technischen Herausforderungen, bevor Credal Milvus in seine Plattform integrierte. Der Bedarf an einer Vektordatenbank entstand zunächst, als Credal eine von Drittanbietern gehostete semantische Suchlösung implementieren wollte. Dies führte zu der Erkenntnis, dass Vektordatenbanken breitere Anwendungsmöglichkeiten haben könnten, darunter die Möglichkeit für Nutzer, ihre Daten zu durchsuchen und benutzerdefinierte Workflows innerhalb der Credal-Plattform zu erstellen.
Beim Experimentieren mit Vektorsuche stellten sie fest, dass viele auf dem Markt verfügbare Lösungen für Prototypen und Proofs of Concept geeignet waren, jedoch mehr Robustheit für Implementierungen im Unternehmensmaßstab benötigten. Der Bedarf an einer skalierbaren, produktionsreifen Vektordatenbank wurde deutlich.
Die Wahl von Milvus: eine fundierte Entscheidung
Um ihren Anforderungen an eine Vektordatenbank gerecht zu werden, startete Credal einen Evaluierungsprozess. Zu ihren Kriterien gehörten Self-Hosting, aktive Entwicklung, Skalierbarkeit und Community-Support. In dieser Bewertung ging Milvus als klarer Sieger hervor. Credal war beeindruckt von Milvus’ aktiver Entwicklung und dem Grad des Community-Engagements. Milvus’ GitHub-Sterne deuteten auf eine florierende Open-Source-Community hin, was für langfristige Zuverlässigkeit und Unterstützung sprach. Milvus bot außerdem ein offizielles Helm-Chart für die Kubernetes-Bereitstellung an und demonstrierte damit ein Engagement für benutzerfreundliche Installations- und Bereitstellungswege.
Die Verfügbarkeit hybrider Suche, die Vektorsuche mit Metadatenfilterung kombiniert, war ein weiterer Schlüsselfaktor, der Credals Entscheidung beeinflusste. Diese Funktion fehlte bei anderen Optionen, die sie in Betracht zogen, auffällig.
Skalierbarkeit und Trennung von Storage und Compute
Credal erkannte die Bedeutung von Skalierbarkeit und der Trennung von Speicher- und Rechenressourcen. Das Design von Milvus, das Speicher und Rechenleistung bewusst voneinander trennt, bot die benötigte Flexibilität und Skalierbarkeit. Im Gegensatz zu Single-Node-Lösungen ermöglichte die Architektur von Milvus eine agilere Reaktion auf sich ändernde Anforderungen.
Credals Mitgründer & CTO, Jack Fischer, betont die Bedeutung dieser Designentscheidung: „Besonders als wir gerade erst anfingen, wussten wir nicht genau, wie unsere Zugriffsmuster aussehen würden. Während sich unser Produkt weiterentwickelt, entwickeln sich unsere Zugriffsmuster definitiv weiter ... Daher waren wir froh, die Trennung zwischen Speicher und Rechenleistung zu sehen. Wir waren zuversichtlich, dass wir dies für uns nutzbar machen könnten, unabhängig davon, wohin wir das Produkt entwickeln würden.“
Milvus: die klare Wahl für Credals Vektordatenbank-Anforderungen
Milvus übertraf alle in Betracht gezogenen Open-Source-Alternativen. Credals Bewertung ergab, dass nur eine Plattform alle Anforderungen an ihre Vektordatenbank erfüllte. Die Fähigkeit von Milvus, verschiedene Anwendungsfälle zu unterstützen, und seine technische Stärke machten es zur idealen Wahl für Credals Mission.
„Zum Glück mussten wir uns nicht für die am wenigsten schlechte Lösung entscheiden, sondern für diejenige, die tatsächlich in allem, was wir wollten, wirklich herausragte“, sagt Fischer. „Wenn man die Mitte des Venn-Diagramms nimmt, mit acht Kreisen, die sich alle überschneiden, sehe ich, dass es in der Mitte nur eine gibt, und das ist Milvus. Milvus hat also alles erfüllt, und nichts anderes hat alles erfüllt. Wenn Ihnen also nur einige dieser Dinge wichtig sind, könnten Sie andere Optionen wählen, aber wenn alles funktionieren soll, muss es Milvus sein.“
Die Integration von Milvus in Credals Anwendungsökosystem hat sich als echter Wendepunkt erwiesen. Mit den Text-Embeddings von Milvus kann Credal große Inhaltsmengen effizient verarbeiten und verdichten, sodass sie für fortschrittliche LLM-Anwendungen zugänglich werden. Die Vielseitigkeit von Text-Embeddings verbessert Credals Such-, Filter- und Datenkuratierungsfunktionen erheblich.
Credals Architektur konzentriert sich nicht nur auf fortschrittliche Technologie, sondern auch auf hochwertige Datenintegrationen. Sie legen Wert darauf, Daten aus Quellsystemen in deren proprietärem Format zu interpretieren und sicherzustellen, dass diese Daten effektiv an die GenAI-Modelle kommuniziert werden. Dieser sorgfältige Ansatz hebt Credal von typischer Demoware-Entwicklung ab und ermöglicht es ihnen, präzise und intuitive Ergebnisse zu liefern.
Vorteile und Zukunftspläne
Milvus ermöglicht es Credal, seinen Kunden eine skalierbare, benutzerfreundliche Lösung anzubieten. Dadurch entfällt die Notwendigkeit umfangreicher Engineering-Aufwände von Grund auf, und der operative Aufwand wird reduziert. Die Skalierbarkeit und Robustheit von Milvus stellen sicher, dass die Plattform gemeinsam mit Credal wachsen kann, während sich das Produkt weiterentwickelt.
Was die Zukunftspläne betrifft, erwägt Credal den Einsatz von Zilliz Cloud für seine cloudbasierten Kunden. Sicherheit, Governance und effektive GenAI-Funktionalität stehen im Mittelpunkt ihrer Roadmap. Credal bedient hauptsächlich Unternehmen mit 1.000 bis 5.000 Mitarbeitenden und setzt sich dafür ein, GenAI in realen Unternehmensszenarien nahtlos funktionieren zu lassen. Mit Milvus im Zentrum ist Credal bereit, weltweit eine führende Rolle dabei zu übernehmen, Unternehmen „Useful AI, made safe“ bereitzustellen.
Weiterlesen
How to Choose the Best Embedding Model for RAG in 2026: 10 Models Benchmarked
We benchmarked 10 embedding models on cross-modal, cross-lingual, long-document, and dimension compression tasks. See which one fits your RAG pipeline.
Announcing VDBBench 1.0: Open-Source VectorDB Benchmarking with Your Real-World Production Workloads
Discover VDBBench 1.0, an open-source tool for benchmarking vector databases with real-world production data, streaming ingestion, and concurrent workloads.
Creating Collections in Zilliz Cloud Just Got Way Easier
We've enhanced the entire collection creation experience to bring advanced capabilities directly into the interface, making it faster and easier to build production-ready schemas without switching tools.