Operationalisieren Sie KI im großen Maßstab mit Software 2.0, MLOps und Milvus
Der Aufbau von Machine-Learning-(ML-)Anwendungen ist ein komplexer und iterativer Prozess. Da immer mehr Unternehmen das ungenutzte Potenzial unstrukturierter Daten erkennen, wird die Nachfrage nach KI-gestützter Datenverarbeitung und Analytik weiter steigen. Ohne effektive Machine-Learning-Operations, oder MLOps, werden die meisten Investitionen in ML-Anwendungen im Keim ersticken. Untersuchungen haben ergeben, dass nur 5% der KI-Einführungen, deren Bereitstellung Unternehmen planen, tatsächlich in die Bereitstellung gelangen. Viele Organisationen häufen „Model Debt“ an, bei dem Änderungen der Marktbedingungen und das Versäumnis, sich daran anzupassen, zu nicht realisierten Investitionen in Modelle führen, die unaktualisiert bestehen bleiben (oder schlimmer noch: nie bereitgestellt werden).
Dieser Artikel erklärt MLOps, einen systemischen Ansatz für das Lebenszyklusmanagement von KI-Modellen, und wie die Open-Source-Plattform für Vektordatenmanagement Milvus genutzt werden kann, um KI in großem Maßstab zu operationalisieren.
Was ist MLOps?
Machine Learning Operations (MLOps), auch bekannt als Model Operations (ModelOps) oder Operationalisierung von KI-Modellen, sind notwendig, um KI-Anwendungen in großem Maßstab zu erstellen, zu warten und bereitzustellen. Da Unternehmen versuchen, die von ihnen entwickelten KI-Modelle auf Hunderte verschiedener Szenarien anzuwenden, ist es geschäftskritisch, dass sowohl die im Einsatz befindlichen als auch die in Entwicklung befindlichen Modelle in der gesamten Organisation operationalisiert werden. MLOps umfasst die Überwachung eines Machine-Learning-Modells während seines gesamten Lebenszyklus und die Governance von allem, von den zugrunde liegenden Daten bis hin zur Effektivität eines Produktionssystems, das auf einem bestimmten Modell basiert.
MLOps steuert den Lebenszyklus eines Machine-Learning-Modells.
Gartner definiert ModelOps als Governance und Lebenszyklusmanagement einer breiten Palette operationalisierter künstlicher Intelligenz und Entscheidungsmodelle. Die Kernfunktionalität von MLOps lässt sich wie folgt aufschlüsseln:
Continuous integration/continuous delivery (CI/CD): Eine Reihe von Best Practices, die aus den Developer Operations (DevOps) übernommen wurden; CI/CD ist eine Methode, um Codeänderungen häufiger und zuverlässiger bereitzustellen. Continuous integration fördert die Implementierung von Codeänderungen in kleinen Batches, während sie mit strenger Versionskontrolle überwacht werden. Continuous delivery automatisiert die Bereitstellung von Anwendungen in verschiedenen Umgebungen (z. B. Test- und Entwicklungsumgebungen).
Model development environments (MDE): Ein komplexer Prozess zum Erstellen, Überprüfen, Dokumentieren und Untersuchen von Modellen; MDE tragen dazu bei sicherzustellen, dass Modelle iterativ erstellt, während ihrer Entwicklung dokumentiert, vertrauenswürdig und reproduzierbar sind. Effektive MDE stellen sicher, dass Modelle auf kontrollierte Weise erkundet, erforscht und erprobt werden können.
Champion-challenger testing: Ähnlich der von Marketern verwendeten A/B-Testing-Methodik umfasst champion-challenger testing das Experimentieren mit verschiedenen Lösungen, um den Entscheidungsprozess zu unterstützen, der der Festlegung auf einen einzigen Ansatz vorausgeht. Diese Technik beinhaltet die Überwachung und Messung der Leistung in Echtzeit, um zu ermitteln, welche Abweichung am besten funktioniert.
Model versioning: Wie bei jedem komplexen System werden Machine-Learning-Modelle schrittweise von vielen verschiedenen Personen entwickelt – was zu Fragen des Datenmanagements rund um Versionen von Daten und ML-Modellen führt. Model Versioning hilft dabei, den iterativen Prozess der ML-Entwicklung zu verwalten und zu steuern, bei dem sich Daten, Modelle und Code unterschiedlich schnell weiterentwickeln können.
Modellspeicher und Rollback: Wenn ein Modell bereitgestellt wird, muss die entsprechende Image-Datei gespeichert werden. Rollback- und Wiederherstellungsfunktionen ermöglichen es MLOps-Teams, bei Bedarf zu einer früheren Modellversion zurückzukehren.
Die Verwendung nur eines Modells in einer Produktionsanwendung bringt eine Reihe schwieriger Herausforderungen mit sich. MLOps ist eine strukturierte, wiederholbare Methode, die auf Tools, Technologie und Best Practices setzt, um technische oder geschäftliche Probleme zu überwinden, die während des Lebenszyklus eines Machine-Learning-Modells auftreten. Erfolgreiches MLOps erhält die Effizienz über Teams hinweg aufrecht, die daran arbeiten, KI-Modelle zu erstellen, bereitzustellen, zu überwachen, neu zu trainieren und zu steuern sowie deren Einsatz in Produktionssystemen zu verwalten.
Warum ist MLOps notwendig?
Wie im oben dargestellten Lebenszyklus eines ML-Modells gezeigt, ist der Aufbau eines Machine-Learning-Modells ein iterativer Prozess, der die Einbindung neuer Daten, das erneute Training von Modellen und den Umgang mit allgemeinem Modellverfall im Laufe der Zeit umfasst. Dies sind alles Probleme, die traditionelle Entwickleroperationen, oder DevOps, weder adressieren noch Lösungen dafür bereitstellen. MLOps ist notwendig geworden, um Investitionen in KI-Modelle zu verwalten und einen produktiven Modelllebenszyklus sicherzustellen. Da Machine-Learning-Modelle von einer Vielzahl unterschiedlicher Produktionssysteme genutzt werden, wird MLOps zu einem integralen Bestandteil, um sicherzustellen, dass Anforderungen in verschiedenen Umgebungen und unter unterschiedlichen Szenarien erfüllt werden können.
Ein Machine-Learning-Modell, das in einer Cloud-Umgebung bereitgestellt wird und in eine Anwendung einfließt.
Die einfache Abbildung oben zeigt ein Machine-Learning-Modell, das in einer Cloud-Umgebung bereitgestellt wird und in eine Anwendung einfließt. In diesem grundlegenden Szenario könnten eine Reihe von Problemen auftreten, bei deren Überwindung MLOps hilft. Da die Produktionsanwendung auf eine bestimmte Cloud-Umgebung angewiesen ist, gibt es Latenzanforderungen, auf die die Data Scientists, die das ML-Modell entwickelt haben, keinen Zugriff haben. Die Operationalisierung des Modelllebenszyklus würde es Data Scientists oder Engineers mit fundiertem Wissen über das Modell ermöglichen, Probleme zu identifizieren und zu beheben, die in bestimmten Produktionsumgebungen auftreten.
Machine-Learning-Modelle werden nicht nur in anderen Umgebungen trainiert als den Produktionsanwendungen, in denen sie verwendet werden, sondern sie stützen sich häufig auch auf historische Datensätze, die sich von den in Produktionsanwendungen verwendeten Daten unterscheiden. Mit MLOps verfügt das gesamte Data-Science-Team, von denjenigen, die das Modell entwickeln, bis hin zu Personen, die auf Anwendungsebene arbeiten, über eine Möglichkeit, Informationen und Unterstützung auszutauschen und anzufordern. Die Geschwindigkeit, mit der sich Daten und Märkte verändern, macht es zwingend erforderlich, dass es so wenig Reibung wie möglich zwischen allen wichtigen Stakeholdern und Mitwirkenden gibt, die auf ein bestimmtes Machine-Learning-Modell angewiesen sein werden.
Unterstützung des Übergangs zu Software 2.0
Software 2.0 ist die Idee, dass die Softwareentwicklung einen Paradigmenwechsel erleben wird, da künstliche Intelligenz zunehmend eine zentrale Rolle beim Schreiben von KI-Modellen spielt, die Softwareanwendungen antreiben. Unter Software 1.0 umfasst die Entwicklung Programmierer, die explizite Anweisungen mithilfe einer bestimmten Programmiersprache schreiben (z. B. Python, C++). Software 2.0 ist weitaus abstrakter. Obwohl Menschen Eingabedaten bereitstellen und Parameter festlegen, sind neuronale Netze für Menschen aufgrund ihrer schieren Komplexität schwer zu verstehen— wobei typische Netze Millionen von Gewichten enthalten, die Ergebnisse beeinflussen (und manchmal Milliarden oder Billionen).
DevOps wurde rund um die Abhängigkeit von Software 1.0 von spezifischen Anweisungen aufgebaut, die von Programmierern mithilfe von Sprachen vorgegeben wurden, berücksichtigte jedoch nie den Lebenszyklus eines Machine-Learning-Modells, das eine Vielzahl unterschiedlicher Anwendungen antreibt. MLOps adressiert die Notwendigkeit, dass sich der Prozess der Verwaltung der Softwareentwicklung parallel zur in Entwicklung befindlichen Software verändern muss. Da Software 2.0 zum neuen Standard für computerbasierte Problemlösung wird, werden die richtigen Tools und Prozesse für die Verwaltung von Modelllebenszyklen über Erfolg oder Misserfolg von Investitionen in neue Technologien entscheiden. Milvus ist eine Open-Source-Suchmaschine für Vektorähnlichkeit, die entwickelt wurde, um den Übergang zu Software 2.0 zu unterstützen und Modelllebenszyklen mit MLOps zu verwalten.
Wie Milvus den Übergang zu Software 2.0 unterstützt.
KI im großen Maßstab mit Milvus operationalisieren
Milvus ist eine Vektordatenbank / Plattform für Vektordatenmanagement, die speziell für das Speichern, Abfragen, Aktualisieren und Verwalten massiver Vektordatensätze im Billionenmaßstab entwickelt wurde. Die Plattform ermöglicht Vektorähnlichkeitssuche und kann in weit verbreitete Indexbibliotheken integriert werden, darunter Faiss, NMSLIB und Annoy. Durch die Kombination von KI-Modellen, die unstrukturierte Daten in Vektoren umwandeln, mit Milvus können Anwendungen in Bereichen wie der Entwicklung neuer Medikamente, biometrischer Analyse, Empfehlungssystemen und vielem mehr erstellt werden.
Vektorähnlichkeitssuche ist die bevorzugte Lösung für die Verarbeitung und Analyse unstrukturierter Daten, und Vektordaten entwickeln sich schnell zu einem zentralen Datentyp. Ein umfassendes Datenmanagementsystem wie Milvus erleichtert die Operationalisierung von KI auf vielfältige Weise, darunter:
Bereitstellung einer Umgebung für das Modelltraining, die sicherstellt, dass mehr Aspekte der Entwicklung an einem Ort erfolgen, wodurch teamübergreifende Zusammenarbeit, Modell-Governance und mehr erleichtert werden.
Angebot eines umfassenden Satzes von APIs, die gängige Frameworks wie Python, Java und Go unterstützen und die Integration eines gemeinsamen Satzes von ML-Modellen erleichtern.
Kompatibilität mit Google Colaboratory, einer Jupyter-Notebook-Umgebung, die in einem Browser läuft, vereinfacht den Prozess des Kompilierens von Milvus aus dem Quellcode und das Ausführen grundlegender Python-Operationen.
Funktionen für automatisiertes maschinelles Lernen (AutoML) ermöglichen es, die Aufgaben zu automatisieren, die mit der Anwendung von maschinellem Lernen auf reale Probleme verbunden sind. AutoML führt nicht nur zu Effizienzsteigerungen, sondern ermöglicht es auch Nicht-Experten, Machine-Learning-Modelle und -Techniken zu nutzen.
Unabhängig davon, welche Machine-Learning-Anwendungen Sie heute entwickeln oder welche Pläne Sie für Anwendungen in der Zukunft haben, ist Milvus eine flexible Datenmanagementplattform, die mit Software 2.0 und MLOps im Hinterkopf entwickelt wurde. Um mehr über Milvus zu erfahren oder Beiträge zu leisten, finden Sie das Projekt auf Github. Um sich in der Community zu engagieren oder Fragen zu stellen, treten Sie unserem Slack-Kanal bei. Lust auf mehr Inhalte? Sehen Sie sich die folgenden Ressourcen an:
Weiterlesen
From Vector Database to Vector Lakebase
Zilliz offers a fully managed Vector Lakebase powered by Milvus, unifying real-time vector search, lake-scale discovery, and Al data operations.
Why Context Engineering Is Becoming the Full Stack of AI Agents
Discover how context engineering unifies prompts, RAG, and tools to build smarter, production-ready AI agents powered by Milvus.
Cosmos World Foundation Model Platform for Physical AI
NVIDIA's Cosmos platform enables safe, digital twin training of GenAI models for physical applications, overcoming data scarcity and safety challenges.