watsonx Assistant
Build Retrieval-Augmented Generation Chatbots with watsonx Assistant and Milvus or Zilliz Cloud
Verwenden Sie diese Integration kostenlosWas ist der watsonx-Assistent?
IBM® WatsonX™ AI and Data Platform ist eine Lösung, die es Entwicklern ermöglicht, maßgeschneiderte KI-Anwendungen auf einer einzigen Plattform zu erstellen. WatsonX umfasst vier Komponenten:
- watsonx.ai-eine Lösung zum Trainieren, Validieren, Abstimmen und Bereitstellen von Modellen.
- Watsonx.data - ein Datenspeicher für Ihre Daten
- Watsonx.governance - eine Reihe von Tools zur Verwaltung des gesamten Lebenszyklus von Daten
- watsonx Assistant - eine Plattform für künstliche Intelligenz, die Entwicklern hilft, KI-gestützte Sprachagenten und Chatbots zu entwickeln.
Warum watsonx Assistant und Zilliz Cloud (Managed Milvus)
IBM watsonx Assistant ist eine konversationelle KI-Plattform, die es Entwicklern ermöglicht, Chatbots zu erstellen, um den Kundenservice zu verbessern und Vertriebs- und Supportunterstützung zu leisten. Da diese Chatbots die privaten Daten Ihres Unternehmens im Zusammenhang mit Ihren Produkten und Kundendaten nutzen, können Sie sicher sein, dass alle Ihre Daten privat bleiben. So können Sie einen umfassenderen Support anbieten, der die Produktivität steigert und Ihr Geschäftsergebnis verbessert.
watsonx Assistant arbeitet mit der Zilliz Cloud zusammen und bildet die Grundlage für ein Retrieval Augmented Generation (RAG) Framework. Dies gibt Ihnen die Gewissheit, dass Sie Ihre privaten Daten in Kombination mit den leistungsstarken Sprachgenerierungsfähigkeiten eines großen Sprachmodells nutzen können. Hier sind einige Gründe, warum diese Lösung nützlich ist:
- Effiziente Speicherung und Abruf: Vektordatenbanken speichern und rufen hochdimensionale Vektoren effizient ab. Im Kontext von watsonx Assistant, wo große Dokumentensammlungen und von LLMs generierte Einbettungen üblich sind, kann eine Vektordatenbank helfen, diese Vektoren effektiv zu verwalten.
- Schnelle Ähnlichkeitssuche: Vektordatenbanken sind für die Ähnlichkeitssuche optimiert, die für Aufgaben wie die semantische Dokumentensuche und RAG-Pipelines (Retrieval-Augmented Generation) entscheidend ist. Durch die Indizierung von Vektoren und die Ermöglichung einer schnellen Ähnlichkeitssuche kann eine Vektordatenbank diese Operationen in watsonx Assistant erheblich beschleunigen.
- Skalierbarkeit: Wenn Dokumentensammlungen und die Anzahl der Vektoren wachsen, ist Skalierbarkeit unerlässlich. Vektordatenbanken sind so konzipiert, dass sie horizontal skalierbar sind, so dass watsonx Assistant auch große Implementierungen und wachsende Datenmengen effektiv bewältigen kann.
- Integration mit Watson AI Services: Durch die Nutzung der Watson AI Services können Sie Vektoreinbettungen, die aus Text-, Audio- oder Bilddateien generiert wurden, in die Zilliz Cloud konvertieren und speichern. Diese multimodale Sammlung von Einbettungen kann Kundengespräche, Screenshots von Fehlern aus von Kunden gemeldeten Rechnungsdokumenten, Bilder von beschädigten Produkten usw. sowie detaillierte Produkt- und Verkaufsinformationen darstellen, die üblicherweise bei der Zusammenarbeit mit Kunden verwendet werden. Diese umfassende Sammlung von Daten macht die Nähe zum Kunden erst möglich.
Darüber hinaus verfügt watsonx über eine Reihe von Basismodellen, die neben Englisch auch andere Natursprachen wie Japanisch, Deutsch, Spanisch, Französisch, Portugiesisch und andere unterstützen.
Wie der IBM watsonx Assistant mit Zilliz Cloud Works funktioniert
Retrieval Augmented Generation (RAG)
IBM watsonx hat eine no-code Retrieval Augmented Generation Lösung, die sich in die Zilliz Cloud integriert und die Notwendigkeit reduziert, das LLM-Modell zu füttern und neu zu trainieren. Die Benutzer können einfach die neuesten Geschäftsdokumente oder Richtlinien hochladen, und das Modell wird die Informationen abrufen und eine aktualisierte Antwort zurückgeben.
- Sammeln Sie alle relevanten Daten (Geschäftstext, Audiodateien, Bilder usw.) für Ihren Chatbot. Konvertieren Sie diesen unstrukturierten Datensatz mit einem der watsonx Foundation Models, das Ihren Anforderungen am besten entspricht, und speichern Sie diese Vektoreinbettungen in der Zilliz Cloud.
- Wenn der Nutzer eine Frage stellt, auch bekannt als der Abfrageteil, nutzt der Watsonx Assistant die [semantische Suche] (https://zilliz.com/glossary/semantic-search) der Zilliz Cloud, um relevante Inhalte, die als Vektoreinbettungen gespeichert sind, abzurufen.
- Die Abfrageergebnisse werden mit der Frage als Eingabeaufforderung kombiniert und an ein großes Sprachmodell wie IBMs Granite gesendet, um eine Konversationsantwort zu synthetisieren und zu generieren, die auf diesem Inhalt basiert.
Erfahren Sie, wie Sie watsonx mit Milvus verwenden können
Schauen Sie sich diese Tutorials an, um zu lernen, wie man watsonx mit Milvus verwendet
Wie man einen watsonX-Assistenten mit Milvus als Vektordatenbank erstellt