watsonx Assistant
Build Retrieval-Augmented Generation Chatbots with watsonx Assistant and Milvus or Zilliz Cloud
Utilizzate questa integrazione gratuitamenteChe cos'è l'assistente watsonx?
IBM® WatsonX™ AI and Data Platform è una soluzione che aiuta gli sviluppatori a creare applicazioni AI personalizzate su un'unica piattaforma. WatsonX comprende quattro componenti:
- watsonx.ai: una soluzione per addestrare, validare, mettere a punto e distribuire i modelli.
- Watsonx.data: un archivio di dati per i vostri dati.
- Watsonx.governance: un insieme di strumenti per gestire la governance end-to-end del ciclo di vita dei dati.
- watsonx Assistant: una piattaforma di intelligenza artificiale conversazionale che aiuta gli sviluppatori a creare agenti vocali e chatbot basati sull'intelligenza artificiale.
Perché watsonx Assistant e Zilliz Cloud (Managed Milvus)
IBM watsonx Assistant è una piattaforma di intelligenza artificiale conversazionale che consente agli sviluppatori di creare chatbot per migliorare il servizio clienti e fornire assistenza alle vendite e al supporto. Poiché questi chatbot utilizzano i dati privati della vostra azienda associati ai vostri prodotti e ai dettagli dei clienti, potete essere certi che tutti i vostri dati rimarranno privati. Ciò consente di fornire un'assistenza più completa, aumentando la produttività e migliorando i profitti.
watsonx Assistant lavora con Zilliz Cloud per diventare la base di un framework di Retrieval Augmented Generation (RAG). Questo vi dà la certezza di utilizzare i vostri dati privati combinati con le potenti capacità di generazione linguistica di un modello linguistico di grandi dimensioni. Ecco alcuni motivi per cui questa soluzione è utile:
- Memorizzazione e recupero efficienti: i [database vettoriali] (https://zilliz.com/learn/what-is-vector-database) memorizzano e recuperano in modo efficiente vettori ad alta dimensionalità. Nel contesto di watsonx Assistant, dove sono comuni grandi raccolte di documenti e embeddings generati da LLM, un database vettoriale può aiutare a gestire questi vettori in modo efficace.
- Ricerca rapida della somiglianza: I database vettoriali sono ottimizzati per le operazioni di ricerca per similarità, che sono cruciali per attività come la ricerca semantica di documenti e le pipeline di retrieval-augmented generation (RAG). Grazie all'indicizzazione dei vettori e alla possibilità di effettuare ricerche veloci di similarità, un database vettoriale può accelerare in modo significativo queste operazioni in watsonx Assistant.
- Scalabilità: Con la crescita delle raccolte di documenti e del numero di vettori, la scalabilità diventa essenziale. I database vettoriali sono progettati per scalare orizzontalmente, consentendo a watsonx Assistant di gestire efficacemente implementazioni su larga scala e volumi di dati crescenti.
- Integrazione con Watson AI Services: Utilizzando i Watson AI Services, è possibile convertire e archiviare in Zilliz Cloud le incorporazioni vettoriali generate da file di testo, audio o immagine. Questa raccolta multimodale di embeddings può rappresentare conversazioni con i clienti, schermate di errori dei documenti di fatturazione segnalati dai clienti, immagini di prodotti danneggiati, ecc. e informazioni dettagliate sui prodotti e sulle vendite comunemente utilizzate quando si lavora con i clienti. Questa raccolta completa di dati rende possibile la customer intimacy.
Inoltre, watsonx ha una serie di modelli di fondazione che supportano lingue diverse dall'inglese, come il giapponese, il tedesco, lo spagnolo, il francese, il portoghese e altre ancora.
Come funziona l'Assistente IBM watsonx con Zilliz Cloud Works
Generazione aumentata di recupero (RAG)
IBM watsonx ha una soluzione Retrieval Augmented Generation senza codice che si integra con Zilliz Cloud e riduce la necessità di alimentare e riqualificare il modello LLM. Gli utenti possono semplicemente caricare la documentazione o le politiche aziendali più recenti e il modello recupera le informazioni e restituisce una risposta aggiornata.
- Raccogliere tutti i dati rilevanti (testo aziendale, file audio, immagini, ecc.) per il chatbot. Convertire questo set di dati non strutturati con uno dei modelli watsonx Foundation più adatti alle vostre esigenze e memorizzare questi embeddings vettoriali in Zilliz Cloud.
- Quando l'utente pone una domanda, nota anche come parte di recupero, Watsonx Assistant sfrutta le funzionalità di ricerca semantica di Zilliz Cloud per recuperare i contenuti rilevanti memorizzati come embeddings vettoriali.
- I risultati della query vengono combinati con la domanda e inviati a un modello linguistico di grandi dimensioni, come Granite di IBM, per sintetizzare e generare una risposta conversazionale basata su tali contenuti.
Imparare a utilizzare watsonx con Milvus
Per imparare a usare watsonx con Milvus, consultate queste esercitazioni.
Come costruire un assistente watsonX con Milvus come database vettoriale