watsonx Assistant
Build Retrieval-Augmented Generation Chatbots with watsonx Assistant and Milvus or Zilliz Cloud
Utilize esta integração gratuitamenteO que é o watsonx Assistant?
O IBM® WatsonX™ AI and Data Platform é uma solução que ajuda os programadores a criar aplicações de IA personalizadas numa única plataforma. O WatsonX inclui quatro componentes:
- watsonx.ai-uma solução para treinar, validar, ajustar e implementar modelos.
- Watsonx.data - um armazenamento de dados para os seus dados
- Watsonx.governance - um conjunto de ferramentas para gerir o ciclo de vida completo dos dados
- watsonx Assistant - uma plataforma de inteligência artificial de conversação para ajudar os programadores a criar agentes de voz e chatbots alimentados por IA.
Porquê o watsonx Assistant e o Zilliz Cloud (Managed Milvus)
O IBM watsonx Assistant é uma plataforma de IA de conversação que permite aos programadores criar chatbots para melhorar o serviço ao cliente e fornecer assistência de vendas e suporte. Uma vez que estes chatbots utilizarão os dados privados da sua empresa associados aos seus produtos e detalhes dos clientes, pode ter a certeza de que todos os seus dados permanecem privados. Isto permite-lhe fornecer um apoio mais abrangente, aumentando a produtividade e melhorando os seus resultados.
O watsonx Assistant trabalha com o Zilliz Cloud para se tornar a base de uma estrutura de Retrieval Augmented Generation (RAG). Isto dá-lhe a garantia de utilizar os seus dados privados combinados com as poderosas capacidades de geração de linguagem de um grande modelo de linguagem. Eis algumas razões pelas quais esta solução é útil:
- Armazenamento e recuperação eficientes: As [bases de dados vectoriais] (https://zilliz.com/learn/what-is-vetor-database) armazenam e recuperam eficazmente vectores de elevada dimensão. No contexto do watsonx Assistant, onde grandes colecções de documentos e embeddings gerados por LLMs são comuns, uma base de dados vetorial pode ajudar a gerir estes vectores eficazmente.
- Pesquisa Rápida de Similaridade: As bases de dados de vectores são optimizadas para operações de pesquisa de semelhanças, que são cruciais para tarefas como pesquisa semântica de documentos e pipelines de geração aumentada por recuperação (RAG). Ao indexar vectores e ao permitir uma pesquisa de similaridade rápida, uma base de dados vetorial pode acelerar significativamente estas operações no Watsonx Assistant.
- Escalabilidade: À medida que as colecções de documentos e o número de vectores crescem, a escalabilidade torna-se essencial. As bases de dados de vectores são concebidas para escalar horizontalmente, permitindo que o watsonx Assistant lide eficazmente com implementações em grande escala e volumes de dados crescentes.
- Integração com os Watson AI Services: Ao utilizar os Watson AI Services, pode converter e armazenar embeddings vectoriais gerados a partir de ficheiros de texto, áudio ou imagem no Zilliz Cloud. Esta coleção multimodal de embeddings pode representar conversas com clientes, capturas de ecrã de erros de documentos de faturação comunicados por clientes, imagens de produtos danificados, etc., e informações detalhadas sobre produtos e vendas normalmente utilizadas quando se trabalha com clientes. Esta coleção abrangente de dados é o que torna possível a intimidade com o cliente.
Para além disso, o watsonx tem uma série de modelos de fundação que suportam outros idiomas além do inglês, tais como japonês, alemão, espanhol, francês, português e muito mais.
Como funciona o IBM watsonx Assistant com o Zilliz Cloud Works
Geração Aumentada de Recuperação (RAG)
O IBM watsonx tem uma solução sem código Retrieval Augmented Generation que se integra com o Zilliz Cloud e reduz a necessidade de alimentar e treinar novamente o modelo LLM. Os utilizadores podem simplesmente carregar a documentação ou as políticas comerciais mais recentes, e o modelo irá recuperar informações e devolver uma resposta actualizada.
- Recolha todos os dados relevantes (texto comercial, ficheiros áudio, imagens, etc.) para o seu chatbot. Converta este conjunto de dados não estruturados com um dos watsonx Foundation Models que melhor corresponda aos seus requisitos e armazene estes vetor embeddings no Zilliz Cloud.
- Quando o utilizador faz uma pergunta, também conhecida como a parte de recuperação, o Watsonx Assistant aproveita as capacidades de [pesquisa semântica] do Zilliz Cloud (https://zilliz.com/glossary/semantic-search) para recuperar conteúdo relevante armazenado como vetor embeddings.
- Os resultados da consulta são combinados com a pergunta como um aviso e enviados para um modelo de linguagem de grande dimensão, como o Granite da IBM, para sintetizar e gerar uma resposta de conversação baseada nesse conteúdo.
Saiba como utilizar o watsonx com o Milvus
Consulte estes tutoriais para saber como utilizar o watsonx com o Milvus
Como construir um Assistente watsonX com Milvus como Base de Dados Vetorial