watsonx Assistant
Build Retrieval-Augmented Generation Chatbots with watsonx Assistant and Milvus or Zilliz Cloud
Utilice esta integración de forma gratuita¿Qué es watsonx Assistant?
IBM® WatsonX™ AI and Data Platform es una solución que ayuda a los desarrolladores a crear aplicaciones de IA personalizadas en una única plataforma. WatsonX incluye cuatro componentes:
- watsonx.ai-una solución para entrenar, validar, afinar y desplegar modelos.
- Watsonx.data-un almacén de datos para sus datos.
- Watsonx.governance: un conjunto de herramientas para gestionar el ciclo de vida de los datos de principio a fin.
- watsonx Assistant: una plataforma de inteligencia artificial conversacional para ayudar a los desarrolladores a crear agentes de voz y chatbots basados en IA.
Por qué watsonx Assistant y Zilliz Cloud (Milvus gestionado)
IBM watsonx Assistant es una plataforma de IA conversacional que permite a los desarrolladores crear chatbots para mejorar el servicio al cliente y proporcionar asistencia en ventas y soporte. Dado que estos chatbots utilizarán los datos privados de su empresa asociados a sus productos y detalles de los clientes, puede estar seguro de que todos sus datos permanecen privados. Esto le permite ofrecer una asistencia más completa, aumentando la productividad y mejorando su cuenta de resultados.
watsonx Assistant trabaja con Zilliz Cloud para convertirse en la base de un marco de Generación Aumentada de Recuperación (RAG). Esto le da la seguridad de utilizar sus datos privados combinados con las potentes capacidades de generación de lenguaje de un gran modelo lingüístico. He aquí algunas razones por las que esta solución resulta útil:
- Almacenamiento y recuperación eficientes: las bases de datos vectoriales almacenan y recuperan eficientemente vectores de alta dimensión. En el contexto de watsonx Assistant, donde son habituales las grandes colecciones de documentos y las incrustaciones generadas por los LLM, una base de datos vectorial puede ayudar a gestionar estos vectores de forma eficaz.
- Búsqueda rápida de similitudes: Las bases de datos vectoriales están optimizadas para las operaciones de búsqueda de similitudes, que son cruciales para tareas como la búsqueda semántica de documentos y las canalizaciones de generación de recuperación aumentada (RAG). Al indexar vectores y permitir una búsqueda rápida de similitudes, una base de datos vectorial puede acelerar significativamente estas operaciones en watsonx Assistant.
- Escalabilidad: A medida que crecen las colecciones de documentos y el número de vectores, la escalabilidad se vuelve esencial. Las bases de datos vectoriales están diseñadas para escalar horizontalmente, lo que permite a watsonx Assistant gestionar eficazmente implementaciones a gran escala y volúmenes de datos cada vez mayores.
- Integración con Watson AI Services: Al utilizar Watson AI Services, puede convertir y almacenar incrustaciones vectoriales generadas a partir de archivos de texto, audio o imagen en Zilliz Cloud. Esta colección multimodal de incrustaciones puede representar conversaciones con clientes, capturas de pantalla de errores de documentos de facturación notificados por clientes, imágenes de productos dañados, etc., e información detallada sobre productos y ventas utilizada habitualmente cuando se trabaja con clientes. Esta amplia colección de datos es lo que hace posible la intimidad con el cliente.
Además, watsonx cuenta con varios modelos de base que admiten otros idiomas además del inglés, como japonés, alemán, español, francés y portugués, entre otros.
Cómo funciona IBM watsonx Assistant con Zilliz Cloud Works
Generación Aumentada de Recuperación (RAG)](https://assets.zilliz.com/rag_3d94a263d8.png)
IBM watsonx tiene una solución sin código Retrieval Augmented Generation que se integra con Zilliz Cloud y reduce la necesidad de alimentar y reentrenar el modelo LLM. Los usuarios pueden simplemente cargar la documentación o las políticas empresariales más recientes, y el modelo recuperará la información y devolverá una respuesta actualizada.
- Recopila todos los datos relevantes (texto empresarial, archivos de audio, imágenes, etc.) para tu chatbot. Convierte este conjunto de datos no estructurados con uno de los watsonx Foundation Models que mejor se adapte a tus requisitos y almacena estos vector embeddings en Zilliz Cloud.
- Cuando el usuario hace una pregunta, también conocida como la parte de recuperación, Watsonx Assistant aprovecha las capacidades de búsqueda semántica de Zilliz Cloud para recuperar contenido relevante almacenado como incrustaciones vectoriales.
- Los resultados de la consulta se combinan con la pregunta y se envían a un gran modelo lingüístico, como Granite de IBM, para sintetizar y generar una respuesta conversacional basada en ese contenido.
Aprenda a utilizar watsonx con Milvus
Consulte estos tutoriales para aprender a utilizar watsonx con Milvus
Cómo construir un Asistente watsonX con Milvus como Base de Datos Vectorial