watsonx Assistant
Build Retrieval-Augmented Generation Chatbots with watsonx Assistant and Milvus or Zilliz Cloud
Используйте эту интеграцию бесплатноЧто такое watsonx Assistant?
IBM® WatsonX™ AI and Data Platform - это решение, которое помогает разработчикам создавать пользовательские приложения искусственного интеллекта на одной платформе. WatsonX включает в себя четыре компонента:
- watsonx.ai- решение для обучения, проверки, настройки и развертывания моделей.
- Watsonx.data - хранилище данных для ваших данных.
- Watsonx.governance - набор инструментов для управления жизненным циклом данных.
- watsonx Assistant - платформа разговорного искусственного интеллекта, помогающая разработчикам создавать голосовые агенты и чат-боты на базе ИИ.
Почему watsonx Assistant и Zilliz Cloud (Managed Milvus)
IBM watsonx Assistant - это платформа разговорного ИИ, которая позволяет разработчикам создавать чат-боты для улучшения обслуживания клиентов и оказания помощи в продажах и поддержке. Поскольку эти чат-боты будут использовать конфиденциальные данные вашей компании, связанные с продукцией и информацией о клиентах, вы можете быть уверены, что все ваши данные останутся конфиденциальными. Это позволит вам предоставлять более полную поддержку, повышая производительность и улучшая итоговые показатели.
watsonx Assistant работает с Zilliz Cloud и является основой системы Retrieval Augmented Generation (RAG). Это дает вам уверенность в использовании ваших конфиденциальных данных в сочетании с мощными возможностями генерации языка на основе большой языковой модели. Вот несколько причин, по которым это решение может быть полезным:
- Эффективное хранение и поиск: Векторные базы данных эффективно хранят и извлекают высокоразмерные векторы. В контексте watsonx Assistant, где часто встречаются большие коллекции документов и вкрапления, генерируемые LLM, векторная база данных может помочь эффективно управлять этими векторами.
- Быстрый поиск по сходству: Векторные базы данных оптимизированы для операций поиска по сходству, что крайне важно для таких задач, как семантический поиск документов и конвейеры генерации с дополненным поиском (RAG). Индексируя векторы и обеспечивая быстрый поиск по сходству, векторная база данных может значительно ускорить эти операции в watsonx Assistant.
- Масштабируемость: По мере роста коллекций документов и количества векторов масштабируемость становится крайне важной. Векторные базы данных рассчитаны на горизонтальное масштабирование, что позволяет watsonx Assistant эффективно справляться с масштабными развертываниями и растущими объемами данных.
- Интеграция с Watson AI Services: Используя сервисы Watson AI Services, вы можете конвертировать и хранить в Zilliz Cloud векторные вкрапления, созданные из текстовых, аудио- или графических файлов. Эта мультимодальная коллекция вкраплений может представлять собой разговоры с клиентами, скриншоты ошибок из биллинговых документов, о которых сообщают клиенты, фотографии поврежденных товаров и т. д., а также подробную информацию о товарах и продажах, обычно используемую при работе с клиентами. Именно этот всеобъемлющий набор данных делает возможной близость к клиенту.
Кроме того, watsonx имеет ряд базовых моделей, поддерживающих языки, отличные от английского, такие как японский, немецкий, испанский, французский, португальский и другие.
Как IBM watsonx Assistant работает с Zilliz Cloud Works
Retrieval Augmented Generation (RAG)
IBM watsonx предлагает бескодовое решение Retrieval Augmented Generation, которое интегрируется с Zilliz Cloud и снижает необходимость в подпитке и переобучении модели LLM. Пользователи могут просто загрузить последнюю версию бизнес-документации или политики, и модель получит информацию и вернет обновленный ответ.
- Соберите все необходимые данные (бизнес-текст, аудиофайлы, изображения и т. д.) для вашего чатбота. Преобразуйте этот набор неструктурированных данных в одну из моделей watsonx Foundation Models, наиболее соответствующую вашим требованиям, и сохраните эти векторные вложения в Zilliz Cloud.
- Когда пользователь задает вопрос, что также известно как часть поиска, Watsonx Assistant использует возможности семантического поиска Zilliz Cloud для получения релевантного контента, сохраненного в виде векторных вкраплений.
- Результаты запроса объединяются с вопросом в качестве подсказки и отправляются в большую языковую модель, например Granite от IBM, для синтеза и создания ответа в разговорной форме на основе этого контента.
Узнайте, как использовать watsonx с Milvus
Ознакомьтесь с этими руководствами, чтобы узнать, как использовать watsonx с Milvus
Как построить watsonX Assistant с Milvus в качестве базы данных векторов