watsonx Assistant
Build Retrieval-Augmented Generation Chatbots with watsonx Assistant and Milvus or Zilliz Cloud
この統合を無料で利用するワトソンクス・アシスタントとは？
IBM® WatsonX™ AI and Data Platformは、開発者がカスタムAIアプリケーションを1つのプラットフォーム上で構築できるようにするソリューションです。WatsonXには4つのコンポーネントがあります：
- watsonx.ai-モデルのトレーニング、検証、チューニング、デプロイを行うソリューション。
- Watsonx.data-データのためのデータストア
- Watsonx.governance-データのエンドツーエンドのライフサイクル・ガバナンスを管理するツール群
- watsonx Assistant-会話型人工知能プラットフォームで、開発者がAIを搭載した音声エージェントやチャットボットを構築するのに役立ちます。
なぜwatsonx AssistantとZilliz Cloud（マネージド・ミルバス）なのか？
IBM watsonx Assistantは会話型AIプラットフォームで、開発者はチャットボットを作成して顧客サービスを向上させ、販売やサポート支援を提供することができます。これらのチャットボットは、御社の製品や顧客の詳細に関連する御社のプライベート・データを利用するため、すべてのデータがプライベートに保たれることが保証されます。これにより、より包括的なサポートを提供し、生産性を高め、収益を改善することができます。
watsonx Assistant は Zilliz Cloud と連携し、RAG (Retrieval Augmented Generation) フレームワークの基礎となります。これにより、大規模な言語モデルによる強力な言語生成機能と組み合わされたプライベートデータを安心して使用することができます。このソリューションが有用である理由は以下の通りです：
- 効率的な保存と検索： ベクトル・データベース は、高次元のベクトルを効率的に保存し、検索します。大規模な文書コレクションと LLM によって生成された埋め込みが一般的な watsonx Assistant のコンテキストでは、ベクトル・データベースはこれらのベクトルを効率的に管理するのに役立ちます。
- 高速な類似検索：ベクターデータベースは、セマンティック文書検索や検索支援生成（RAG）パイプラインのようなタスクに不可欠な類似検索操作に最適化されています。ベクトルをインデックス化し、高速な類似性検索を可能にすることで、ベクトルデータベースは watsonx Assistant におけるこれらの操作を大幅に高速化します。
- 拡張性：文書コレクションとベクターの数が増えるにつれ、スケーラビリティが不可欠になります。ベクターデータベースは水平方向に拡張できるように設計されているため、watsonx Assistantは大規模な導入やデータ量の増加に効果的に対応できます。
- Watson AI Services との統合：Watson AI Services を利用することで、テキスト、音声、画像ファイルから生成されたベクトル埋め込みデータを Zilliz Cloud に変換して保存できます。このマルチモーダルなエンベッディングのコレクションは、顧客との会話、顧客から報告された請求書類からのエラーのスクリーンショット、破損した製品の写真など、顧客と仕事をする際によく使われる詳細な製品や販売情報を表すことができます。このような包括的なデータの集合が、顧客との親密な関係を可能にするのです。
さらに、watsonx には、日本語、ドイツ語、スペイン語、フランス語、ポルトガル語など、英語以外のネイチャーラン言語をサポートする基盤モデルが多数あります。
IBM watsonx AssistantとZilliz Cloud Worksの連携について
リトリーバル・オーグメンテッド・ジェネレーション(RAG)
IBM watsonxは、Zilliz Cloudと統合し、LLMモデルへのフィードと再トレーニングの必要性を減らす、ノー・コードのRetrieval Augmented Generationソリューションを持っています。ユーザーは最新のビジネス文書やポリシーをアップロードするだけで、モデルが情報を取得し、更新されたレスポンスを返します。
1.チャットボットに関連するすべてのデータ（ビジネステキスト、音声ファイル、画像など）を収集します。この非構造化データセットを要件に最適な watsonx Foundation Models の 1 つで変換し、これらのベクトル埋め込みを Zilliz Cloud に保存します。 2.ユーザーが質問をすると、検索部分としても知られているように、Watsonx Assistant は Zilliz Cloud の セマンティック検索 機能を活用して、ベクトル埋め込みとして保存されている関連コンテンツを検索します。 3.3.クエリー結果はプロンプトとして質問と組み合わされ、IBMのGraniteのような大規模な言語モデルに送られ、そのコンテンツに基づいた会話の答えを合成して生成する。
Milvus での watsonx の使い方を学ぶ
Milvus で watsonx を使用する方法については、以下のチュートリアルをご覧ください。