Zilliz CloudでシュレックスのVOCサービスのパフォーマンスとスケーラビリティを強化
50%
検索レイテンシーとデータ分析コストの削減
30%
レポート作成の高速化
分レベル
予期せぬトラフィック急増への対応
Since transitioning from the open-source Milvus vector database to the fully managed Zilliz Cloud, we’ve experienced significant improvements in business performance. We’ve achieved lower operational costs, increased search speed, a more flexible system architecture, and a more stable user experience. Zilliz Cloud also provides expert support to resolve issues quickly and effectively. Overall, Zilliz Cloud has given us greater convenience and a competitive edge, and we are very pleased and optimistic about this change.
Shengyi Pan
シュレックスについて
Shulex(Voc.AI)は、シリコンバレーを拠点とする大手AI企業で、高度なVOC（顧客の声）ソリューションを通じて、売り手やブランドが市場機会を特定し、勝てる商品を開発できるよう支援することに専念している。ChatGPT](https://zilliz.com/learn/ChatGPT-Vector-Database-Prompt-as-code)や感情分析のような大規模言語モデル（LLMs）やAIのパワーを活用することで、シュアレックスは企業が顧客のフィードバックに対する深い洞察を得られるよう支援している。P&G、Anker、Hisenseのようなグローバルブランドを含む20万人以上の登録顧客を持つシュレックスの革新的なVOCソリューションは、幅広い業界で非常に貴重であることが証明されています。
課題：自己管理型Milvusソリューションによる高い運用コスト
VOC（顧客の声）とは、顧客のニーズ、嗜好、経験を理解するために、顧客からのフィードバックを収集、分析、活用するサービスです。シュレックスは、アンケート、レビュー、ソーシャルメディア、カスタマーサポートなど、さまざまなソースからデータを収集・分析し、ブランドを支援する高度なVOCソリューションを提供しています。このプロセスは最終的に、顧客の要望により近い商品を提供することで、商品、サービス、全体的な顧客満足度を向上させます。
シュレックスは、この目標を達成するために、大規模データを効率的に管理しながら、自然言語による顧客フィードバックの意図と意味的な意味を理解できるソリューションを必要としていました。当初、シュレックスは、非構造化テキストデータの保存、索引付け、検索に優れたオープンソースのベクトルデータベースであるMilvusを使用して、自己管理型のベクトル検索ソリューションを実装した。
自己管理型のMilvusソリューションは当初、大量のベクトルを保存し、セマンティック検索を行うのに優れた性能を発揮した。しかし、シュレックスの急成長により、データ量は爆発的に増加した。VOCレビュー分析サービスだけで、10,000を超える電子商取引固有のレビューラベルが生成され、数十億のベクトルが生成された。自己管理型のMilvusソリューションは、このような大規模データを処理することはできたものの、運用と保守に多大な社内リソースを必要としていた。高い運用コストとシステムトラブル時の復旧時間の長さが問題となり、顧客の不満につながっていた。
シュレックスのテック・リード、チェンホイ・リーは次のように説明した。私たちは、運用コストを最小限に抑え、膨大な量のベクターデータと予期せぬトラフィックの急増を管理するための弾力的なスケーリング機能を提供し、より高速なベクター検索速度を提供し、高いサービス・レベル・アグリーメント（SLA）を保証するソリューションを必要としています」_。
Milvusを提供するZillizの専門家チームとの話し合いの結果、シュレックスのチームはこれらの課題に対処するため、Milvusのフルマネージド版であるZilliz Cloudへの移行を決定しました。Zilliz Cloudは現在、シュレックスの2つの中核サービスを支えている：VOCレビュー分析とインテリジェントな顧客サービスである。
Zilliz CloudによるVOCレビュー分析の強化
Shulexは、その強力なVOCレビュー分析機能により、Amazon商品選択ツールのトップランクとして認められています。Zilliz Cloudを活用することで、シュレックスは膨大な量のAmazonレビューとソーシャルメディアデータをリアルタイムで処理・分析し、ユーザー属性、使用シナリオ、購買動機、製品の強み、改善点など、製品フィードバックに関するインサイトをクライアントに即座に提供します。
VOCレビュー分析システムの仕組み
Shulexは、大規模言語モデル（LLM）とZilliz Cloudのパワーを組み合わせ、サンプルレビューデータベースを作成します。このアプローチにより、新しいレビューやラベル付けされていないレビューを既存のレビューデータと比較して類似性を確認することができ、効率的でスケーラブルなプロセスを実現します。このシステムは次のような主要なステップを踏みます：
1.Zilliz Cloud内にサンプルレビューデータベースを作成する： オリジナルのレビュー、そのベクトル表現、LLMによって生成されたセンチメントラベル（ポジティブまたはネガティブ）を保存するデータベースをZilliz Cloud内に作成する。
2.**詳細なレビュー分析のために、幅広いカテゴリーから特定の製品を選択します。
3.レビューをベクトル埋め込みにエンコード：選択したカテゴリから数万件のレビューをベクトル埋め込みに変換し、Zilliz Cloudに保存します。
4.**GPT-4のようなLLMに選択されたレビューをフィードし、各レビューにセンチメントラベルを割り当てます。これらのラベルはZilliz Cloudに保存され、対応するレビューテキストとマッピングされます。
5.Zilliz Cloudによる意味的類似性検索： Zilliz Cloudは、新規または既存のラベルなしレビューの意味的類似性検索を実行し、サンプルデータベース内の最も意味的に類似したレビューとマッチングさせ、対応するセンチメントラベルを取得します。
6.**システムはZilliz Cloudの分類に基づき、特定の製品属性に関連する顧客のセンチメントを分析し、詳細なレポートを生成します。
シュレックスのVOCレビュー分析におけるZilliz Cloudのメリット
検索レイテンシーを50%削減し、レポート生成を30%高速化:** Zilliz Cloudは、オープンソースのMilvusより5倍以上高速な検索エンジンにより、優れたベクトル類似検索パフォーマンスを提供します。毎秒1,000クエリ（QPS）の高頻度検索に対応し、検索レイテンシを50％削減し、レポート生成速度を30％向上させます。
データ分析コストを50%削減:** Zilliz Cloudは、センチメントラベルを取得するためにすべての商品レビューをLLMに通す必要性を排除します。その代わりに、新しいレビューやラベルのないレビューとサンプルレビューデータベースに保存されているレビューの意味的類似性を比較することで、LLMへの依存を大幅に減らし、データ分析コストを少なくとも50%削減します。
予期せぬトラフィック急増への分単位の対応:** 予期せぬ顧客トラフィックの急増時、特にプロモーション期間中、以前のシステムでは手動でのスケーリングが必要で、最大1時間の待ち時間が発生していました。Zilliz Cloudの弾力的なスケーリング機能により、クラスタは数分以内にスケールインまたはスケールアウトできるようになり、遅延がなくなり、顧客満足度が向上しました。
Zilliz CloudによるRAGベースのVOCチャットボットの構築
シュレックスは、企業や外部のデータを素早くFAQに変換し、わずか2分でプロフェッショナルなカスタマーサービスボットを作成するVOCチャットボットも提供しています。このアプローチにより、運用コストを削減しながら対応効率を高めることができます。
Retrieval Augmented Generation](https://zilliz.com/learn/Retrieval-Augmented-Generation)（RAG）技術で構築されたVOCチャットボットは、大規模言語モデルとベクトルデータベースの力を組み合わせています。公開されているウェブリンクを抽出し、会社のファイル、電子メール、サポートチケットから知識をベクトル埋め込みに埋め込み、Zilliz Cloudに保存します。この方法により、企業固有の知識ベースが作成され、外部メモリでLLMが強化されます。
Zilliz Cloudは、RAG-baseチャットボットが大量のベクトルデータを迅速に処理・検索することを可能にし、リアルタイムの知識検索を容易にします。このチャットボットは、シュレックスのインテリジェントな顧客サービスを確実にサポートし、毎秒90件の問い合わせを処理し、98％以上の安定した想起率を実現しています。現在、VOCチャットボットは全顧客サービスタスクの80%以上を管理しています。
ShulexのCTOであるShengyi Pan氏は、「オープンソースのMilvusベクトル・データベースからフルマネージドのZilliz Cloudに移行して以来、ビジネス・パフォーマンスが大幅に改善されました。運用コストの削減、検索速度の向上、より柔軟なシステムアーキテクチャ、より安定したユーザーエクスペリエンスを実現しています。また、Zilliz Cloudは、問題を迅速かつ効果的に解決するエキスパートによるサポートも提供しています。全体として、Zilliz Cloudのおかげで利便性が向上し、競争力が高まりました。
結論
Zilliz Cloudをシュレックスの業務に統合することは、ゲームチェンジャーであることが証明されました。膨大なデータをより速く、より効率的に処理・分析できるようになったことで、Zilliz CloudはシュレックスのコアサービスであるVOCレビュー分析とインテリジェントな顧客サービスを大幅に強化した。
Zilliz Cloudの高速セマンティック検索におけるパフォーマンス、データ分析コストの50%削減、トラフィック急増への迅速な対応により、シュレックスは市場における競争力を維持することができました。その結果、シュレックスは、運用コストを抑えながら、より迅速かつ効率的に顧客に深い洞察を提供できるようになった。Zilliz Cloudへの移行は、シュレックスのプロセスを合理化し、将来の成長に向けてより堅牢で拡張性の高い基盤を提供しました。
As our business has expanded, the demands on our vector database have increased. We need a solution that minimizes operational costs, offers elastic scaling capabilities to manage vast amounts of vector data and unexpected traffic surges, provides faster vector search speeds, and ensures a high service level agreement (SLA).
Chenhui Li