Verbaflo.aiが会話型AIエージェントとZilliz Cloudで不動産の顧客対応に革命を起こすまで
最大50
MongoDBインフラとのコスト比較
サブ10ミリ秒
パフォーマンス・ブレイクスルー
60+ QPS
成長余地のある生産負荷
優れたマルチテナント・データ
分離と分割
It has saved us cost by at least 25 to 30% on what we were earlier incurring on the vector database, with potential savings reaching up to 40-50% during peak traffic periods.
Rachit Jindal
バーバフローについて
VerbaFloは、世界で最も適応性の高い会話型AIプラットフォームの1つであり、不動産プロフェッショナルの業務管理や顧客との対話方法に革命をもたらしている。同社のAI主導型プラットフォームは、音声、チャット、テキスト、電子メールによるコミュニケーションを単一のインテリジェント・エンジンに統合し、24時間365日、人間に近い会話を提供する。AIを活用した顧客マッチング、ダイナミック・プライシング・エンジン、自動化された物件管理などの高度な機能により、VerbaFloはあらゆる顧客とのやり取りにおいて一貫性、可視性、測定可能なパフォーマンスを実現する。自動車業界への進出計画もあるVerbaFloは、AIを活用したコミュニケーション・ソリューションの業界リーダーとして位置づけられている。
課題：インフラの限界を超えたスケーリング
VerbaFloのAIプラットフォームが不動産業界の顧客に支持されるにつれ、初期のMongoDB Atlasインフラには致命的な限界が現れ始め、顧客体験とビジネス成長の両方が脅かされるようになった。同社は50～60QPSを超えるクエリ負荷で運用を続けており、MongoDBが確実に処理できる範囲を超えていた。
クエリーのレイテンシーは、ユーザーが即座の応答を期待するリアルタイムの会話型AIには遅すぎました。チームはQdrantやPineconeを含む様々なベクターデータベースを実験しましたが、どれも彼らの厳しいパフォーマンス要件を満たすことができませんでした。
「本番環境のQPSが50～60を超える時点でかなり行き詰っていましたが、既存のデータベースのほとんどはそのレベルまでスケールできませんでした。MongoDBアトラスM30やM40でさえ、そこまでスケールできませんでした」と、VerbaFloのシニアAIエンジニア、ラチット・ジンダルは説明する。
課題はパフォーマンスだけにとどまらなかった。VerbaFloは4つの主要な懸念に直面していた：MongoDBのM40クラスタは要件に対して高価すぎるためコスト効率が悪いこと、高同時性のサポートが不十分であること、クエリ時間が短いこと、パーティショニング機能が限られていることです」チームはマルチテナント・アーキテクチャのために高度なデータ分離を必要としていたが、MongoDBは異なるコレクションや環境に対して適切な名前空間分離を提供できなかった。
これらのインフラの制限は、VerbaFloがシームレスでリアルタイムの不動産管理自動化を提供する能力に直接影響を与えていた。積極的な成長を予測し、数四半期以内にエンティティの数を10～20倍に拡大する計画を持っていたため、同社は野心とともに成長できるソリューションを必要としていました。
Zilliz Cloudへの旅
VerbaFloのエンジニアリングチームは、自社のデータベースアーキテクチャがビジネス上の重要な制約になっていることを認識し、Zilliz Cloud（オープンソースのMilvusのマネージドサービス）、Pinecone、Qdrant、ベクター拡張機能付きPostgreSQL、AWS上のセルフホストMilvusなど、ベクターデータベースの代替案を総合的に評価した。
Zillizクラウドは、いくつかの説得力のある理由で明確な勝者として浮上した。Rachit氏は、オンプレミスでMilvusをホスティングした経験があり、その水平および垂直スケーリング機能と内部アーキテクチャに信頼を置いていた。「以前Milvusを使用した経験、スケーラビリティ、水平および垂直スケーリングに関する内部アーキテクチャに基づき、私たちのチームは間違いなくMilvusをデータベースの候補の1つとして検討することになりました。
評価によって、Zilliz Cloudが洗練されたパーティショニングと分離機能を提供し、VerbaFloのマルチテナント要件に完全に合致することが明らかになった。 MongoDBでは「特定のコレクションにインデックスを作成する機能が非常に限られており」、「コレクションを作成する際に適切なデータベースで適切な名前空間を定義する」ことができなかったが、Zilliz Cloudでは適切なデータベースと名前空間が分離され、本番環境、ステージング・システム、顧客向けのAIプレイグラウンドをきれいに分離することができた。
もう一つの決め手は、Zilliz Cloudに組み込まれた再ランキング・アルゴリズムである。カスタムアルゴリズムを開発する代わりに、VerbaFloは重み付け再ランキングとRRF（Reciprocal Rank Fusion）システムをすぐに活用することができた。「Zilliz Cloudには、重み付け再順位付けやRRF再順位付けシステムのような、我々が必要とするユースケースに非常に適した内部アルゴリズムがありました。そのため、SDKを直接使用し、オンザフライで計算することで、クエリ時間を短縮することができました」とRachit氏は説明する。
**Zilliz Cloudは、セマンティッククエリとキーワードベースクエリを組み合わせたハイブリッド検索をネイティブにサポートしており、VerbaFloのクエリ拡張パイプラインと完璧に合致しています。
Zilliz Cloudがリアルタイムの会話型AIエージェントをスケールアップする方法
VerbaFloの以前のMongoDBベースのアーキテクチャは、50～60QPSを超える本番負荷の処理に苦戦し、リアルタイム応答を妨げるボトルネックとなっていた。Zilliz Cloudを基盤とすることで、同社は洗練された会話AIプラットフォームを構築し、現在40,000～50,000以上のエンティティをシームレスなパフォーマンスで処理している。
Zilliz Cloudによる新しいエージェント・アーキテクチャ
VerbaFloのシステムの中核にあるのは、ユーザーの意図を分類し、クエリを専用の処理ノードに誘導するインテリジェント・ルーティング・メカニズムだ。Zilliz Cloudは、重要なRAG（Retrieval-Augmented Generation）ノードを強化し、物件データ、顧客履歴、市場情報から関連するコンテキストを取得して、正確でパーソナライズされた応答を生成します。
VerbaFlo にとって Zilliz Cloud の最も価値ある機能の 1 つは、高度なパーティショニング・システムであり、これにより 2 種類の重要なデータの分離が可能になります：
環境分離：環境分離：AIのプレイグラウンド/ラボ環境と本番コレクション間のクリーンな分離により、お客様は本番運用に影響を与えることなくテストや実験を行うことができます。
パフォーマンスの最適化**：特定のシナリオに基づいてデータを小さなパーティションに分割し、コレクション全体ではなく、限定されたセクションに的を絞ったクエリーを可能にする。
このパーティショニング・アプローチは、彼らがMongoDBで直面したネームスペースの制限に直接対処するもので、"特定のコレクションにインデックスを作成する機能は非常に限られている "し、"コレクションを作成する際に適切なデータベースで適切なネームスペースを定義できない"。
Zilliz Cloudによるハイブリッド検索パイプラインの強化
VerbaFloのシステムは単純なセマンティック検索に依存していない。その代わりに、クエリ拡張パイプラインは、すべてのユーザーリクエストに対してセマンティッククエリとキーワードクエリの両方を作成します。Zilliz Cloudのネイティブなハイブリッド検索機能と組み込みの再ランク付けアルゴリズム（重み付け再ランク付けとRRF）により、優れた結果を提供しながら、カスタム開発の必要性を排除します。
「Zilliz Cloudには、重み付け再順位付けやRRF再順位付けシステムのような、我々が必要とするユースケースに非常に適した特定の内部アルゴリズムがありました。そのため、SDKを直接使用し、オンザフライで計算することで、クエリ時間を短縮することができました」とRachit氏は指摘する。
シームレスな移行：MongoDBの制約からZillizクラウドのパフォーマンスへ
MongoDB AtlasからZilliz Cloudへの移行は、綿密に計画されたデータベース移行が、ビジネスを中断させることなく、重要なパフォーマンスのボトルネックを解決できることを実証しました。
VerbaFloのエンジニアリングチームは、Zilliz Cloudの包括的なドキュメントとSDKリソースを活用し、計画的に移行に取り組みました。この移行では、既存のベクトル埋め込みとメタデータを移行すると同時に、MongoDBではサポートできない新しいパーティショニング戦略を実装しました。
「Zilliz CloudとMilvusのドキュメントは非常に詳細で包括的でした。このようなドキュメントとSDKのドキュメントがあれば、移行はとても簡単でした」とRachit氏は振り返る。
結果と利点
Zilliz Cloudへの移行の影響は、多方面にわたって即座に現れました。
最大50%のコスト削減：VerbaFloは、MongoDB Atlasインフラと比較して、25～30%のコスト削減を即座に達成しました。トラフィックのピーク時には、Zilliz Cloudの効率的な自動スケーリング機能と、本番環境向けの理想的なクラスタ構成により、潜在的なコスト削減効果は40～50%に達する可能性があります。
10ミリ秒以下のパフォーマンスのブレークスルー：クエリのレイテンシが15～20ミリ秒から一貫して10ミリ秒未満に低下しました。この10ミリ秒以下のパフォーマンスにより、音声通話、チャット・ウィジェット、メッセージング・プラットフォームにおいて、真に会話的なAI体験が可能になります。
スケーラビリティの強化：* 現在の50～60 QPSの負荷に対応し、成長のための大きな余地を備えたVerbaFloは、パフォーマンスを低下させることなく積極的なスケーリング計画をサポートするインフラ基盤を手に入れました。
優れたデータ分離とパーティショニング：Zilliz Cloudの高度なパーティショニング機能は、MongoDBでは対応できなかったVerbaFloの複雑なマルチテナント要件を解決し、マルチテナント・アーキテクチャのセキュリティとパフォーマンスの両方を大幅に向上させた。
コンプライアンスとセキュリティ: Zilliz CloudのGDPRコンプライアンスとセキュリティ認証により、VerbaFloは英国およびEU地域の顧客に自信を持ってサービスを提供することができ、同社の国際的な拡大計画をサポートしています。
システムの信頼性の向上：99.5%以上の稼働率を誇るZilliz Cloudは、VerbaFloの24時間365日のサービス体制をサポートします。
シームレスなエコシステム統合：Zilliz Cloudのクラウドインフラプロバイダーとのネイティブな互換性により、VerbaFloはホスティングとデプロイメントにECS、EKS、S3バケットを含むAWSサービスを活用することができ、Google Cloudと様々なAIサービスプロバイダーにまたがるマルチクラウド戦略をサポートします。
今後の計画業界を超えたAIイノベーションの拡大
インフラの課題を解決したVerbaFloは、多方面にわたる野心的な拡大計画を推進している。同社は事業体数の大幅な増加を見込んでおり、トラフィックが増加し、AIプレイグラウンド機能により多くの顧客を取り込むにつれて、今後数四半期以内に10～20倍に拡大すると見込んでいる。
「チームは、既存のフローを開発、最適化し、新しいフローをシステム内部に実装する絶え間ない段階にあります」とラチットは説明する。「将来的には、Zilliz Cloudを活用して、我々が計画しているユースケースを実現したいと考えています。
さらに重要なのは、Zilliz Cloudが提供する強固な基盤によって、まったく新しい業種の開拓が可能になったことだ。VerbaFloは、不動産分野で成功を収めたのと同じ会話型AI機能を活用して、自動車業界や製薬業界向けのAIエージェント・アーキテクチャを積極的に開発している。
この拡張を可能にする技術的能力には、Zilliz Cloudの国際的なコンプライアンス基準や規模に応じた信頼性の高いパフォーマンスが含まれ、VerbaFloに現在の市場を超えて考え、複数のセクターにわたる世界的な成長に向けて構築する自信を与えている。
結論
VerbaFloとZilliz Cloudのパートナーシップは、適切なインフラの選択がいかに技術的制約を競争上の優位性に変えるかを実証している。Zillizクラウドで25～30％のコスト削減、10ミリ秒以下のクエリパフォーマンス、堅牢なスケーラビリティを実現したことで、VerbaFloは複数の業界にわたる積極的な成長を遂げることができました。
VerbaFloは、f革新と新市場への拡大を続けており、Zilliz Cloudは、企業が顧客と対話する方法を変革するために必要なスケーラブルな基盤を提供します。
「クエリのレイテンシが10ミリ秒以下というのは、ベクトル・データベースの業界におけるベンチマークです。「コスト削減と信頼性と相まって、Zilliz Cloudは、業界全体で会話型AIを変革するという当社の広範なビジョンの戦略的実現手段となっています。
The sub-10 millisecond latency for queries is quite the benchmark in the industry for vector databases. Combined with the cost savings and reliability, Zilliz Cloud has become a strategic enabler for our broader vision of transforming conversational AI across industries.
Rachit Jindal