Exa、Zilliz CloudでAIエージェント向けエンティティ検索エンジンを構築
検索レイテンシ <200ms
Exaのニューラル検索レイテンシがZillizのハイブリッド検索により数秒から200ミリ秒未満に短縮されました
高い信頼性
運用インシデントをほぼゼロに抑え、エンジニアリングの時間をプロダクト開発に充てられるようにする
スキーマ変更におけるゼロダウンタイム
インデックスを再構築したりコレクションをオフラインにしたりすることなく、新しいフィルタリング可能なフィールドとメタデータを追加できます
We believe AI agents will become a fundamental interface for how people work, learn, and make decisions, and that only happens if those systems can access real-world information with speed, precision, and trust. That’s what we’re building at Exa. Aside from web search, Exa also operates entity search, and Zilliz Cloud has been an important part of that journey, giving us the retrieval performance and operational simplicity we need to scale our entity search product quickly and confidently.
Jeffrey Wang
AIエージェント向け検索はWeb検索の自然な拡張のように聞こえますが、実際には異なるプロダクト基準が求められます。エージェントに必要なのは単なるリンクではありません。音声インタラクションから深いリサーチタスクまで、実際のワークフローを支えられるだけの速さで提供される、根拠のある最新の構造化情報が必要です。
Exa は、AI向けにまさにそのような検索エンジンを構築しています。同社のSearch APIは、音声エージェント向けのインスタント検索から、構造化された出力やエンリッチメントを伴うより深いリサーチまで、幅広いコンピュートレイテンシにわたって、高品質かつ低レイテンシのWeb検索へのアクセスを開発者に提供します。Exaは、CursorやLovableのようなAIネイティブスタートアップからAWSのようなエンタープライズ企業まで、幅広い顧客にサービスを提供しており、いずれもエージェント駆動型ワークフローのために、根拠のある現実世界のコンテキストに依存しています。
Exaが企業、人、コードのエンティティ検索へと拡大する中で、より専門的なインフラ課題に直面しました。すなわち、コア検索エンジンへのエンジニアリングフォーカスをそらすことなく、ハイブリッド検索、豊富なメタデータフィルタリング、頻繁な更新、ミリ秒レベルのレイテンシをどのようにサポートするかという課題です。以下のストーリーで Zilliz Cloud（フルマネージドMilvus）が果たすのは、まさにその具体的な役割です。
| 200msの低い検索レイテンシ | 高密度ベクトル、疎ベクトル、RRF再ランキング、メタデータフィルタを単一のAPI呼び出しで組み合わせるハイブリッド検索。Exa Instantはニューラル検索のレイテンシを数秒から200ms未満に短縮 |
| 高い信頼性 | マネージドサービスはほぼゼロの運用インシデントを実現し、エンジニアリング時間をプロダクト作業に振り向けられるようにした |
| スキーマ変更時のゼロダウンタイム | インデックスを再構築したりコレクションをオフラインにしたりすることなく、新しいフィルタ可能フィールドやメタデータを追加可能 |
以下は、Exaのプロダクトミッション、一般的なWeb検索からエンティティ検索への移行、そしてZilliz Cloudがその進化にどのように適合するかについて、Exaと交わした会話のスクリプトです。
1. Exaのプロダクトの約束：AIエージェントのための根拠ある検索
まず、Exaが構築しているプロダクトとサービスを提供している顧客について説明してもらいました。なぜなら、その文脈が、検索品質とレイテンシが同社にとって二次的な関心事ではない理由を説明しているからです。
Q: Exaはどのようなプロダクトまたはサービスを提供しており、主な顧客は誰ですか？
Exa: ExaはAIのための検索エンジンを構築しています。私たちは、開発者が自分たちのエージェント全体で高品質かつ低レイテンシのWeb検索にアクセスできるSearch APIを構築しました。当社のAPIは、音声エージェント向けのインスタント（<200ms）検索から、構造化出力やエンリッチメントを伴う深いリサーチまで、コンピュートレイテンシのスペクトラム全体にわたる検索を提供します。私たちはコード検索、低レイテンシ、人・企業検索を専門としており、トークン効率を確保するハイライト機能も備えています。
私たちはレガシー検索エンジンに依存するのではなく、新しいニューラルアーキテクチャを用いて検索エンジンをゼロから構築しました。自社で検索エンジンを構築するには、埋め込みモデルやリランカーのトレーニングから、数十億のWebページのクロールとインデックス作成まで、あらゆることが必要になります。このエンドツーエンドの所有により、品質と速度のためにスタックのあらゆるレイヤーを最適化できます。たとえば最近のExa Instantのローンチでは、<200msの検索レイテンシを実現しました。これは、ニューラル検索をAIエージェントのリアルタイムプリミティブとして実用可能にする大きな改善です。品質、速度、カスタマイズ性の組み合わせが重要な差別化要因です。
当社の顧客は、CursorやLovableのようなAIネイティブ企業から大企業まで多岐にわたります。エージェントを使ってナレッジワークを推進するどの企業も、現実世界に応答するための根拠あるコンテキストを必要としています。そのため、企業規模にかかわらず、私たちはエージェント駆動型ワークフローを重視するチームと協働しています。
2. 転換点：Web検索からエンティティ検索へ
このプロダクト文脈は、Exaのデータベースに関する意思決定が、コア検索スタックを置き換えるためのものではなかった理由も明らかにします。ベクトル検索はすでに同社の基盤でした。本当の変化は、エンティティ検索が新たな制約をもたらしたときに生じました。
Q: 製品開発のどの時点で、ベクトルデータベースが必要だと気づきましたか？
Exa: 私たちの検索エンジンはエンベディングとベクトル類似度の上に構築されていたため、ベクトル検索はExaの技術スタックに不可欠な一部でした。エンティティ検索へと拡張する中で、現在提供している構造化出力やエンリッチメントに対応するため、ベクトルデータベース基盤を更新する必要がありました。
エンティティ検索には、リッチなメタデータスキーマ、頻繁なデータ更新、そしてマネージドなスケーラビリティが必要です。私たちの内部データベースはこれらの更新された制約に最適化されていましたが、このエンティティ検索レイヤー全体でのイテレーション速度をさらに向上させたいと考え、Zilliz Cloudを使用することにしました。中核となるWebインデックスは引き続き内部基盤上にあり、Zilliz Cloudはこのエンティティ検索レイヤーを強化するために特別に導入されました。
Q: 以前のソリューションでは、どのような課題や要件に直面していましたか？
Exa: エンティティ検索の構築を始めたとき、要件は大きく異なっていました。密ベクトルと疎ベクトルを組み合わせるハイブリッド検索、リッチで頻繁に変更されるメタデータスキーマ、そして複数の専門的なコレクションを管理する運用上の負担です。私たちは、エンジニアが迅速にイテレーションでき、スケールしても高速なレスポンスを支えられるマネージドソリューションを探していました。
Q: ベクトル検索／ベクトルデータベースで解決している具体的なユースケースは何ですか？
Exa: 現在、Zilliz Cloudは私たちのエンティティ検索レイヤーを支えており、エンティティコレクション全体のプライマリインデックスおよび最新性キャッシュの両方として機能しています。一方、メインのWebインデックスは別の内部基盤上で稼働しています。各バーティカルでは、頻繁に更新されるデータに対して低レイテンシのフィルタ付き検索が求められます。Zillizのマネージドハイブリッド検索とホットアップサート機能により、インデックスを再構築することなく結果を最新に保てます。これらのバーティカルは私たちのSearch APIに直接供給されるため、速度と再現率はビジネス上極めて重要です。
3. Exaがマネージドなベクトル検索レイヤーに求めていたもの
エンティティ検索が独立したレイヤーになると、評価の焦点はまさに適合性にありました。マネージドシステムが、チームの速度を落としたりアーキテクチャ上の妥協を強いたりすることなく、Exaの検索品質基準を支えられるかどうかです。
Q: Zilliz Cloudを選ぶ前に、どのベクトルデータベースを評価しましたか？評価における主な基準は何でしたか？
Exa: エンティティ検索の構築を始めたとき、要件は大きく異なっていました。密ベクトルと疎ベクトルを組み合わせるハイブリッド検索、リッチで頻繁に変更されるメタデータスキーマ、そして複数の専門的なコレクションを管理する運用上の負担です。私たちは、エンジニアが迅速にイテレーションでき、スケールしても高速なレスポンスを支えられるマネージドソリューションを探していました。
私たちはこの領域の主要なベクトルデータベースオプションをすべて調査しました。主な評価基準は次のとおりです。
ハイブリッド検索のサポート: 密なセマンティックベクトルと疎なキーワードベクトルを単一クエリで組み合わせるネイティブ機能、および組み込みのリランキング
クエリレイテンシ: 数千万のベクトルを含むコレクション全体で一貫して高速なレスポンス
リッチなメタデータフィルタリング: 検索性能を低下させることなく、構造化フィールドに対して複雑なフィルタを適用できること
スケーラビリティ: 新しいバーティカルやデータソースを追加する際のシームレスなスケーリング
Zilliz Cloudはすべての条件を満たしており、ハイブリッド検索ベンチマークでの性能は明らかに他をリードしていました。
Q: Zilliz Cloud / Milvusについて最初にどのように知りましたか？
Exa: Milvusについては以前から認識していました。最も成熟したオープンソースのベクトルデータベースの1つであり、ベクトル検索を日々扱うチームとして見逃すことは難しい存在です。エンティティ検索基盤の検討を始めたとき、Zilliz CloudはMilvus上に構築された自然なマネージドサービスとして際立っており、エンタープライズグレードの性能強化も備えていました。
Q: 評価中にZilliz Cloudで際立っていた点は何ですか？Zilliz Cloudを選ぶ決め手となった主な理由は何でしたか？
Exa: すぐにいくつかの点が際立ちました。
ネイティブなハイブリッド検索: Zilliz Cloud は、組み込みの再ランキング戦略（RRF、重み付け）により、1 回の API 呼び出しで dense ベクトル検索と sparse ベクトル検索をサポートします。これは複数の競合にとって厳格な要件でしたが、私たちはネイティブには対応していませんでした。
スケール時のパフォーマンス - 同社の Cardinal インデックスエンジンは、私たちのコレクションが数億ベクトル規模に成長しても、一貫して高速なクエリ時間を実現します。
成熟したフィルタリング - パフォーマンスの急激な低下なしに、1 回のリクエストでベクトル検索と複雑なメタデータフィルターを組み合わせられる能力。
導入の決め手となった要因について:
速度 - Zilliz Cloud のクエリレイテンシは、本番検索に対する私たちの厳しい要件を満たしました。私たちのユーザーはミリ秒単位で結果が返ることを期待しており、Zilliz はこれをサポートできます。
ハイブリッド検索機能 - dense なセマンティック検索と sparse な BM25 キーワードマッチングを融合し、1 回の API 呼び出しで Reciprocal Rank Fusion (RRF) 再ランキングを適用できることは、検索品質にとって重要でした。
運用のシンプルさ - フルマネージドサービスである Zilliz Cloud により、私たちのチームはより優れた検索体験の構築に集中し、スケールするベクトルデータベースインフラストラクチャの改善を迅速に反復できます。
4. Zilliz と Exa のアーキテクチャがどのように連携するか
Q: Zilliz Cloud はあなた方のアーキテクチャにどのように組み込まれていますか？
Exa: 私たちのエンティティ検索アーキテクチャは、取り込み、検索、API の 3 つのレイヤーで構成されています。
取り込みでは、独自の ML パイプラインを使用してエンティティデータをエンリッチし、埋め込みを生成したうえで、dense ベクトルと sparse ベクトルを Zilliz Cloud に upsert します。
検索では、バックエンドがユーザークエリから埋め込みを生成し、Zilliz Cloud にハイブリッド検索リクエストを送信して、セマンティックマッチングとキーワードマッチングを RRF 再ランキングで組み合わせます。
API レイヤーでは、結果に構造化メタデータを付加し、Search API と Websets プロダクトを通じて提供します。Zilliz Cloud はこのワークフローにおける取得の中核に位置しています。すべてのエンティティベクトルとメタデータを保存し、低レイテンシ検索を処理します。私たちの主要な Web インデックスは、別の社内インフラストラクチャ上で構築・管理されています。
Q: Zilliz Cloud または Milvus を使用したチームの経験はいかがでしたか？
Exa: API は直感的で、ドキュメントは充実しており、システムは本番環境で信頼性が高いです。Milvus の概念である collections、indexes、search params が、私たちがすでにベクトル検索について考えている方法によく対応しているため、学習曲線は最小限でした。Zilliz Cloud がマネージドであることにより、対処すべき運用上のインシデントはごくわずかでした。
Q: Zilliz Cloud を AWS やその他のクラウドサービスと統合した経験はいかがでしたか？
Exa: シームレスでした。私たちは主に AWS 上でインフラストラクチャを運用しており、Zilliz Cloud はその AWS ネイティブなスタックにきれいに適合します。AWS 上で稼働しているため、私たちの EKS サービスと Zilliz Cloud 間のネットワークレイテンシは最小限です。
5. 導入後に変わったこと
Q: 確認できた上位 3 つのメリットは何ですか？測定可能な指標や改善を共有できますか？
Exa: 最初のメリットは開発者の速度でした。マネージドサービスとクリーンな API により、私たちのチームは追加のインフラストラクチャを構築または管理することなく、新しいエンティティ検索バーティカルを迅速に出荷できました。
それに加えて、これらのバーティカルデータセットが進化する中で、スキーマの柔軟性と適応性が非常に重要であり、autoindex による検索品質も実際に価値を発揮しています。
Q: Zilliz Cloud のどの機能が最も価値があると感じますか？
Exa: 日々の利用で特に際立っているものが 2 つあります。
パフォーマンスの急激な低下がないフィルタリング: ベクトル検索の上に複雑なメタデータフィルターを重ねても、レイテンシへの影響はごくわずかです。
高速なバーティカル立ち上げ: マネージドなスケーリングにより、新しいインフラストラクチャを毎回立ち上げることなく、新しい検索バーティカルを迅速に出荷できます。
Zilliz Cloud を始める
Zillizは、世界で最も人気のあるオープンソースのベクトルデータベースであるMilvusと、Milvus上に構築されたフルマネージドのベクトルデータベースサービスであるZilliz Cloudの開発元です。Zilliz Cloudにより、組織は高性能なベクトル検索、ハイブリッド検索、エンタープライズグレードのセキュリティとコンプライアンスを備えた、本番環境対応のAIアプリケーションを構築できます。
- ビジネス用メールアドレスで登録すると$100分のクレジットが付与され、Zilliz Cloudを無料で始める