OpenEvidence、Zilliz Cloudで医療AIを強化
< 10ミリ秒
高い再現率での検索レイテンシ
4,000 QPS
ピーク負荷時のベクトル検索トラフィック
800,000以上
認証済みの臨床医に質の高い回答を提供
2,500万以上
毎月のご相談
We believe AI is becoming a meaningful support layer for physicians, but the experience has to feel trustworthy, reliable, and seamless. Building that kind of product requires a strong foundation behind the scenes. Zilliz Cloud has helped us create that foundation as we continue to grow and serve hundreds of thousands of clinicians.
Jagath Kumar
OpenEvidenceについて
OpenEvidenceは、10,000以上の病院および医療システムで、800,000人を超える認証済み臨床医に利用されている、AI搭載の臨床意思決定ツールです。このプラットフォームは、New England Journal of Medicine、JAMA、PubMed、FDA、CDCなどの主要な医学情報源から、エビデンスに基づく回答を、医師がまさに必要とする瞬間に提供します。
2026年3月だけで、OpenEvidenceは2,500万件の臨床相談を支援し、その数は今も急速に増え続けています。これは24時間体制で、およそ0.103秒に1件に相当します。その規模では、検索レイヤーは単なるインフラではありません。患者ケアの一部です。
| < 10ms | 4,000 QPS | 800,000+ | 25M+ | 99%+ |
|---|---|---|---|---|
| 高い再現率での検索レイテンシ | ピーク負荷時のベクトル検索トラフィック | 質の高い回答を提供された認証済み臨床医 | 毎月の相談件数 | 保証された検索再現率 |
課題
臨床AIプラットフォームとして、OpenEvidenceは一般的なコンシューマー向けアプリケーションをはるかに超える要件の下で運用されています。このシステムは、異種の医学コーパスから正確で低レイテンシの回答を提供し、ピーク使用時の高い同時実行性に対応し、機密性の高い医療データの保存と送信について厳格なHIPAAコンプライアンスを維持する必要があります。
Zilliz Cloud以前、OpenEvidenceはベクトル検索分野で定評のあるリーダーを利用していましたが、スケール、パフォーマンス、運用上の柔軟性に関する要件が高まるにつれ、Zilliz Cloudへ移行しました。
| レイテンシ | クエリレイテンシは、医師がリアルタイムで利用する製品に求められる10ms未満の要件を安定して満たすことができませんでした。 |
|---|---|
| スケール | トラフィックは数千QPSに達し、既存システムはパフォーマンス低下なしにスケールできませんでした。 |
| 検索品質 | 大きなレイテンシのトレードオフなしに、高い再現率をスケール時に維持することができず、これは臨床現場ではリスクとなります。 |
| コンプライアンスと運用 | HIPAAコンプライアンスと、インデックス再構築による中断のない安定した取り込みが必要でしたが、以前のシステムはいずれのサポートにも苦戦していました。 |
Zilliz Cloudが選ばれた理由
代替案を評価した結果、OpenEvidenceはMilvus上に構築されたフルマネージドのベクトルデータベースサービスであるZilliz Cloudを選択しました。決定の要因となったのは5つです。
- 高QPSワークロードに対応する水平スケーラビリティ: Zilliz Cloudは、OpenEvidenceのミッションクリティカルなワークロードを4,000 QPSで処理し、10,000以上の病院にわたる800,000人超の認証済み臨床医にサービスを提供しています。
- 超低レイテンシ: 直接比較ベンチマークにより、Zilliz Cloudは4,000 QPSを10ms @P50レイテンシおよび50ms @P99で提供できることが示され、同社の現行ベクトルデータベースを大きく上回るパフォーマンスを実現しました。
- スケール時の検索品質: Zilliz Cloudは速度を犠牲にすることなく高い再現率精度を維持します。OpenEvidenceは、エビデンスの一致を見逃すことが単なる製品上の失敗ではなく、患者安全上のリスクとなる臨床的に信頼できる検索の提供を目指しています。高度な量子化と洗練された戦略により、Zilliz Cloudは積極的に圧縮されたインデックスで99%の再現率を達成し、高QPS・低レイテンシのワークロードに対応します。これは、精度を速度と引き換えにする競合とは異なります。
- すぐに使えるHIPAA対応: Zilliz CloudはHIPAA対応済みです。GCP Private Service Connectを使用することで、OpenEvidenceはZilliz Cloudへの完全にプライベートなデータ経路を確立し、HIPAAコンプライアンスを維持しました。
- フルマネージド運用と卓越した開発者体験: インフラのスケーリング、高可用性、メンテナンスはZilliz Cloudによって完全に管理されます。24時間365日のオンコールチームが、本番環境の信頼性を常時確保します。Business Criticalプランでは、OpenEvidenceはパフォーマンスチューニング、スキーマ設計、本番環境のベストプラクティスについて専任エンジニアリングサポートを受けています。
結果とメリット
10ミリ秒未満のレイテンシと99%以上のリコール
Zilliz Cloudは、99%以上のリコールで10ミリ秒未満のレイテンシを一貫して実現します。各ユーザークエリは複数のベクトル検索をトリガーしますが、応答は臨床医にレイテンシが見えないほど高速に返されます。
本番環境の臨床ワークロードに対応するスケーラビリティ
このシステムは約4,000 QPSをサポートし、800,000人以上の臨床医にサービスを提供しています。この規模のスケールは、劣化することなく月間数百万件の診療相談を処理するために必要です。
HIPAA準拠のデプロイメント
GCP Private Service Connectを使用することで、OpenEvidenceはアプリケーション層とデータベース層の間に完全にプライベートなデータ経路を維持し、機密性の高い医療データに関するHIPAA要件を満たしています。
運用オーバーヘッドの削減
Zilliz Cloudがスケーリング、可用性、メンテナンスを完全に管理することで、エンジニアリングチームはインフラストラクチャではなく製品開発に集中できます。