A OpenEvidence impulsiona a IA médica com o Zilliz Cloud
< 10 ms
Latência de Busca com Alta Revocação
4.000 QPS
Tráfego de Busca Vetorial em Carga Máxima
Mais de 800.000
Clínicos Verificados Atendidos com Respostas de Qualidade
Mais de 25 milhões
Consultas Todos os Meses
We believe AI is becoming a meaningful support layer for physicians, but the experience has to feel trustworthy, reliable, and seamless. Building that kind of product requires a strong foundation behind the scenes. Zilliz Cloud has helped us create that foundation as we continue to grow and serve hundreds of thousands of clinicians.
Jagath Kumar
Sobre a OpenEvidence
OpenEvidence é uma ferramenta de decisão clínica com tecnologia de IA usada por mais de 800.000 clínicos verificados em mais de 10.000 hospitais e sistemas de saúde. A plataforma fornece respostas baseadas em evidências a partir de fontes médicas líderes, incluindo o New England Journal of Medicine, JAMA, PubMed, a FDA e o CDC, no exato momento em que um médico precisa delas.
Somente em março de 2026, a OpenEvidence apoiou 25 milhões de consultas clínicas, e o número ainda está crescendo rapidamente. Isso equivale a aproximadamente uma a cada 0,103 segundos, 24 horas por dia. Nessa escala, a camada de recuperação não é apenas infraestrutura. Ela faz parte do cuidado ao paciente.
| < 10ms | 4.000 QPS | 800.000+ | 25M+ | 99%+ |
|---|---|---|---|---|
| Latência de busca com alto recall | Tráfego de busca vetorial em carga máxima | Clínicos verificados atendidos com respostas de qualidade | Consultas todos os meses | Recall de busca garantido |
O Desafio
Como uma plataforma de IA clínica, a OpenEvidence opera sob requisitos que vão muito além dos de uma aplicação típica de consumo. O sistema deve fornecer respostas precisas e de baixa latência a partir de corpora médicos heterogêneos, lidar com alta concorrência durante picos de uso e manter conformidade rigorosa com a HIPAA para o armazenamento e a transmissão de dados médicos sensíveis.
Antes da Zilliz Cloud, a OpenEvidence usava uma líder estabelecida em busca vetorial, mas depois migrou para a Zilliz Cloud à medida que seus requisitos de escala, desempenho e flexibilidade operacional aumentaram.
| Latência | A latência das consultas não conseguia atender de forma confiável ao requisito de menos de 10ms para um produto em tempo real voltado a médicos. |
|---|---|
| Escala | O tráfego alcançou milhares de QPS, e o sistema existente não conseguia escalar sem degradação de desempenho. |
| Qualidade de Busca | Alto recall não podia ser mantido em escala sem compromissos significativos de latência, o que é arriscado em ambientes clínicos. |
| Conformidade e Operações | Exigia conformidade com a HIPAA e ingestão estável sem interrupções por reconstrução de índice, ambos os quais o sistema anterior tinha dificuldade para suportar. |
Por que Zilliz Cloud
Após avaliar alternativas, a OpenEvidence escolheu a Zilliz Cloud - o serviço de banco de dados vetorial totalmente gerenciado construído sobre o Milvus. Cinco fatores impulsionaram a decisão:
- Escalável horizontalmente para carga de trabalho de alto QPS: A Zilliz Cloud lida com a carga de trabalho crítica da OpenEvidence a 4.000 QPS, atendendo mais de 800.000 clínicos verificados em mais de 10.000 hospitais.
- Latência ultrabaixa: Benchmarks comparativos mostraram que a Zilliz Cloud consegue atender 4.000 QPS com latência de 10ms @P50 e 50ms @P99, entregando desempenho significativamente melhor do que o banco de dados vetorial atual deles.
- Qualidade de Busca em Escala: A Zilliz Cloud mantém alta precisão de recall sem sacrificar velocidade. A OpenEvidence busca oferecer recuperação clinicamente confiável, na qual uma correspondência de evidência perdida não é apenas uma falha do produto, é um risco à segurança do paciente. Com quantização sofisticada e estratégia refinada, a Zilliz Cloud alcança 99% de recall com um índice agressivamente comprimido para atender carga de trabalho de alto QPS e baixa latência, diferentemente dos concorrentes que trocam precisão por velocidade.
- Pronta para HIPAA de Fábrica: A Zilliz Cloud é pronta para HIPAA. Usando o GCP Private Service Connect, a OpenEvidence estabeleceu um caminho de dados totalmente privado para a Zilliz Cloud e manteve a conformidade com a HIPAA.
- Operações Totalmente Gerenciadas e Experiência de Desenvolvedor Imbatível: Escalabilidade de infraestrutura, alta disponibilidade e manutenção são totalmente gerenciadas pela Zilliz Cloud. Uma equipe de plantão 24/7 garante confiabilidade de produção 24 horas por dia. No plano Business Critical, a OpenEvidence recebe suporte de engenharia dedicado para ajuste de desempenho, design de schema e melhores práticas de produção.
Resultados e Benefícios
Latência abaixo de 10 ms com mais de 99% de recall
A Zilliz Cloud oferece consistentemente latência abaixo de 10 ms com mais de 99% de recall. Cada consulta do usuário aciona várias buscas vetoriais, mas as respostas retornam rápido o suficiente para que a latência não seja perceptível aos clínicos.
Escala para cargas de trabalho clínicas em produção
O sistema oferece suporte a aproximadamente 4.000 QPS e atende a mais de 800.000 clínicos. Esse nível de escala é necessário para lidar com milhões de consultas por mês sem degradação.
Implantação em conformidade com a HIPAA
Usando o GCP Private Service Connect, a OpenEvidence mantém um caminho de dados totalmente privado entre as camadas de aplicação e banco de dados, atendendo aos requisitos da HIPAA para dados médicos sensíveis.
Redução da sobrecarga operacional
Com a Zilliz Cloud gerenciando totalmente escalabilidade, disponibilidade e manutenção, a equipe de engenharia pode se concentrar no desenvolvimento de produtos em vez de infraestrutura.