Zilliz로 구축한 실제 세계 AI
팀들이 Zilliz와 Milvus를 사용하여 RAG, 검색, 추천 및 AI 에이전트를 프로덕션 환경에 출시하는 방법을 알아보세요. 귀사의 AI 스택에 맞는 스토리를 찾아보세요.
Exa, AI 에이전트를 위한 엔티티 검색 엔진 구축
- Productivity
- Semantic Search
- From Pinecone
- <200ms 검색 지연 시간
- Exa의 신경망 검색 지연 시간이 Zilliz의 하이브리드 검색으로 몇 초에서 200ms 미만으로 감소
- 높은 신뢰성
- 운영 사고를 거의 제로에 가깝게 줄여 엔지니어링 시간을 제품 작업에 투입할 수 있도록 함
- 스키마 변경을 위한 무중단 처리
- 인덱스를 다시 빌드하거나 컬렉션을 오프라인으로 전환하지 않고도 새로운 필터링 가능한 필드와 메타데이터를 추가할 수 있습니다
OpenEvidence, 의료 AI를 강화하다
- Healthcare
- From Pinecone
- From Elasticsearch
- < 10ms
- 높은 재현율을 갖춘 검색 지연 시간
- 4,000 QPS
- 피크 부하 시 벡터 검색 트래픽
- 800,000+
- 검증된 임상의에게 제공되는 양질의 답변
- 2,500만+
- 매월 상담
Filevine: 벡터 검색으로 법률 사건 관리 혁신하기
- Legal
- RAG
- Semantic Search
- From Milvus
- From Qdrant
- 300억 개의 벡터
- 수백만 개의 문서 전반에서 관리됨
- 시맨틱 검색 아키텍처
- 정확한 용어가 다르더라도 문서 전반의 개념을 연결합니다.
- 60~80%
- 관련 데이터 포인트를 소비하고, 소화하고, 식별하는 데 절약된 시간
- 엔터프라이즈급 보안
- Zilliz의 SOC 2 Type 2 인증은 민감한 법률 정보를 처리하는 데 필요한 신뢰를 제공했습니다.
MiniMax가 실시간 AI와 조 단위 중복 제거를 확장하는 방법
- AI Models
- 5,000+ QPS에서 30ms 지연 시간
- 실시간 추천을 위해
- 3–5배 비용 절감
- 학습 데이터 중복 제거 워크플로에서
- LLM 데이터 전처리에서 2배 더 빠르게
- 레거시 MapReduce 시스템과 비교하여
- 페타바이트 규모 데이터 중복 제거
- 네이티브 MinHash + LSH 엔진 사용
Choosing a vector database for ANN search at Reddit
- Media
- Semantic Search
- ~340M
- Milvus 2.4 test vectors
- 100 QPS
- Query load during ingest
- Ingest isolation
- Less query impact during ingest
- Auto rebalance
- When adding replicas
Consensus, 4억 개 이상의 학술 소스를 아우르는 Agentic 학술 검색을 구축하다
- Productivity
- 4억+
- 검색 가능한 학술 자료
- ~45 ms
- 프로덕션에서의 P99 덴스 리트리벌 지연 시간
- 14% 더 높음
- 시맨틱 검색 추가 후 검색 결과의 정밀도
- 4× 더 큼
- 클러스터 크기의 단지 2.5배에 불과한 벡터로, 지연 시간 패널티가 없습니다.
Airtable이 벡터 인프라를 구축하고 확장한 방법
- Productivity
- Semantic Search
- 저지연 쿼리
- 예측 가능한 성능은 사용자 신뢰에 매우 중요합니다
- 높은 처리량의 쓰기
- 베이스는 끊임없이 변하고, 임베딩은 동기화 상태를 유지해야 합니다
- 수평적 확장성
- 시스템은 수백만 개의 독립적인 베이스를 지원해야 합니다
Plaud, 수십억 규모 에이전트 메모리를 구동하다
- Productivity
- RAG
- < 200 ms
- 평균 재현 지연 시간
- 100억+
- 지역별 벡터 청크, 성장 여지 포함
- 며칠 안에
- 수십억 건 규모의 과거 데이터 역채움, 서비스 중단 없이
- 무중단
- 상시 운영 앱에서의 스키마 변경 및 클러스터 업그레이드
메이투안이 100개 이상의 사용 사례를 지원하는 10B 규모 검색 플랫폼을 구축한 방법
- Ecommerce
- 10B+ 벡터
- 프로덕션에서는 Milvus에서 직접 실행합니다.
- 한 컬렉션에 2B+
- 재설계 없이 성장한 가장 큰 단일 워크로드
- P99 8.1 ms
- ~1억 개 벡터, 768차원 벤치마크에서 약 1,000 QPS 및 97% 이상의 재현율(recall)
- 100+ 사용 사례
- 하나의 공유 Milvus 플랫폼에서: RAG, 에이전트 메모리 등
세계 최고 수준의 음악 플랫폼이 1억 개 이상의 노래를 사운드와 가사로 검색하는 방법
- Media
- Multimodal Search
- From Elasticsearch
- 100M+ 트랙
- 전체 카탈로그가 내장되어 있으며, 롱테일을 포함한 검색이 가능합니다.
- ~10 ms P99
- 수십억 개의 오디오 임베딩을 초당 수백 건의 검색으로 매칭합니다.
- 소리와 의미로
- 허밍, 클립, 또는 의역된 가사로 노래를 찾아보세요. 제목만으로 찾는 것이 아니라요.
Bosch, 80% 비용 절감 및 검색 효율 최적화 달성
- Energy
- 80%
- 데이터 수집 비용 절감
- ~140만 달러
- 연간 스토리지 비용 절감
- 밀리초 수준
- 확장 가능한 아키텍처로 수십억 개의 데이터 포인트 검색
Trip.com Group이 전 세계 여행객을 위한 호텔 검색을 원활하게 만드는 방법
- Ecommerce
- 더 스마트한, 의도 기반 검색
- 키워드뿐만 아니라 여행자의 의도까지 이해하는 정확한 다국어 호텔 결과를 제공합니다.
- 더 빠른 혁신, 더 낮은 간접비
- 클러스터 관리 및 확장 작업을 없애 팀이 혁신에 집중할 수 있도록 합니다.
- <100 ms 지연 시간 최적화
- P99.9 응답 시간이 100ms 미만인 초고속 실시간 호텔 검색을 제공합니다.
- 원활한 글로벌 확장성
- 수억 개의 리스팅 전반에서 엔터프라이즈급 안정성과 낮은 지연 시간으로 실시간 검색을 지원합니다.
“Zilliz gave us real-time retrieval for our AI search system at scale with tight latency targets. It freed up engineering cycles and let us focus on improving reasoning on the model side, not managing infrastructure.”
“Zilliz Cloud has helped us create a strong foundation behind the scenes as we continue to grow and serve hundreds of thousands of clinicians.”
“Zilliz helps our teams deliver fast, reliable retrieval across complex legal workflows, so customers can find the context they need when it matters.”
“Milvus and Zilliz make it practical to power fast semantic retrieval across meeting intelligence workflows.”
“Zilliz supports high-scale search experiences where latency and reliability are critical.”
“Zilliz gives product teams a strong retrieval foundation for building AI-native workflows on structured and unstructured data.”
“Zilliz helps us match people with the right opportunities through fast, relevant AI search.”