Zilliz Cloud, Arm Neoverse 기반 AWS Graviton으로 더 나은 성능과 더 낮은 비용 제공
AI의 기하급수적인 성장을 지원하기 위해 클라우드 인프라가 발전함에 따라, Zilliz Cloud —Milvus 기반으로 구축된 완전 관리형 벡터 데이터베이스 —는 Arm Neoverse 기반 CPU를 활용하여 엔터프라이즈 규모 AI 워크로드에 탁월한 비용 효율성과 성능을 제공합니다. 이 블로그에서는 Zilliz Cloud가 컴퓨팅 집약적 워크로드를 위해 x86에서 Arm CPU로 전환하여 운영 비용을 절감하고, RAG 및 멀티모달 검색과 같은 미션 크리티컬 AI 워크로드를 위한 10억 규모 벡터 검색을 가능하게 한 방법을 살펴봅니다.
Zilliz Cloud: 프로덕션 워크로드를 위한 완전 관리형 벡터 데이터베이스
Zilliz Cloud는 프로덕션 환경의 AI 애플리케이션을 위해 설계된 완전 관리형 벡터 데이터베이스로, 낮은 비용으로 대규모 벡터 검색을 제공합니다. 오픈소스 Milvus를 기반으로 구축되었으며, 비정형 데이터(이미지, 텍스트, 오디오) 전반에서 최대 1,000억 개의 벡터를 지원하고 20ms 미만의 지연 시간으로 벡터 유사도 검색을 수행하므로 RAG, AI Agents, 시각 검색, 추천 시스템, 이상 탐지와 같은 애플리케이션에 이상적입니다. Zilliz Cloud의 주요 기능에는 수동 튜닝 없이 높은 검색 정확도를 위해 최적의 인덱싱 전략을 동적으로 선택하는 AutoIndex, 오픈소스 Milvus보다 10배 빠른 검색을 구현하는 Cardinal indexing engine, 더 나은 결과를 위해 dense vector search와 full-text search를 결합하는 하이브리드 검색 지원이 포함됩니다.
Zilliz Cloud의 핵심 이점
고성능: 수천 QPS로 10억 규모의 벡터 데이터를 제공할 수 있습니다. 지연 시간, 정확도, 비용의 균형을 달성하기 위한 유연한 클러스터 유형 선택
확장성: 분산형 클라우드 네이티브 아키텍처를 통해 최대 1,000억 개의 벡터를 처리하도록 수평 확장
비용 효율성: RaBitQ binary quantization, 벡터 인덱스 최적화, 계층형 스토리지를 통해 인프라 비용 70% 절감
사용 편의성: AutoIndex와 완전 관리형 서비스를 통해 배포 및 운영 간소화
벡터 데이터베이스 이해하기
벡터 데이터베이스는 임베딩 모델이 생성한 고차원 벡터를 저장하는 데 특화되어 있습니다. 이러한 벡터는 근사 최근접 이웃 검색을 통한 시맨틱 검색을 가능하게 하며, 이는 자연어 처리, 컴퓨터 비전, 추천 시스템의 AI 워크플로에 매우 중요합니다. 실시간 인덱싱과 멀티모달 쿼리를 처리함으로써 벡터 데이터베이스는 비정형 데이터를 효율적으로 관리하는 과제를 해결합니다. Zilliz Cloud는 이러한 기능을 활용하여 20ms 미만의 지연 시간으로 AI 애플리케이션을 구동하고, 프로덕션 워크로드에 높은 성능을 보장합니다.
Milvus의 역할
GitHub에서 36K+ stars를 보유한 가장 인기 있는 오픈소스 벡터 데이터베이스인 Milvus는 확장 가능한 클라우드 네이티브 아키텍처를 통해 Zilliz Cloud의 기반이 됩니다. 분산 설계를 통해 Zilliz Cloud는 낮은 지연 시간을 유지하면서 수십억 개의 벡터 전반에서 수평 확장할 수 있으며, 방대한 데이터셋을 효율적으로 처리할 수 있습니다.
Milvus 2.3부터 Arm CPU 지원이 Arm64용 공식 Docker 이미지와 함께 추가되어, 비용 효율적이고 에너지 효율적인 플랫폼에서 설치와 배포가 간소화되었습니다. Arm CPU에서 Milvus를 실행하면 기존 x86 대비 20%의 성능 향상을 제공하여, 빠른 벡터 검색 및 검색 결과 반환에 의존하는 애플리케이션에서 더 빠른 쿼리를 가능하게 합니다.
Arm 기반 CPU로의 여정
Zilliz Cloud가 Arm 기반 AWS Graviton3 프로세서를 도입한 것은 AI 워크로드의 성능과 비용 효율성 측면에서 전략적 도약을 의미합니다. Arm Neoverse 아키텍처로 구동되는 AWS Graviton3 프로세서는 SVE 및 BFloat16 명령어 지원을 활용하여 뛰어난 성능과 효율성을 제공합니다. 이러한 아키텍처 개선에는 더 넓은 벡터 유닛과 향상된 소프트웨어 스택도 포함되어 있어, Graviton3는 높은 처리량의 벡터 연산과 실시간 처리가 필요한 의미론적 검색 및 RAG 파이프라인과 같은 GenAI 작업에 이상적인 선택입니다.
비용은 기업에서 대규모 AI 검색을 도입하는 데 있어 주요 장벽입니다. 이를 해결하기 위해 Zilliz Cloud는 비용을 크게 절감하고 효율성을 개선하는 수많은 엔지니어링 최적화를 구현하여, 10억 규모에서도 고객이 벡터 검색에 더 쉽게 접근할 수 있도록 했습니다.
벡터 연산을 위한 고급 연산 능력과 최적화된 명령어 설계를 파악한 이후, Zilliz Cloud 팀은 Arm 및 AWS 팀과 긴밀히 협력하여 연산 집약적인 인덱싱 워크로드를 AWS Graviton3로 마이그레이션해 왔습니다.
AWS Graviton3 프로세서 도입의 가장 주목할 만한 이점 중 하나는 성능과 비용 효율성의 상당한 향상입니다. 구체적으로, Zilliz Cloud는 다음과 같은 결과를 확인했습니다.
인덱스 구축 성능: 인덱스 구축 성능은 x86 구현 대비 50% 증가하여, 검색 시 쿼리 속도를 높이기 위해 데이터 수집 중 수행되는 핵심 작업인 벡터 인덱싱을 크게 가속화했습니다. 이러한 향상은 더 빠른 데이터 처리와 10억 규모 벡터 데이터셋의 더 효율적인 처리를 가능하게 합니다.
검색 작업: 검색 작업은 x86 대비 벤치마크에서 10%의 효율성 향상을 보였으며, 그 결과 더 빠른 쿼리 실행 결과와 더 응답성 높은 데이터 검색을 제공했습니다. 이러한 개선은 대규모 데이터셋을 더 원활하게 탐색할 수 있게 하여, 사용자가 특정 레코드를 빠르게 찾거나 방대한 양의 정보를 탐색할 수 있도록 보장합니다.
성능 향상을 넘어, AWS Graviton3 기반 클라우드 인스턴스 도입은 x86 인스턴스 대비 프로세서의 에너지 효율성과 가격 대비 성능 이점에 힘입어 Zilliz Cloud의 운영 비용을 10% 절감했습니다. 이 업그레이드는 AI 애플리케이션을 위한 고성능, 비용 효율적 솔루션을 제공하려는 Zilliz Cloud의 사명과 일치합니다. AWS Graviton3 프로세서를 활용함으로써 Zilliz Cloud는 총소유비용을 줄이는 동시에 까다로운 GenAI 워크로드를 처리하는 역량을 강화합니다.
"AWS Graviton의 Arm Neoverse 기반 아키텍처는 프로덕션 환경의 초대규모 벡터 검색을 위한 비용 효율적이고 에너지 효율적인 솔루션을 제공하여, 기업이 성능을 저하시키지 않고 AI 검색 도입을 확대할 수 있도록 보장합니다."라고 Zilliz의 엔지니어링 부사장인 James Luan이 말했습니다. "Arm의 혁신적인 설계를 통합함으로써 Zilliz Cloud는 경쟁력을 유지하는 데 필요한 높은 성능을 유지하면서 조직이 AI 애플리케이션을 더 높은 효율성으로 확장할 수 있도록 지원합니다."
결론
Zilliz Cloud의 Arm 기반 AWS Graviton3 프로세서 통합은 핵심 워크로드를 위한 확장성과 비용 최적화 성능을 결합하여 AI 인프라에서 경쟁 우위를 제공합니다. 향상된 컴퓨팅 및 에너지 효율 아키텍처를 활용함으로써, 이 플랫폼은 더 빠른 인덱스 구축, 가속화된 검색 기능, 그리고 인프라 비용 절감을 통해 AI/ML 배포를 가속화합니다. 조직들이 AI 기반 워크로드를 위한 확장 가능하고 비용 효율적인 솔루션을 점점 더 우선시함에 따라, Zilliz Cloud의 고성능, 비용 효율적 컴퓨팅 기술 도입은 혁신적이고 효율적인 클라우드 서비스를 제공하는 선도적 위치를 유지하도록 보장합니다. 이러한 미래 지향적 접근 방식은 고객이 점점 더 복잡하고 진화하는 기술 환경 속에서도 민첩성을 유지하면서 복잡한 데이터 과제를 해결할 수 있도록 지원합니다.
Arm 아키텍처에서 AI 애플리케이션을 한층 강화할 수 있는 실전 검증된 도구, 데모, 단계별 가이드를 보려면 Arm Developer Hub를 방문하세요.
시맨틱 검색을 혁신할 준비가 되셨나요? Arm 기반 서버에서 Zilliz Cloud를 사용해 RAG 기반 애플리케이션을 구축하는 방법에 대한 튜토리얼을 살펴보세요.
Arm에서 효율성을 높이고 성능을 최적화하는 지름길인 Arm Cloud Migration으로 원활하게 마이그레이션하세요.
Jiang ChenJiang is currently Director of Technical GTM at Zilliz. He has years of experience in data infrastructures and cloud security. Before joining Zilliz, he had previously served as a tech lead and product manager at Google, where he led the development of web-scale semantic understanding and search indexing that powers innovative search products such as short video search. He has extensive industry experience handling massive unstructured data and multimedia content retrieval. He has also worked on cloud authorization systems and research on data privacy technologies. Jiang holds a Master's degree in Computer Science from the University of Michigan.
Ashok BhatAshok Bhat is the Senior Product Manager at Arm.
계속 읽기
How to Choose the Best Embedding Model for RAG in 2026: 10 Models Benchmarked
We benchmarked 10 embedding models on cross-modal, cross-lingual, long-document, and dimension compression tasks. See which one fits your RAG pipeline.
Zilliz Cloud Now Available in AWS Europe (Ireland)
Zilliz Cloud launches in AWS eu-west-1 (Ireland) — bringing low-latency vector search, EU data residency, and full GDPR-ready infrastructure to European AI teams. Now live across 30 regions on five cloud providers.
Migrating from S3 Vectors to Zilliz Cloud: Unlocking the Power of Tiered Storage
Learn how Zilliz Cloud bridges cost and performance with tiered storage and enterprise-grade features, and how to migrate data from AWS S3 Vectors to Zilliz Cloud.