최고의 벡터 데이터베이스가 더 좋아졌습니다
ChatGPT와 기타 LLMs의 광범위한 도입에 힘입어, 벡터 데이터베이스는 2023년에 인기가 상승했습니다.
많은 Zilliz Cloud 고객이 어떤 형태로든 검색 증강 생성(RAG) 시스템에서 저희 서비스를 사용하고 있지만, 다양한 검색 및 리트리벌 시스템 전반에서도 도입이 이루어지는 것을 보았습니다. 이는 이례적인 일이 아닙니다. 넓게 말해, Zilliz Cloud는 컴퓨터가 텍스트와 이미지부터 은행 거래 및 사용자 행동에 이르기까지 인간이 생성한 데이터를 진정으로 이해할 수 있도록 하는 방법이 되도록 만들어졌습니다.
오늘, 우리는 Zilliz Cloud에 다양한 새로운 기능을 추가함으로써 진화의 다음 단계를 소개했습니다 - 범위 검색, 멀티테넌시 & RBAC, 최대 10배 향상된 검색 및 인덱싱 성능, 그리고 훨씬 더 많은 기능입니다. 하지만 왜 이러한 기능을 도입하기로 결정했을까요? 답은 간단합니다: 사용자들이 요구했기 때문입니다. 그들이 구축하는 애플리케이션과 해결하고 있는 엔지니어링 과제에는 필수 데이터베이스 기능과 다양한 워크로드를 지원하는 목적 맞춤형 벡터 데이터베이스가 필요합니다. 이 글의 나머지 부분에서는 Zilliz Cloud의 새로운 기능이 단지 유용한 것을 넘어, 사용자 애플리케이션의 개발과 성공에 결정적이었던 세 가지 실제 고객 사용 사례를 살펴보겠습니다.
시작해 보겠습니다.
효율적인 자율 에이전트
메모리 - LLM의 컨텍스트 창에 주입되어 과거 정보를 제공하는 텍스트의 조각들 - 는 자율 에이전트(가상 캐릭터)의 가장 중요한 구성 요소 중 하나라고 할 수 있습니다. 컨텍스트 창은 서로 다른 세 가지 이유로 심각하게 제한됩니다: 1) 무한하지 않으며, 2) 긴 컨텍스트는 텍스트 생성을 크게 느리게 하고, 3) 대부분의 긴 컨텍스트 LLM은 컨텍스트 창의 시작과 끝에 있는 정보만 "기억"하는 경향이 있습니다. 벡터 데이터베이스는 이 모든 문제를 해결합니다.
고객 서비스 봇 또는 지원 에이전트를 예로 들어 보겠습니다. 이 애플리케이션에서는 빠른 리트리벌을 가능하게 하기 위해 원본 지식 베이스, 사용자의 모든 프롬프트, 사용자가 업로드한 이미지, 오디오 스니펫, 에이전트의 모든 응답 등 다양한 정보 조각이 Zilliz Cloud에 저장되어야 합니다. 고객이 메시지를 입력할 때마다 지식 베이스와 이전 대화에서 모든 관련 콘텐츠를 검색해야 하므로, 이 워크로드는 초당 엄청난 양의 메시지 데이터가 저장되는 읽기 집약적이면서도 쓰기 집약적인 작업입니다.
이 문제를 더욱 어렵게 만드는 것은 이 고객 서비스 에이전트에 공급되는 데이터가 본질적으로 멀티모달이라는 점입니다. 텍스트 검색만으로는 충분하지 않습니다. Zilliz의 분산 데이터베이스 아키텍처는 이미 대규모로 이를 지원합니다 - 더 높은 읽기 처리량을 위해 쿼리 노드 수를 늘리고, 더 높은 쓰기 처리량을 위해 데이터 노드 수를 늘릴 수 있습니다 - 하지만 새로운 Cardinal 벡터 검색 엔진이 궁극적인 결정 요인이었습니다. Cardinal에는 자체 독점 벡터 인덱스, 머신 코드 수준의 다양한 컴퓨팅 최적화, 캐시 인식 알고리즘을 비롯한 여러 성능 최적화가 포함되어 있습니다. 간단히 말해, 이 특정 애플리케이션의 경우 Zilliz Cloud는 다른 벡터 데이터베이스와 동일한 검색 및 인덱싱 처리량을 3분의 1도 안 되는 가격으로 제공할 수 있게 했습니다. 다른 벡터 검색 솔루션에서는 연간 비용이 감당하기 어려웠던 상황에서, 우리가 나서서 이 자율 에이전트를 현실로 만들었습니다.
제품 추천
추천 시스템은 소비자의 이전 시청 또는 탐색 기록을 기반으로 제품, 뉴스, 사용자 콘텐츠 등 다양한 콘텐츠를 추천하도록 설계되었습니다. 벡터 데이터베이스는 이러한 종류의 애플리케이션에 완벽합니다. Zilliz Cloud에서 각 개별 항목을 벡터화하고 저장하면, collection.search를 호출하는 것만으로 추천을 수행할 수 있습니다. 그 결과로 나오는 최근접 이웃 자체가 가장 관련성 높은 추천입니다.
빠르고 관련성 높은 추천은 모든 B2C 제품의 기본 요건이지만, 전자상거래 세계에서는 제품 추천이 전체 경험에 특히 중요하며 매우 효율적인 매출 동인이 될 수 있습니다. 저희 사용자 중 한 곳의 핵심 미션은 AI를 활용해 제품 추천 시스템의 성능을 개선하는 것이었습니다. 다른 많은 사례와 마찬가지로, 이들의 사용 사례는 지연 시간에 극도로 민감했습니다. 좋은 최종 사용자 경험을 유지하려면 벡터 데이터베이스에 대한 쿼리가 10밀리초 이내에 완료되어야 했고, 중간 수준의 처리량도 필요했습니다. 게다가 이러한 추천은 일반적인 검색이 아니었습니다. 최종 사용자들은 종종 필터링된 추천(예: 의류의 특정 치수 또는 특정 신발 사이즈)을 필요로 했습니다. 이러한 복잡성은 제품 데이터의 특성에도 이어졌는데, 제품 데이터는 본질적으로 제품 제목, 설명, 이미지가 포함된 멀티모달 데이터였습니다.
Cardinal은 이들이 성능 요구 사항을 충족할 수 있게 해주었지만, 여기서 Zilliz Cloud의 동적 스키마와 JSON 지원은 판도를 바꾸는 요소로 입증되었습니다. 이를 통해 고객은 각 제품군의 특정 특성에 맞게 데이터 모델을 조정할 수 있었고, 다양하고 복잡한 메타데이터를 각 벡터와 함께 효율적으로 저장하고 쿼리할 수 있었습니다. 이러한 적응성은 Cardinal의 뛰어난 성능과 결합되어, 이 특정 고객에게 결정적인 요인이 되었습니다.
AI 기반 신약 발견
신약 발견은 믿을 수 없을 만큼 어려운 문제입니다. 약물 분자는 수십 개의 원자를 가진 "small molecules"부터 수만 개의 원자를 가진 대형 생물학적 제제까지 크기가 다양할 수 있습니다. 머신러닝은 각 분자를 벡터화하여 특정 질병이나 증상을 치료하는 것과 같은 기능을 기반으로 한 표현을 만들 수 있습니다.
이 과정에서 Zilliz Cloud의 범위 검색 기능은 중요한 역할을 합니다. 연구자들은 대상 질병이나 증상을 벡터화하고 Zilliz Cloud에서 후보 약물을 검색합니다. 범위 검색은 대상과 일정 거리 내에 있는 모든 벡터(분자)를 찾아 고정된 개수가 아니라 모든 관련 후보를 제공함으로써 표준 top-k 검색을 넘어섭니다. 이 기능은 신약 발견에 필수적일 뿐만 아니라 사기 탐지 및 사이버 보안과 같은 분야에도 적용할 수 있습니다. 예를 들어 은행에서는 거래를 벡터화하고 범위 검색을 사용해 새로운 거래와 비교하여 유사한 과거 활동을 식별함으로써 이상치 탐지에 도움을 줍니다.
맺음말
RAG는 저희에게 지금까지도, 앞으로도 계속해서 매우 중요할 것이지만, 이는 벡터 데이터베이스 빙산의 일각에 불과합니다. 여기서는 오늘 발표하는 새로운 기능들 중 일부가 직접 가능하게 한 세 가지 실제 사용 사례를 소개했습니다. Zilliz Cloud를 다른 벡터 데이터베이스와 비교할 때, 이러한 기능들은 성공을 좌우하는 결정적 요인이었고 앞으로도 계속 그럴 것입니다.
그렇긴 하지만, 제 말만 믿지는 마세요. 많은 데이터 유형을 Zilliz Cloud 내에서 벡터화하고, 저장하고, 쿼리할 수 있습니다. 설치 번거로움 없이 지금 무료로 사용해 보고, 데이터 혁명을 시작해 보세요.
계속 읽기
How to Install and Run OpenClaw (Previously Clawdbot/Moltbot) on Mac
Turn your Mac into an AI gateway for WhatsApp, Telegram, Discord, iMessage, and more — in under 5 minutes.
Smarter Autoscaling in Zilliz Cloud: Always Optimized for Every Workload
With the latest upgrade, Zilliz Cloud introduces smarter autoscaling—a fully automated, more streamlined, elastic resource management system.
How to Build RAG with Milvus, QwQ-32B and Ollama
Hands-on tutorial on how to create a streamlined, powerful RAG pipeline that balances efficiency, accuracy, and scalability using the QwQ-32B and Milvus.