Plaud, Zilliz Cloud로 수십억 규모 에이전트 메모리를 구동하다
< 200 ms
평균 재현 지연 시간
100억+
지역별 벡터 청크, 성장 여지 포함
며칠 안에
수십억 건 규모의 과거 데이터 역채움, 서비스 중단 없이
무중단
상시 운영 앱에서의 스키마 변경 및 클러스터 업그레이드
AI는 일회성 질문에 답하는 수준에서 기억을 보유한 에이전트로 진화하고 있으며, 이에 따라 AI 메모리는 소비자 AI 제품의 핵심이 되고 있습니다. Zilliz Cloud는 대규모 에이전트 메모리 검색을 위해 신뢰할 수 있는 견고한 기반을 제공하므로, 우리 팀은 그 아래의 인프라가 아닌 제품 혁신과 사용자 경험에 에너지를 집중할 수 있습니다.
Charles Liu
Plaud 소개
Plaud는 세계 1위 AI 메모 작성 브랜드입니다. 이 회사의 하드웨어 — 카드 크기의 AI 메모장 Plaud Note, Plaud Note Pro, 웨어러블 Plaud NotePin S — 는 Plaud Intelligence(앱, 웹, 데스크톱에서 사용 가능)와 함께 작동하여 일상적인 대화를 요약, 할 일 항목, 비즈니스 가치로 전환합니다. 3년도 채 안 되어 Plaud는 소비자용 AI 하드웨어를 대표하는 기업 중 하나가 되었습니다. 170개 이상의 국가에 2백만 대 이상의 기기를 출하했고, 약 2년 만에 연간 반복 매출이 1백만 달러에서 1억 달러 이상으로 성장했습니다.
그 경험의 이면에는 보기보다 어려운 과제가 있습니다. 모든 녹음은 사용자가 즉시 검색하고 질의할 것으로 기대하는 장기 보존형 개인 메모리가 되며, 빠르게 성장하는 글로벌 사용자 기반으로 인해 그 규모가 배가됩니다. 이러한 메모리를 대규모로 저장하고 검색하는 작업을 Plaud는 Zilliz Cloud에 맡깁니다.
과제
소비자 규모의 AI 메모리는 프로덕션에서 가장 까다로운 검색 워크로드 중 하나입니다. Plaud는 처음에 OpenSearch를 기반으로 검색 시스템을 구축했으며, 검색과 로그를 잘 처리했습니다. 그러나 워크로드가 수십억 규모의 의미론적 및 하이브리드 검색으로 전환되면서 OpenSearch의 검색 성능과 비용은 그 규모를 감당할 수 없게 되었습니다. 그 기반을 교체한다는 것은 세 가지 요소를 동시에 해결해야 함을 의미했습니다.
- 폭발적인 소비자 규모 데이터 성장. 전 세계적으로 채택이 가속화되면서 Plaud의 벡터화된 메모리는 지역별로 수억 개에서 수십억 개의 청크로 성장했고, 수백억 개에 근접하고 있습니다. 각 녹음은 필터링과 순위 지정에 사용되는 풍부한 스칼라 메타데이터도 생성하며, 소비자 제품은 방대한 롱테일 "콜드" 메모리(사용자가 몇 달간 무시하다가 갑자기 필요로 할 수 있는 데이터)를 만들어 내는데, 이는 활성 쿼리를 느리게 하지 않으면서 저렴하게 보관할 수 있어야 합니다.
- 키워드 검색이 아닌 의미론적, 에이전트형 워크로드. Plaud의 핵심 사용 사례는 에이전트형 RAG와 메모리입니다. 즉, Ask Plaud와 그 에이전트에 공급되는 수십억 규모의 의미 기반 검색입니다. 이를 위해서는 조건부 스칼라 필터링과 결합된 진정한 고성능 벡터 검색이 필요하며, 간섭 없이 저지연 읽기와 함께 대량의 지속적인 쓰기가 실행되어야 합니다. 관련성은 또한 콘텐츠 유형과 최신성을 존중해야 합니다. 요약이 원본 기록보다 더 중요하게 여겨져야 하고, 최근 메모리가 먼저 표시되어야 합니다.
- 글로벌, 상시 가동, 민감한 개인 데이터에 적합한 설계. 글로벌 사용자 기반은 다중 지역 배포와 데이터 거주성을 필수 요건으로 만듭니다. 녹음은 매우 개인적인 데이터이므로 플랫폼은 고객 통제 암호화와 어떤 평문도 Plaud를 떠나지 않는 모델이 필요합니다. 그리고 제품이 지속적으로 출시되므로 검색 계층 자체도 새로운 필드, 새 인덱스, 버전 업그레이드 등 제로 다운타임으로 발전해야 합니다.
Zilliz Cloud를 선택한 이유
Plaud는 이 워크로드의 기반으로 Zilliz Cloud를 선택한 데는 세 가지 이유가 있습니다.
수십억 규모에서 입증된 성능과 안정성. Plaud는 벤치마크가 아니라 실제 프로덕션에서 데이터가 수십억 개로 성장해도 빠르고 안정적으로 유지되는 엔진이 필요했습니다. Zilliz Cloud의 분산 아키텍처는 대규모에서 고성능 검색과 높은 처리량의 쓰기를 유지하며, 읽기와 쓰기를 분리하여 워크로드가 성장해도 대기 시간을 예측 가능하게 유지합니다.
사용자 콘텐츠를 Plaud에 유지하는 프라이버시 모델. Plaud는 검색에 필요한 것, 즉 의미론적 벡터와 타임스탬프와 같은 필터링에 사용되는 스칼라 필드만 Zilliz Cloud에 전송합니다. 어떤 기록, 오디오, 평문도 Plaud를 떠나지 않습니다. 고객 관리 암호화 키(CMEK)와 함께 사용함으로써 Plaud는 사용자 프라이버시에 대한 강력하고 검증 가능한 통제권을 확보합니다.
Plaud가 관련성 제어권을 유지하도록 하는 관리형 기반. Zilliz Cloud는 분산 벡터 저장 및 대규모 검색이라는 어려운 부분을 처리하고, Plaud는 제품을 차별화하는 부분, 즉 희소 및 밀집 벡터를 구축하고 다중 방식 재검색을 실행하며 결과를 융합하고 순위를 매기는 방법을 유지합니다.
해결 방안
Plaud 내에서 Zilliz Cloud는 원시 녹음을 유용한 메모리로 변환하는 시스템인 ContextOS를 구동하는 검색 계층입니다. 음성에서 답변까지의 경로는 네 단계로 진행됩니다:
- 캡처 및 전처리 — 사용자가 녹음을 완료하면 파일이 Plaud의 파일 시스템에 들어가 필요에 따라 전처리됩니다(예: AI 모델을 사용한 음성-텍스트 변환 및 텍스트-임베딩 변환).
- 이해 및 저장 — ContextOS는 콘텐츠를 처리하여 의미론적 벡터와 스칼라 필터 필드로 Zilliz Cloud에 기록합니다 — 절대 원시 텍스트가 아닙니다.
- 의도 기반 검색 — 사용자가 Plaud에서 검색하거나 질문하면 에이전트가 의도를 해석하여 벡터로 인코딩하고 Zilliz Cloud가 지원하는 ContextOS에서 가장 관련성 높은 컨텍스트를 검색합니다.
- 생성 — 검색된 컨텍스트를 기반으로 에이전트의 답변이 생성됩니다.
이 기반 위에서 Zilliz Cloud는 세 가지 제품 시나리오를 지원합니다:
- 검색 — 사용자 자신의 녹음 전체에서 검색;
- Ask Plaud (RAG) — 녹취록과 요약에 기반한 답변;
- MAG (Memory-Augmented Generation) — 장기 개인 메모리에 기반한 답변.
엔지니어링 심층 분석: 에이전트 메모리를 위한 설계
에이전트 메모리는 정적 문서 집합에 대한 기존 RAG가 아닙니다. 이는 지속적으로 성장하며 최신 상태로 유지되고 필터링 가능하며 비공개로 유지되어야 하는 살아 있는 사용자별 컨텍스트입니다. 이러한 기준을 충족하려면 특정한 엔지니어링이 필요했습니다 — Plaud 팀이 강조하는 기능은 다음과 같습니다.
서비스 가동 중 수십억 규모 과거 데이터 백필
메모리 제품을 성장시킨다는 것은 해당 제품에 의존하는 사용자들의 검색을 오프라인으로 전환하지 않으면서 대량의 과거 데이터를 지속적으로 로드하고 재구성하는 것을 의미합니다. Zilliz Cloud를 통해 Plaud는 라이브 서비스가 완전히 읽기 가능한 상태를 유지하는 동안 며칠 안에 완료되는 오프라인 배치 작업으로 수십억 규모의 과거 백필을 실행합니다. 방대한 메모리 세트가 유지보수 창 없이 프로덕션에 배포됩니다.
무중단 스키마 진화 및 업그레이드
빠르게 진화하는 소비자 앱은 끊임없이 변화합니다: 저장할 새 메모리 속성, 필터링 및 검색할 새 필드, 도입할 새 인덱스 및 엔진 버전 등이 있습니다. Zilliz Cloud를 통해 Plaud는 동적 열을 추가하고, 새 텍스트 필드에 키워드(BM25) 검색을 활성화하고, 인덱스 및 클러스터 업그레이드를 롤아웃할 수 있습니다 — 모두 무중단으로 가능합니다. Plaud는 글로벌 앱이 상시 가동되는 동안 계속해서 새로운 기능을 출시합니다.
데이터 레지던시를 갖춘 글로벌 멀티 리전
Plaud의 사용자는 북미, 유럽, 아시아 태평양에 걸쳐 있으며, 데이터가 빠르고 해당 지역 내에 유지되기를 기대합니다. Zilliz Cloud의 기본 멀티 리전 지원을 통해 Plaud는 각 사용자의 메모리를 레지던시와 저지연에 적합한 지역에 배치할 수 있습니다. 클러스터 간 기본 키 고유성은 대규모 환경에서 이를 안전하게 만듭니다 — 키가 전역적으로 고유하게 유지되는 동안 사용자와 해당 데이터는 지역 클러스터 간에 이동할 수 있습니다 — 그리고 무중단 복제 덕분에 마이그레이션은 사용자에게 보이지 않습니다.
메모리 인식 하이브리드 검색
개인 메모리에서 최상의 일치는 항상 가장 의미론적으로 유사한 결과는 아닙니다: 최근 메모는 오래된 메모보다 더 중요하고, 요약은 원시 녹취록보다 더 유용한 경우가 많습니다. Zilliz Cloud의 하이브리드 검색은 의미론적 검색과 키워드 검색을 감쇠 랭킹 및 문서 유형 가중치와 결합하므로, Ask Plaud와 그 에이전트는 단순히 관련성 있는 메모리뿐만 아니라 시의적절하고 올바른 유형의 메모리를 제공합니다.
이러한 주요 노력 외에도 Plaud의 워크로드는 프로덕션 등급의 에이전트 메모리 시스템에 필요한 일련의 기본 기능에 의존합니다:
| Capability | Plaud에 중요한 이유 |
|---|---|
| 벡터 검색과 결합된 조건부 스칼라 필터링 | 개인 메모리는 항상 사용자와 메타데이터 범위로 한정되므로 필터링이 의미 기반 검색과 함께 전체 속도로 실행되어야 합니다 |
| 읽기-쓰기 격리 | 지속적인 대용량 수집이 저지연 쿼리와 나란히 실행되며 서로의 성능을 저하시키지 않습니다 |
| 고객 관리형 암호화(CMEK) | Plaud와 사용자가 키를 보유합니다. 키를 폐기하면 데이터는 더 이상 복호화될 수 없습니다 |
| 콜드/핫 티어링 | 긴 꼬리 "콜드" 메모리는 저렴한 비용으로 보관되며 액세스 시 자동으로 다시 워밍업됩니다 |
| 관리형 백업 및 복구 | 전체 데이터셋 백업이 라이브 쿼리 성능에 거의 영향을 주지 않고 실행됩니다 |
| 탄력적 용량 확장 | 시스템을 재설계하지 않고도 사용자 기반에 따라 용량이 확장됩니다 |
결과 및 이점
- 대규모 저지연 검색 — Recall은 평균 200ms 미만, P99 기준 800ms 미만으로 응답하여, 데이터가 수십억 개로 성장해도 엔드투엔드 Ask AI 파이프라인이 응답성을 유지할 여지를 확보합니다.
- 재설계 없는 수십억 벡터 처리 — Plaud는 리전당 수억 개에서 수십억 개의 청크로 성장했으며, 동일한 기반 위에서 수백억 개로 확장할 수 있는 명확한 경로를 확보했습니다. 검색이 병목이 되지 않습니다.
- 더 빠른 데이터 작업, 제로 다운타임 — 수십억 규모의 히스토리컬 백필이 며칠 내에 완료되고, 스키마 및 클러스터 업그레이드가 제로 다운타임으로 실행되어, 팀은 항상 운영되는 글로벌 앱에서 지속적으로 배포합니다.
- 글로벌 규정 준수 및 성능 — 네이티브 멀티리전 배포는 각 사용자의 데이터를 리전 내에 유지하여 데이터 상주 요구 사항을 충족하면서 전 세계 사용자에게 저지연을 제공합니다.
- 더 낮은 운영 오버헤드 — 완전 관리형 서비스는 자체 운영 클러스터의 숨은 비용(설정, 튜닝, 확장, 온콜)을 제거하여 엔지니어링이 인프라가 아닌 제품에 집중하게 합니다.
가장 분명한 이점은 전략적입니다. 안정적이고 확장 가능한 기반 덕분에 Plaud의 엔지니어들은 "인프라가 버틸 수 있을까?" 에서 "제품이 얼마나 좋아질 수 있을까?" 로 관심을 옮길 수 있습니다. 더 큰 의미 기반 메모리, 더 정교한 검색 전략, 더 빠른 기능 반복이 가능해집니다.
소비자 AI 시스템을 구축하는 팀을 위한 Plaud의 조언
전체 성장 곡선을 경험한 Plaud 팀은 AI 녹음, 개인 AI 메모리 또는 기타 소비자 AI 제품을 구축하는 팀을 위해 네 가지 교훈을 제시합니다.
- 최종 규모에 맞는 인프라를 선택하세요. 소비자 제품이 성공하는 순간 데이터는 수억 개에서 수십억 개의 청크로 급증합니다. 매끄럽게 확장되는 목적에 맞게 설계된 엔진을 선택하면 나중에 비용이 많이 드는 마이그레이션을 피할 수 있습니다.
- 스칼라 필터링과 의미 기반 검색을 함께 테스트하세요. 조건부 필터링과 의미 기반 검색의 결합은 실제 AI 애플리케이션을 위한 벡터 엔진의 가장 현실적이고 가장 까다로운 테스트입니다.
- 운영 비용을 장부에 반영하세요. 자체 관리형 샤딩, 확장, 온콜은 숨겨진 고비용입니다. 완전 관리형 옵션은 이를 제로화하여 팀이 제품에 집중할 수 있게 합니다.
- 글로벌 도달 범위와 규정 준수를 조기에 계획하세요. 글로벌 사용자 기반의 경우 데이터 상주와 멀티리전 저지연은 생각보다 빠르게 필수 요건이 됩니다.
다음 단계
Plaud는 Zilliz Cloud의 활용을 현재의 Agentic RAG 및 에이전트 메모리에서 에이전트 컨텍스트 엔지니어링의 핵심 역할로 확장할 계획이며, 메모리 계층이 수백억 개 이상의 벡터로 확장됩니다.
"Plaud는 소비자 AI가 무엇이 될 수 있는지를 재정의하고 있는 기업입니다. 그리고 놀라운 속도로 수익성 있게 그렇게 하고 있습니다. Zilliz Cloud가 Plaud의 성공 뒤에 있는 검색 기반이라는 점을 자랑스럽게 생각하며, 그들이 에이전틱 AI의 다음 단계로 확장해 나갈 때 계속 함께 구축해 나가기를 기대합니다."
— James Luan, Zilliz CTO
Zilliz Cloud 무료 체험하기
Zilliz Cloud는 엔터프라이즈 AI를 위한 완전 관리형 벡터 데이터베이스이자 벡터 레이크베이스로, Milvus API와 호환됩니다. 고성능의 1000억 규모 벡터 검색, 엔터프라이즈급 보안, 무유지보수 운영을 제공합니다. 이제 멀티모달 데이터 레이크의 개방성, 확장성, 경제성을 갖춘 단일 플랫폼으로 확장되어, 기업이 프로덕션 AI를 위해 비정형 데이터를 검색, 분석, 관리할 수 있게 해줍니다.
RAG를 확장하든 에이전트 메모리를 구축하든, Zilliz Cloud는 Plaud를 구동하는 동일한 검색 기반을 제공합니다. 지금 Zilliz Cloud를 무료로 시작하세요 또는 저희 팀에 문의하세요.
도달하게 될 규모를 기준으로 선택하라, 지금의 규모가 아니라. 소비자 데이터는 누구나 계획하는 것보다 빠르게 성장하며, 그 규모에서의 마이그레이션은 고통스럽다. 검색 인프라는 전문가에게 맡기고, 우리 인력은 제품에 투자하라.
The engineering team, Plaud