질리즈 클라우드를 통해 슈렉스의 VOC 서비스 성능 및 확장성 향상
50%
검색 지연 시간 및 데이터 분석 비용 감소
30%
더 빠른 보고서 생성
분 단위
예상치 못한 트래픽 급증에 대한 대응
Since transitioning from the open-source Milvus vector database to the fully managed Zilliz Cloud, we’ve experienced significant improvements in business performance. We’ve achieved lower operational costs, increased search speed, a more flexible system architecture, and a more stable user experience. Zilliz Cloud also provides expert support to resolve issues quickly and effectively. Overall, Zilliz Cloud has given us greater convenience and a competitive edge, and we are very pleased and optimistic about this change.
Shengyi Pan
슐렉스 소개
슐렉스(Voc.AI)는 실리콘밸리에 본사를 둔 선도적인 AI 기업으로, 판매자와 브랜드가 첨단 VOC(고객의 소리) 솔루션을 통해 시장 기회를 파악하고 성공적인 제품을 개발할 수 있도록 지원하는 데 전념하고 있습니다. 슐렉스는 AI, 특히 ChatGPT와 같은 대규모 언어 모델(LLM)과 감정 분석을 활용하여 기업이 고객 피드백에 대한 심층적인 인사이트를 얻을 수 있도록 지원합니다. P&G, Anker, Hisense와 같은 글로벌 브랜드를 포함하여 200,000개 이상의 등록 고객을 보유한 Shulex의 혁신적인 VOC 솔루션은 다양한 산업 분야에서 그 가치를 입증했습니다.
과제: 자체 관리형 Milvus 솔루션의 높은 운영 비용
VOC(고객의 소리)는 고객의 요구, 선호도 및 경험을 이해하기 위해 고객의 피드백을 수집, 분석 및 활용하는 서비스입니다. 슐렉스는 브랜드가 설문조사, 리뷰, 소셜 미디어, 고객 지원 등 다양한 소스에서 데이터를 수집하고 분석할 수 있도록 지원하는 고급 VOC 솔루션을 제공합니다. 이 프로세스는 궁극적으로 제품, 서비스 및 전반적인 고객 만족도를 향상시켜 고객의 욕구에 보다 밀접하게 부합하는 제품을 제공합니다.
슐렉스는 이러한 목표를 달성하기 위해 대규모 데이터를 효율적으로 관리하면서 자연어로 된 고객 피드백의 의도와 의미적 의미를 이해할 수 있는 솔루션이 필요했습니다. 처음에 슐렉스는 비정형 텍스트 데이터의 저장, 색인 및 검색에 탁월한 오픈 소스 벡터 데이터베이스인 Milvus를 사용하여 자체 관리형 벡터 검색 솔루션을 구현했습니다.
자체 관리형 Milvus 솔루션은 처음에는 방대한 양의 벡터를 저장하고 시맨틱 검색을 수행하는 데 탁월한 성능을 발휘했습니다. 하지만 슐렉스의 빠른 성장으로 데이터 양이 폭발적으로 증가했습니다. VOC 리뷰 분석 서비스에서만 10,000개 이상의 이커머스 전용 리뷰 레이블을 생성하여 수십억 개의 [벡터]를 생성했습니다(https://zilliz.com/glossary/vector-embeddings). 자체 관리형 Milvus 솔루션은 이러한 대규모 데이터를 처리할 수 있었지만, 운영 및 유지보수를 위해 상당한 내부 리소스가 필요했습니다. 높은 운영 비용과 시스템 문제 발생 시 오랜 복구 시간이 문제가 되어 고객 불만족으로 이어졌습니다.
슐렉스의 기술 책임자인 천후이 리는 "비즈니스가 확장됨에 따라 벡터 데이터베이스에 대한 수요도 증가했습니다. 운영 비용을 최소화하고, 방대한 양의 벡터 데이터와 예상치 못한 트래픽 급증을 관리할 수 있는 탄력적인 확장 기능을 제공하며, 벡터 검색 속도가 빨라지고, 높은 서비스 수준 협약(SLA)을 보장하는 솔루션이 필요했습니다."_천후이 리(Chenhui Li) 기술 책임자.
밀버스의 개발사인 질리즈의 전문가 팀과 논의한 결과, Shulex 팀은 이러한 문제를 해결하기 위해 밀버스의 완전 관리형 버전인 질리즈 클라우드로 마이그레이션하기로 결정했습니다. 이제 질리즈 클라우드는 슐렉스의 두 가지 핵심 서비스를 지원합니다: VOC 리뷰 분석과 지능형 고객 서비스.
질리즈 클라우드로 VOC 리뷰 분석 강화하기
슐렉스는 강력한 VOC 리뷰 분석 기능 덕분에 최고의 아마존 상품 선택 툴로 인정받고 있습니다. Shulex는 Zilliz Cloud를 활용하여 방대한 양의 Amazon 리뷰와 소셜 미디어 데이터를 실시간으로 처리하고 분석하여 사용자 인구 통계, 사용 시나리오, 구매 동기, 제품 강점 및 개선이 필요한 부분을 포함한 제품 피드백에 대한 즉각적인 인사이트를 고객에게 제공합니다.
VOC 리뷰 분석 시스템의 작동 방식
슐렉스는 대규모 언어 모델(LLM)의 강력한 기능을 Zilliz Cloud와 결합하여 샘플 리뷰 데이터베이스를 생성합니다. 이 접근 방식을 사용하면 새 리뷰 또는 레이블이 없는 리뷰를 기존 리뷰 데이터와 비교하여 유사성을 확인할 수 있으므로 프로세스를 효율적이고 확장 가능하게 만들 수 있습니다. 시스템은 다음과 같은 주요 단계를 따릅니다:
**질리즈 클라우드 내에서 샘플 리뷰 데이터베이스 생성: 질리즈 클라우드 내에 데이터베이스를 생성하여 원본 리뷰, 벡터 표현, LLM이 생성한 감정 라벨(긍정 또는 부정)을 저장합니다.
분석할 상품 카테고리 선택하기 : 다양한 카테고리에서 특정 상품을 선택하여 상세 리뷰 분석을 진행합니다.
리뷰를 벡터 임베딩으로 인코딩하기 : 선택한 카테고리의 수만 개의 리뷰를 벡터 임베딩으로 변환하여 질리즈 클라우드에 저장합니다.
LLM으로 감성 라벨 생성하기: 선택한 리뷰를 GPT-4와 같은 LLM에 입력하면 각 리뷰에 감성 라벨이 할당됩니다. 이 라벨은 질리즈 클라우드에 저장되고 해당 리뷰 텍스트와 매핑됩니다.
**질리즈 클라우드로 의미 유사도 검색: ** 질리즈 클라우드는 라벨이 없는 신규 또는 기존 리뷰에 대해 의미 유사도 검색을 수행하여 샘플 데이터베이스에서 의미적으로 가장 유사한 리뷰와 매칭하고 해당 감성 라벨을 검색합니다.
**통계 리포트 생성: 질리즈 클라우드의 분류를 기반으로 특정 상품 속성과 관련된 고객 감성을 분석하여 상세 리포트를 생성합니다.
질리츠 클라우드의 슐렉스 VOC 리뷰 분석의 장점 ### 질리츠 클라우드의 장점
**검색 지연 시간 50% 단축, 보고서 생성 속도 30% 향상: 질리즈 클라우드는 오픈소스 밀버스보다 5배 이상 빠른 검색 엔진으로 우수한 벡터 유사도 검색 성능을 제공합니다. 초당 1,000개의 쿼리(QPS)로 고빈도 검색을 처리하여 검색 지연 시간을 50% 단축하고 보고서 생성 속도를 30% 향상시킵니다.
데이터 분석 비용 50% 절감: 질리즈 클라우드는 감정 라벨을 얻기 위해 모든 제품 리뷰를 LLM을 통해 실행할 필요가 없습니다. 대신, 새 리뷰 또는 라벨이 없는 리뷰와 샘플 리뷰 데이터베이스에 저장된 리뷰 간의 의미적 유사성을 비교하여 LLM에 대한 의존도를 크게 낮추고 데이터 분석 비용을 50% 이상 절감할 수 있습니다.
**예상치 못한 트래픽 급증에 대한 분 단위 대응: 특히 프로모션 기간과 같이 고객 트래픽이 예기치 않게 급증하는 경우, 기존 시스템에서는 수동 확장이 필요해 최대 1시간의 대기 시간이 발생했습니다. Zilliz Cloud의 탄력적인 확장 기능으로 몇 분 안에 클러스터를 확장 또는 축소할 수 있어 지연을 없애고 고객 만족도를 높일 수 있습니다.
질리즈 클라우드로 RAG 기반 VOC 챗봇 구축하기
슈렉스는 또한 회사 및 외부 데이터를 FAQ로 빠르게 변환하여 단 2분 만에 전문 고객 서비스 봇을 생성하는 VOC 챗봇을 제공합니다. 이러한 접근 방식은 응답 효율성을 높이는 동시에 운영 비용을 절감합니다.
검색 증강 생성](https://zilliz.com/learn/Retrieval-Augmented-Generation)(RAG) 기술로 구축된 VOC 챗봇은 대규모 언어 모델과 벡터 데이터베이스를 결합합니다. 공개 웹 링크를 추출하고 회사 파일, 이메일, 지원 티켓에서 지식을 벡터 임베딩으로 임베딩하여 질리즈 클라우드에 저장합니다. 이 방법은 회사별 지식 베이스를 생성하여 외부 메모리로 LLM을 향상시킵니다.
질리즈 클라우드는 RAG 기반 챗봇이 대용량의 벡터 데이터를 빠르게 처리하고 검색할 수 있도록 하여 실시간 지식 검색을 용이하게 합니다. 이 챗봇은 98% 이상의 안정적인 리콜률로 초당 90개의 쿼리를 처리하며 슐렉스의 지능형 고객 서비스를 안정적으로 지원합니다. 현재 VOC 챗봇은 전체 고객 서비스 업무의 80% 이상을 관리하고 있습니다.
"오픈 소스 Milvus 벡터 데이터베이스에서 완전 관리형 Zilliz Cloud로 전환한 후 비즈니스 성과가 크게 향상되었습니다. 운영 비용 절감, 검색 속도 향상, 보다 유연한 시스템 아키텍처, 보다 안정적인 사용자 경험을 달성할 수 있었습니다. 또한 질리즈 클라우드는 빠르고 효과적으로 문제를 해결할 수 있는 전문가 지원도 제공합니다. 전반적으로 Zilliz Cloud는 우리에게 더 큰 편의성과 경쟁력을 제공했으며, 우리는 이러한 변화에 대해 매우 기쁘고 낙관적입니다."_김지현 _ Zilliz Cloud를 사용하면서 느낀 점
결론
Zilliz Cloud를 Shulex의 업무에 통합한 것은 획기적인 전환이었습니다. 방대한 데이터를 더 빠르고 효율적으로 처리하고 분석할 수 있게 해준 Zilliz Cloud는 Shulex의 핵심 서비스인 고객 의견 검토 분석과 지능형 고객 서비스를 크게 향상시켰습니다.
질리즈 클라우드의 고속 시맨틱 검색 성능, 데이터 분석 비용 50% 절감, 트래픽 급증에 대한 신속한 대응은 슐렉스가 시장에서 경쟁력을 유지할 수 있는 원동력이 되었습니다. 그 결과, 슐렉스는 운영 비용을 절감하면서 고객에게 더 빠르고 효율적으로 심층적인 인사이트를 제공할 수 있게 되었습니다. Zilliz Cloud로의 전환은 Shulex의 프로세스를 간소화하고 향후 성장을 위한 더욱 견고하고 확장 가능한 기반을 제공했습니다.
As our business has expanded, the demands on our vector database have increased. We need a solution that minimizes operational costs, offers elastic scaling capabilities to manage vast amounts of vector data and unexpected traffic surges, provides faster vector search speeds, and ensures a high service level agreement (SLA).
Chenhui Li