Повышение производительности и масштабируемости сервисов VOC компании Shulex с помощью Zilliz Cloud
50%
снижение задержек при поиске и затрат на анализ данных
30%
ускоренное создание отчетов
Минутный уровень
реагирование на неожиданные скачки трафика
Since transitioning from the open-source Milvus vector database to the fully managed Zilliz Cloud, we’ve experienced significant improvements in business performance. We’ve achieved lower operational costs, increased search speed, a more flexible system architecture, and a more stable user experience. Zilliz Cloud also provides expert support to resolve issues quickly and effectively. Overall, Zilliz Cloud has given us greater convenience and a competitive edge, and we are very pleased and optimistic about this change.
Shengyi Pan
О Шулексе
Shulex (Voc.AI), ведущая компания в области искусственного интеллекта, базирующаяся в Кремниевой долине, занимается расширением возможностей продавцов и брендов по выявлению рыночных возможностей и разработке выигрышных продуктов с помощью передовых решений VOC (Voice of Customer). Используя возможности искусственного интеллекта, в частности большие языковые модели (LLMs, такие как ChatGPT, и анализ настроений, Shulex помогает компаниям получить глубокие знания об отзывах клиентов. Инновационные VOC-решения Shulex, насчитывающие более 200 000 зарегистрированных клиентов, включая такие мировые бренды, как P&G, Anker и Hisense, доказали свою неоценимость в самых разных отраслях.
Проблема: высокие операционные расходы при использовании самоуправляемого решения Milvus
VOC, или Voice of Customer, - это услуга по сбору, анализу и использованию отзывов клиентов для понимания их потребностей, предпочтений и опыта. Компания Shulex предлагает передовые решения VOC, помогающие брендам собирать и анализировать данные из различных источников, таких как опросы, отзывы, социальные сети и служба поддержки клиентов. Этот процесс в конечном итоге повышает качество продуктов, услуг и общую удовлетворенность клиентов за счет более тесного согласования предложений с их желаниями.
Для достижения этой цели компании Shulex требовалось решение, способное понимать смысл и семантическое значение отзывов клиентов на естественном языке и эффективно управлять большими объемами данных. Первоначально компания Shulex реализовала самоуправляемое решение векторного поиска, используя Milvus, базу данных с открытым исходным кодом векторная база данных, предназначенную для хранения, индексации и поиска неструктурированных текстовых данных.
Изначально самоуправляемое решение Milvus хорошо справлялось с хранением огромных объемов векторов и проведением семантического поиска. Однако быстрый рост компании Shulex привел к резкому увеличению объема данных. Одна только служба анализа отзывов VOC создала более 10 000 меток отзывов, специфичных для электронной коммерции, создав миллиарды векторов. Хотя самоуправляемое решение Milvus могло обрабатывать такие большие объемы данных, оно требовало значительных внутренних ресурсов для эксплуатации и обслуживания. Высокие эксплуатационные расходы и длительное время восстановления при сбоях в работе системы стали проблемой, что привело к недовольству клиентов.
Чэньхуэй Ли, технический директор компании Shulex, объяснил: "По мере расширения нашего бизнеса требования к нашей векторной базе данных возрастали. Нам нужно решение, которое минимизирует операционные расходы, обеспечивает эластичное масштабирование для работы с огромными объемами векторных данных и неожиданными скачками трафика, обеспечивает высокую скорость поиска векторов и гарантирует высокий уровень обслуживания (SLA)".
После обсуждения с командой экспертов Zilliz, компании, стоящей за Milvus, команда Shulex решила перейти на Zilliz Cloud, полностью управляемую версию Milvus, чтобы решить эти проблемы. Теперь Zilliz Cloud обеспечивает работу двух основных сервисов Shulex: анализ VOC-обзоров и интеллектуальное обслуживание клиентов.
Анализ VOC-обзоров с помощью Zilliz Cloud
Благодаря мощным возможностям анализа VOC-отзывов компания Shulex была признана лучшим инструментом выбора товаров на Amazon. Используя Zilliz Cloud, Shulex обрабатывает и анализирует огромное количество отзывов Amazon и данных социальных сетей в режиме реального времени, предоставляя клиентам мгновенные сведения об отзывах о продукте, включая демографические данные пользователей, сценарии использования, мотивы покупки, сильные стороны продукта и области, требующие улучшения.
Как работает система анализа отзывов VOC
Shulex объединяет возможности большой языковой модели (LLM) с Zilliz Cloud для создания базы данных отзывов. Такой подход позволяет сравнивать любые новые или немаркированные отзывы с существующими данными об отзывах на предмет сходства, что делает процесс эффективным и масштабируемым. Система состоит из следующих основных этапов:
Создание базы данных образцов отзывов в Zilliz Cloud: Создание базы данных в Zilliz Cloud для хранения исходных отзывов, их векторных представлений и меток настроения (положительных или отрицательных), сгенерированных LLM.
Выбор категорий товаров для анализа: Выберите конкретные товары из широкого спектра категорий для детального анализа отзывов.
Кодирование отзывов в векторные вкрапления: Преобразуйте десятки тысяч отзывов из выбранных категорий в векторные вкрапления и храните их в Zilliz Cloud.
Генерирование меток настроения с помощью LLM: Отправьте отобранные отзывы в LLM типа GPT-4, который присваивает каждому отзыву метку настроения. Затем эти метки хранятся в облаке Zilliz и сопоставляются с соответствующим текстом отзыва.
Поиск семантического сходства с помощью Zilliz Cloud: Zilliz Cloud выполняет поиск семантического сходства в новых или существующих немаркированных отзывах, сопоставляя их с наиболее семантически похожими отзывами в базе данных образцов и получая соответствующие метки настроения.
Генерирование статистических отчетов: Система анализирует настроения покупателей, связанные с определенными атрибутами продукта, на основе классификации Zilliz Cloud и генерирует подробные отчеты.
Преимущества Zilliz Cloud для анализа VOC-обзоров Shulex
50 % меньше задержек при поиске и 30 % быстрее формирование отчетов: Zilliz Cloud предлагает превосходную производительность поиска по векторному сходству с поисковой системой, которая в пять раз быстрее, чем Milvus с открытым исходным кодом. Он обрабатывает высокочастотные запросы со скоростью 1 000 запросов в секунду (QPS), снижая задержку поиска на 50 % и повышая скорость создания отчетов на 30 %.
50%-ное сокращение затрат на анализ данных: Zilliz Cloud избавляет от необходимости прогонять все отзывы о товарах через LLM для получения меток настроения. Вместо этого он сравнивает семантическое сходство между новыми или немаркированными отзывами и отзывами, хранящимися в базе данных образцов отзывов, что значительно снижает зависимость от LLM и сокращает расходы на анализ данных по меньшей мере на 50 %.
Минутная реакция на неожиданные скачки трафика: Во время неожиданных скачков трафика клиентов, особенно в периоды рекламных акций, предыдущая система требовала ручного масштабирования, что приводило к времени ожидания до часа. Возможности эластичного масштабирования Zilliz Cloud позволяют кластерам увеличивать или уменьшать масштаб в течение нескольких минут, устраняя задержки и повышая удовлетворенность клиентов.
Создание VOC-чатбота на основе RAG с помощью Zilliz Cloud
Shulex также предлагает VOC Chatbot, который быстро преобразует данные компании и внешние данные в часто задаваемые вопросы и создает профессионального бота для обслуживания клиентов всего за две минуты. Такой подход повышает эффективность реагирования и сокращает операционные расходы.
Созданный по технологии Retrieval Augmented Generation (RAG), VOC-чатбот сочетает в себе мощь больших языковых моделей и векторных баз данных. Он извлекает общедоступные веб-ссылки, встраивает знания из файлов компании, электронных писем и заявок в службу поддержки в векторные вкрапления и хранит их в Zilliz Cloud. Этот метод создает базу знаний для конкретной компании, расширяя LLM за счет внешней памяти.
Zilliz Cloud позволяет чатботу на базе RAG быстро обрабатывать и извлекать большие объемы векторных данных, обеспечивая поиск знаний в режиме реального времени. Чатбот надежно поддерживает интеллектуальное обслуживание клиентов Shulex, обрабатывая 90 запросов в секунду со стабильным коэффициентом отзыва более 98 %. Теперь чат-бот VOC справляется с более чем 80 % всех задач по обслуживанию клиентов.
Шенгьи Пан, технический директор компании Shulex, прокомментировал: "После перехода с векторной базы данных Milvus с открытым исходным кодом на полностью управляемую облачную систему Zilliz Cloud мы ощутили значительные улучшения в работе бизнеса. Мы добились снижения операционных расходов, увеличения скорости поиска, более гибкой архитектуры системы и более стабильной работы пользователей". Zilliz Cloud также предоставляет экспертную поддержку, которая быстро и эффективно решает проблемы. В целом Zilliz Cloud обеспечил нам большее удобство и конкурентное преимущество, и мы очень довольны и с оптимизмом смотрим на эти изменения"._
Заключение
Интеграция Zilliz Cloud в деятельность компании Shulex оказалась решающим фактором. Обеспечивая более быструю и эффективную обработку и анализ огромного количества данных, Zilliz Cloud значительно расширил основные услуги Shulex - анализ отзывов о продукции и интеллектуальное обслуживание клиентов.
Производительность Zilliz Cloud в высокоскоростном семантическом поиске, снижение затрат на анализ данных на 50 % и быстрое реагирование на скачки трафика позволили Shulex сохранить конкурентное преимущество на рынке. В результате Shulex может предоставлять своим клиентам более глубокие знания с большей скоростью и эффективностью, сохраняя при этом операционные расходы. Переход на Zilliz Cloud оптимизировал процессы Shulex и обеспечил более надежную и масштабируемую основу для будущего роста.
- О Шулексе
- Проблема: высокие операционные расходы при использовании самоуправляемого решения Milvus
- Анализ VOC-обзоров с помощью Zilliz Cloud
- Создание VOC-чатбота на основе RAG с помощью Zilliz Cloud
- Заключение
Контент
Пример использования
Отрасль
Программные услуги
As our business has expanded, the demands on our vector database have increased. We need a solution that minimizes operational costs, offers elastic scaling capabilities to manage vast amounts of vector data and unexpected traffic surges, provides faster vector search speeds, and ensures a high service level agreement (SLA).
Chenhui Li