Мировой лидер финтеха масштабирует ИИ с помощью Milvus
в 5–10 раз быстрее
пакетная загрузка данных, чем у конкурентов
Минимальная разработка
необходимо для поддержки нескольких сценариев использования
Мгновенная масштабируемость
от миллионов до десятков миллиардов векторов
When it comes to vector databases, Milvus has impressed us with its performance and scalability, meeting our stringent criteria for handling our AI use case backlog.
Team Lead
О компании
Эта глобальная финтех-компания специализируется на цифровых платежах, обеспечивая транзакции более чем в 200 странах и в 25+ валютах. Благодаря портфелю, охватывающему платежные продукты для потребителей и продавцов, она ежегодно обслуживает десятки миллиардов транзакций — от индивидуальных P2P-платежей до масштабных корпоративных решений. Компания известна своими API, ориентированными на разработчиков, современным пользовательским опытом и мультибрендовой экосистемой.
В этой организации команда AI, ML, and Platform Solutions играет центральную роль в продвижении инноваций. Их миссия: применять передовые технологии машинного обучения и AI для улучшения клиентского опыта, автоматизации операций и открытия новых источников дохода. Это включает предоставление горизонтальной инфраструктуры AI/ML, поддержку потоковой передачи событий в реальном времени и внедрение новых возможностей, таких как GenAI, во всей линейке платежных продуктов компании.
Задачи: масштабирование AI в сложной глобальной инфраструктуре
В 2023 году компания сделала приоритетом запуск ориентированной на потребителей рекомендательной системы на базе GenAI. Система была запущена через один из потребительских брендов финтех-компании и предоставляет персонализированные рекомендации товаров на этапе оформления заказа на основе ассортимента продавца и контекста покупки.
Но реализация этой цели была непростой. На пути стояли две основные проблемы:
Огромные объемы данных Организация ежегодно обрабатывает миллиарды транзакций. Существующие системы — как коммерческие, так и внутренние — с трудом масштабировались под такие объемы данных. Фактически команда ранее создала собственную графовую базу данных, потому что ни одно решение поставщиков не могло соответствовать их требованиям к производительности и масштабу.
Незрелый рынок векторных баз данных Векторный поиск был ключевым для обеспечения персонализированных рекомендаций, но доступные инструменты все еще были относительно новыми. Команде требовалась надежная, высокопроизводительная система, способная масштабироваться под производственные нагрузки и соответствовать строгим требованиям к задержкам и загрузке данных.
После оценки нескольких решений, включая Weaviate и AlloyDB, команда выбрала Milvus.
Почему Milvus: производительность, масштабируемость и простота использования
"Milvus впечатлил нас своей производительностью и масштабируемостью", — сказал Team Lead for AI, ML, and Platform Solutions. Уже на ранних испытаниях Milvus продемонстрировал исключительные возможности в загрузке данных, производительности запросов и операционной гибкости. Документация была понятной и удобной для разработчиков, а система обрабатывала миллиарды векторов без значительной настройки.
Производительность пакетной загрузки была особенно важна. Данные об ассортименте нужно было часто обновлять, иногда ежечасно. В ходе тестирования Milvus загружал полные дампы коллекций в 5–10 раз быстрее, чем альтернативы. Задача, на которую у конкурентов уходило более 8 часов, выполнялась Milvus менее чем за 1 час.
Также выделялась гибкость Milvus. У команды был большой список AI-сценариев в бэклоге — от рекомендательных систем до чат-ботов. Milvus удовлетворял потребности многих из них с минимальными усилиями по разработке, экономя ценное инженерное время.
Несмотря на первоначальные сомнения по поводу внедрения open-source-инструмента, поддерживаемого стартапом (Zilliz), команда убедилась, что Milvus обладает зрелостью, поддержкой экосистемы и реальными внедрениями, необходимыми для соответствия требованиям корпоративного уровня.
От рекомендательных систем к чат-ботам — что дальше
После успешного запуска рекомендательной системы следующей инициативой команды является чат-бот для обслуживания клиентов на базе AI. Этот многоязычный бот будет поддерживать тысячи сервисных агентов по всему миру, отвечая на типовые вопросы с использованием векторного поиска и методов извлечения информации.
По мере дальнейшего расширения своего AI-направления команда оценивает переход на Zilliz Cloud — полностью управляемый сервис Milvus. Запуск и масштабирование Milvus внутри компании оказались эффективными, но передача управления инфраструктурой позволила бы команде сосредоточиться на инициативах с более высокой ценностью.
During batch ingestion tests, Milvus demonstrated that it could complete an entire collection dump into the database at speeds 5–10 times faster than competitors.
Team Lead