Líder global de fintech escala IA com Milvus
5–10 vezes mais rápido
ingestão em lote do que os concorrentes
Desenvolvimento mínimo
necessário para dar suporte a múltiplos casos de uso
Escalabilidade instantânea
de milhões para dezenas de bilhões de vetores
When it comes to vector databases, Milvus has impressed us with its performance and scalability, meeting our stringent criteria for handling our AI use case backlog.
Team Lead
Sobre a Empresa
Esta empresa global de fintech é especializada em pagamentos digitais, permitindo transações em mais de 200 países e em mais de 25 moedas. Com um portfólio que abrange produtos de pagamento para consumidores e comerciantes, ela processa dezenas de bilhões de transações anualmente — desde pagamentos individuais peer-to-peer até soluções empresariais em larga escala. A empresa é conhecida por suas APIs voltadas primeiro para desenvolvedores, experiência de usuário moderna e ecossistema multimarcas.
Dentro desta organização, a equipe de IA, ML e Soluções de Plataforma desempenha um papel central na promoção da inovação. Sua missão: aplicar machine learning e IA de ponta para melhorar a experiência do cliente, automatizar operações e abrir novas fontes de receita. Isso inclui fornecer infraestrutura horizontal de IA/ML, apoiar streaming de eventos em tempo real e habilitar novos recursos como GenAI em todo o conjunto de produtos de pagamento da empresa.
Desafios: Escalar IA em uma Infraestrutura Global Complexa
Em 2023, a empresa priorizou o lançamento de um sistema de recomendação voltado ao consumidor, impulsionado por GenAI. O sistema foi lançado por meio de uma das marcas de consumo da fintech e fornece recomendações de produtos personalizadas no checkout, com base no inventário do comerciante e no contexto da compra.
Mas executar esse objetivo não foi simples. Dois desafios principais estavam no caminho:
Volumes Massivos de Dados A organização lida com bilhões de transações anualmente. Os sistemas existentes — tanto comerciais quanto internos — tinham dificuldade para escalar diante dos volumes de dados envolvidos. Na verdade, a equipe havia construído anteriormente um banco de dados de grafos personalizado porque nenhuma solução de fornecedor conseguia atender aos seus requisitos de desempenho e escala.
Cenário Imaturo de Bancos de Dados Vetoriais A busca vetorial era central para impulsionar recomendações personalizadas, mas as ferramentas disponíveis ainda eram relativamente novas. A equipe precisava de um sistema confiável e de alto desempenho que pudesse escalar para cargas de trabalho de produção e atender aos seus rigorosos requisitos de latência e ingestão.
Depois de avaliar várias soluções, incluindo Weaviate e AlloyDB, a equipe escolheu Milvus.
Por que Milvus: Desempenho, Escalabilidade e Facilidade de Uso
"Milvus nos impressionou com seu desempenho e escalabilidade", disse o Líder da Equipe de IA, ML e Soluções de Plataforma. Desde os primeiros testes, o Milvus demonstrou capacidades excepcionais em ingestão de dados, desempenho de consultas e flexibilidade operacional. A documentação era clara e amigável para desenvolvedores, e o sistema lidou com bilhões de vetores sem necessidade de ajustes extensivos.
O desempenho de ingestão em lote foi especialmente crítico. Os dados de inventário precisavam ser atualizados com frequência, às vezes de hora em hora. Nos testes, o Milvus ingeriu dumps completos de coleções 5–10 vezes mais rápido do que as alternativas. Um trabalho que levou mais de 8 horas nos concorrentes foi concluído pelo Milvus em menos de 1 hora.
O que também se destacou foi a flexibilidade do Milvus. A equipe tinha um longo backlog de casos de uso de IA, desde sistemas de recomendação até chatbots. O Milvus atendeu às necessidades de muitos deles com esforço mínimo de desenvolvimento, economizando tempo valioso de engenharia.
Apesar da hesitação inicial em adotar uma ferramenta de código aberto mantida por uma startup (Zilliz), a equipe constatou que o Milvus tinha maturidade, suporte do ecossistema e implantações no mundo real para atender a requisitos de nível empresarial.
De Sistemas de Recomendação a Chatbots—O Que Vem a Seguir
Após o lançamento bem-sucedido do sistema de recomendação, a próxima iniciativa da equipe é um chatbot de atendimento ao cliente com IA. Este bot multilíngue apoiará milhares de agentes de atendimento globalmente, respondendo a perguntas de rotina usando busca vetorial e técnicas de recuperação.
À medida que a equipe continua expandindo sua presença em IA, ela está avaliando uma migração para o Zilliz Cloud — o serviço Milvus totalmente gerenciado. Executar e escalar o Milvus internamente tem sido eficaz, mas transferir a gestão da infraestrutura permitiria que a equipe se concentrasse em iniciativas de maior valor.
During batch ingestion tests, Milvus demonstrated that it could complete an entire collection dump into the database at speeds 5–10 times faster than competitors.
Team Lead