Transformando Recomendações de Anúncios: A Jornada da SmartNews com Milvus
No mundo acelerado dos aplicativos de notícias, o SmartNews emergiu como uma força dominante, capturando o engajamento dos usuários com sucesso incomparável desde sua fundação em 2012. Com sede em Tóquio, Japão, e avançando significativamente nos EUA, o SmartNews enfrentou um desafio único – otimizar recomendações de anúncios para sua base de usuários altamente engajada. A jornada do desafio ao triunfo envolveu superar obstáculos técnicos, explorar soluções inovadoras e, por fim, encontrar sucesso com o Milvus.
O SmartNews precisava de recomendações de anúncios personalizadas em tempo real para seu crescente engajamento dos usuários.
O engajamento dos usuários do SmartNews estava disparando, superando gigantes do setor como Apple News e Google News em engajamento médio mensal dos usuários em julho de 2021. No entanto, esse sucesso trouxe um novo desafio — entregar anúncios oportunos e relevantes a um público exigente. Shu, um engenheiro de infraestrutura de IA no SmartNews, detalhou os obstáculos técnicos: recursos esparsos de alta dimensão e a necessidade de recuperação rápida de dados não estruturados em seus sistemas de aprendizado de máquina em larga escala.
A solução existente, FAISS, mostrou-se complicada e ineficiente, especialmente à medida que a plataforma se expandia. Manter altos padrões de engajamento dos usuários exigia uma solução que pudesse lidar com as complexidades de seus dados e fornecer recomendações de anúncios em tempo real.
Milvus faz uma enorme diferença na otimização do recomendador de anúncios do SmartNews
O SmartNews recorreu ao Milvus após uma fase completa de pesquisa de dois meses em busca de uma solução que pudesse lidar com consultas de alta taxa de transferência e baixa latência – críticas para um sistema de recomendação de anúncios em tempo real.
Os recursos de busca por similaridade vetorial do Milvus tornaram-se fundamentais para otimizar a recuperação dinâmica de vetores de anúncios do SmartNews. Durante a fase de POC, o Milvus atendeu aos rigorosos requisitos do SmartNews de latência P99 < 10 ms, o que é crucial para nosso sistema de recomendação de anúncios em tempo real. Shu, um dos engenheiros do SmartNews, destacou que o Milvus permitiu que a equipe mapeasse tipos de dados incomparáveis em vetores, possibilitando uma busca por similaridade eficiente para conectar usuários aos anúncios mais relevantes. Esse recurso mostrou-se essencial, pois o SmartNews processava milhões de vetores em tempo real para entregar recomendações de anúncios personalizadas.
Além das recomendações de anúncios, o Milvus demonstrou sua versatilidade em outras aplicações de aprendizado de máquina. A equipe do SmartNews também usou o Milvus para atualizações de dados e índices em tempo real, o que foi vital para manter os modelos de recomendação de anúncios atualizados.
Reconhecendo o valor do desenvolvimento impulsionado pela comunidade, o SmartNews contribuiu ativamente com recursos como 'hot reload' para a comunidade Milvus, aprimorando tanto as operações internas quanto a comunidade mais ampla de desenvolvedores.
Adoção do Milvus: de atualização técnica a sucesso tangível
A adoção do Milvus não foi apenas uma atualização técnica; ela se traduziu em resultados reais de negócios para o SmartNews. Yusup, outro engenheiro do SmartNews, enfatizou que o recurso de collection aliasing do Milvus simplificou o processo de atualização, abordando o mecanismo complicado para atualizar vetores.
O sistema otimizado de recomendação de anúncios impulsionado pelo Milvus levou a anúncios mais relevantes, aumentando as taxas de cliques e, em última análise, elevando a receita de anúncios. Além disso, as atualizações de dados e índices em tempo real capacitaram o SmartNews a se adaptar rapidamente às mudanças no comportamento dos usuários, garantindo recomendações consistentemente relevantes.
A SmartNews atualizou seu Milvus para 2.2.4 e agora está se preparando para sua próxima fase de evolução tecnológica. Dennis Zhao compartilhou: "A nova versão promete desempenho e escalabilidade ainda melhores, e estamos empolgados em aproveitar os novos recursos para criar sistemas ainda mais em tempo real e confiáveis."
Resumo
Em aplicativos de notícias, a SmartNews exemplifica como escolhas tecnológicas estratégicas, como adotar o Milvus, podem não apenas superar desafios, mas também impulsionar uma plataforma a novos patamares de satisfação do usuário e sucesso empresarial. A sinergia entre inovação e colaboração posicionou a SmartNews como pioneira, preparando o terreno para a excelência contínua em recomendações de anúncios em tempo real.
Continue lendo
How to Improve Retrieval Quality for Japanese Text with Sudachi, Milvus/Zilliz, and AWS Bedrock
Learn how Sudachi normalization and Milvus/Zilliz hybrid search improve Japanese RAG accuracy with BM25 + vector fusion, AWS Bedrock embeddings, and practical code examples.
AI Agents Are Quietly Transforming E-Commerce — Here’s How
Discover how AI agents transform e-commerce with autonomous decision-making, enhanced product discovery, and vector search capabilities for today's retailers.
1 Table = 1000 Words? Foundation Models for Tabular Data
TableGPT2 automates tabular data insights, overcoming schema variability, while Milvus accelerates vector search for efficient, scalable decision-making.