Transformando Recomendações de Anúncios: A Jornada da SmartNews com Milvus
No mundo acelerado dos aplicativos de notícias, o SmartNews emergiu como uma força dominante, capturando o engajamento dos usuários com sucesso incomparável desde sua fundação em 2012. Com sede em Tóquio, Japão, e avançando significativamente nos EUA, o SmartNews enfrentou um desafio único – otimizar recomendações de anúncios para sua base de usuários altamente engajada. A jornada do desafio ao triunfo envolveu superar obstáculos técnicos, explorar soluções inovadoras e, por fim, encontrar sucesso com o Milvus.
O SmartNews precisava de recomendações de anúncios personalizadas em tempo real para seu crescente engajamento dos usuários.
O engajamento dos usuários do SmartNews estava disparando, superando gigantes do setor como Apple News e Google News em engajamento médio mensal dos usuários em julho de 2021. No entanto, esse sucesso trouxe um novo desafio — entregar anúncios oportunos e relevantes a um público exigente. Shu, um engenheiro de infraestrutura de IA no SmartNews, detalhou os obstáculos técnicos: recursos esparsos de alta dimensão e a necessidade de recuperação rápida de dados não estruturados em seus sistemas de aprendizado de máquina em larga escala.
A solução existente, FAISS, mostrou-se complicada e ineficiente, especialmente à medida que a plataforma se expandia. Manter altos padrões de engajamento dos usuários exigia uma solução que pudesse lidar com as complexidades de seus dados e fornecer recomendações de anúncios em tempo real.
Milvus faz uma enorme diferença na otimização do recomendador de anúncios do SmartNews
O SmartNews recorreu ao Milvus após uma fase completa de pesquisa de dois meses em busca de uma solução que pudesse lidar com consultas de alta taxa de transferência e baixa latência – críticas para um sistema de recomendação de anúncios em tempo real.
Os recursos de busca por similaridade vetorial do Milvus tornaram-se fundamentais para otimizar a recuperação dinâmica de vetores de anúncios do SmartNews. Durante a fase de POC, o Milvus atendeu aos rigorosos requisitos do SmartNews de latência P99 < 10 ms, o que é crucial para nosso sistema de recomendação de anúncios em tempo real. Shu, um dos engenheiros do SmartNews, destacou que o Milvus permitiu que a equipe mapeasse tipos de dados incomparáveis em vetores, possibilitando uma busca por similaridade eficiente para conectar usuários aos anúncios mais relevantes. Esse recurso mostrou-se essencial, pois o SmartNews processava milhões de vetores em tempo real para entregar recomendações de anúncios personalizadas.
Além das recomendações de anúncios, o Milvus demonstrou sua versatilidade em outras aplicações de aprendizado de máquina. A equipe do SmartNews também usou o Milvus para atualizações de dados e índices em tempo real, o que foi vital para manter os modelos de recomendação de anúncios atualizados.
Reconhecendo o valor do desenvolvimento impulsionado pela comunidade, o SmartNews contribuiu ativamente com recursos como 'hot reload' para a comunidade Milvus, aprimorando tanto as operações internas quanto a comunidade mais ampla de desenvolvedores.
Adoção do Milvus: de atualização técnica a sucesso tangível
A adoção do Milvus não foi apenas uma atualização técnica; ela se traduziu em resultados reais de negócios para o SmartNews. Yusup, outro engenheiro do SmartNews, enfatizou que o recurso de collection aliasing do Milvus simplificou o processo de atualização, abordando o mecanismo complicado para atualizar vetores.
O sistema otimizado de recomendação de anúncios impulsionado pelo Milvus levou a anúncios mais relevantes, aumentando as taxas de cliques e, em última análise, elevando a receita de anúncios. Além disso, as atualizações de dados e índices em tempo real capacitaram o SmartNews a se adaptar rapidamente às mudanças no comportamento dos usuários, garantindo recomendações consistentemente relevantes.
A SmartNews atualizou seu Milvus para 2.2.4 e agora está se preparando para sua próxima fase de evolução tecnológica. Dennis Zhao compartilhou: "A nova versão promete desempenho e escalabilidade ainda melhores, e estamos empolgados em aproveitar os novos recursos para criar sistemas ainda mais em tempo real e confiáveis."
Resumo
Em aplicativos de notícias, a SmartNews exemplifica como escolhas tecnológicas estratégicas, como adotar o Milvus, podem não apenas superar desafios, mas também impulsionar uma plataforma a novos patamares de satisfação do usuário e sucesso empresarial. A sinergia entre inovação e colaboração posicionou a SmartNews como pioneira, preparando o terreno para a excelência contínua em recomendações de anúncios em tempo real.
Continue lendo
8 Latest RAG Advancements Every Developer Should Know
Explore eight advanced RAG variants that can solve real problems you might be facing: slow retrieval, poor context understanding, multimodal data handling, and resource optimization.
Cosmos World Foundation Model Platform for Physical AI
NVIDIA's Cosmos platform enables safe, digital twin training of GenAI models for physical applications, overcoming data scarcity and safety challenges.
Why Deepseek is Waking up AI Giants Like OpenAI And Why You Should Care
Discover how DeepSeek R1's open-source AI model with superior reasoning capabilities and lower costs is disrupting the AI landscape and challenging tech giants like OpenAI.