Transformation von Anzeigenempfehlungen: SmartNews’ Reise mit Milvus
In der schnelllebigen Welt der Nachrichten-Apps hat sich SmartNews seit seiner Gründung im Jahr 2012 als dominierende Kraft etabliert und erzielt beispiellose Erfolge bei der Nutzerinteraktion. Mit Hauptsitz in Tokio, Japan, und bedeutenden Fortschritten in den USA stand SmartNews vor einer einzigartigen Herausforderung – der Optimierung von Anzeigenempfehlungen für seine hoch engagierte Nutzerbasis. Der Weg von der Herausforderung zum Triumph führte über die Überwindung technischer Hürden, die Erkundung innovativer Lösungen und schließlich den Erfolg mit Milvus.
SmartNews benötigte personalisierte Anzeigenempfehlungen in Echtzeit für seine rasant wachsende Nutzerinteraktion.
Die Nutzerinteraktion von SmartNews stieg rasant an und übertraf im Juli 2021 Branchengrößen wie Apple News und Google News bei der durchschnittlichen monatlichen Nutzerinteraktion. Dieser Erfolg brachte jedoch eine neue Herausforderung mit sich — zeitnahe und relevante Anzeigen an ein anspruchsvolles Publikum auszuliefern. Shu, ein AI-Infrastruktur-Ingenieur bei SmartNews, erläuterte die technischen Hürden: hochdimensionale, spärliche Merkmale und die Notwendigkeit eines schnellen Abrufs von unstructured data in ihren groß angelegten Machine-Learning-Systemen.
Die bestehende Lösung, FAISS, erwies sich als umständlich und ineffizient, insbesondere als die Plattform expandierte. Die Aufrechterhaltung hoher Standards bei der Nutzerinteraktion erforderte eine Lösung, die die Komplexität ihrer Daten bewältigen und Anzeigenempfehlungen in Echtzeit bereitstellen konnte.
Milvus macht einen gewaltigen Unterschied bei der Optimierung des Anzeigenempfehlungssystems von SmartNews
SmartNews wandte sich nach einer gründlichen zweimonatigen Recherchephase an Milvus, auf der Suche nach einer Lösung, die Anfragen mit hohem Durchsatz und niedriger Latenz bewältigen konnte – entscheidend für ein Echtzeit-Anzeigenempfehlungssystem.
Die Fähigkeiten von Milvus zur vector similarity search wurden entscheidend für die Optimierung des dynamischen Anzeigenvektor-Recalls von SmartNews. Während der POC-Phase erfüllte Milvus die strengen Anforderungen von SmartNews an eine P99-Latenz < 10 ms, was für unser Echtzeit-Anzeigenempfehlungssystem entscheidend ist. Shu, einer der Ingenieure von SmartNews, hob hervor, dass Milvus dem Team ermöglichte, unvergleichbare Datentypen in Vektoren abzubilden, wodurch eine effiziente Ähnlichkeitssuche möglich wurde, um Nutzer mit den relevantesten Anzeigen zu verbinden. Diese Fähigkeit erwies sich als wesentlich, da SmartNews millions of vectors in Echtzeit verarbeitete, um personalisierte Anzeigenempfehlungen auszuliefern.
Über Anzeigenempfehlungen hinaus zeigte Milvus seine Vielseitigkeit in anderen Machine-Learning-Anwendungen. Das SmartNews-Team nutzte Milvus auch für Echtzeit-Daten- und Indexaktualisierungen, was entscheidend war, um die Anzeigenempfehlungsmodelle aktuell zu halten.
SmartNews erkannte den Wert communitygetriebener Entwicklung und trug aktiv Funktionen wie „hot reload“ zur Milvus-Community bei, wodurch sowohl interne Abläufe als auch die breitere Entwickler-Community verbessert wurden.
Einführung von Milvus: vom technischen Upgrade zum greifbaren Erfolg
Die Einführung von Milvus war nicht nur ein technisches Upgrade; sie führte für SmartNews zu tatsächlichen Geschäftsergebnissen. Yusup, ein weiterer Ingenieur bei SmartNews, betonte, dass Milvus’ Funktion collection aliasing den Aktualisierungsprozess optimierte und den umständlichen Mechanismus zur Aktualisierung von Vektoren adressierte.
Das von Milvus unterstützte optimierte Anzeigenempfehlungssystem führte zu relevanteren Anzeigen, erhöhte die Klickraten und steigerte letztlich die Anzeigenerlöse. Darüber hinaus ermöglichten Echtzeit-Daten- und Indexaktualisierungen SmartNews, sich schnell an verändertes Nutzerverhalten anzupassen und so dauerhaft relevante Empfehlungen sicherzustellen.
SmartNews hat sein Milvus auf 2.2.4 aktualisiert und bereitet sich nun auf die nächste Phase seiner technologischen Weiterentwicklung vor. Dennis Zhao teilte mit: „Die neue Version verspricht noch bessere Leistung und Skalierbarkeit, und wir freuen uns darauf, die neuen Funktionen zu nutzen, um noch mehr Echtzeit- und zuverlässige Systeme aufzubauen.“
Zusammenfassung
Unter den Nachrichten-Apps zeigt SmartNews beispielhaft, wie strategische technologische Entscheidungen, wie die Einführung von Milvus, nicht nur Herausforderungen überwinden, sondern eine Plattform auch zu neuen Höhen der Nutzerzufriedenheit und des Geschäftserfolgs führen können. Die Synergie zwischen Innovation und Zusammenarbeit hat SmartNews als Wegbereiter positioniert und die Grundlage für anhaltende Exzellenz bei Echtzeit-Werbeempfehlungen geschaffen.
Weiterlesen
Why I’m Against Claude Code’s Grep-Only Retrieval? It Just Burns Too Many Tokens
Learn how vector-based code retrieval cuts Claude Code token consumption by 40%. Open-source solution with easy MCP integration. Try claude-context today.
Similarity Metrics for Vector Search
Exploring five similarity metrics for vector search: L2 or Euclidean distance, cosine distance, inner product, and hamming distance.
Vector Databases vs. Key-Value Databases
Use a vector database for AI-powered similarity search; use a key-value database for high-throughput, low-latency simple data lookups.