SmartNewsがMilvusでリアルタイム広告レコメンデーションをどのように変えるか
< 10ms
リアルタイムのデータ検索を可能にするP99レイテンシー
1億ドル以上
パフォーマンスを低下させることなく、毎日ベクトルを更新
増収
より関連性の高い広告を配信することで、クリック率が向上した。
We've gained so much from the Milvus community that we decided to contribute features like "hot reload," which have also benefited our internal operations.
Dennis Zhao
#SmartNewsについて
東京に本社を置くSmartNewsは、2012年の創業以来、ニュースアプリ分野で圧倒的な強さを誇っている。米国では、特にユーザー・エンゲージメントの高さで注目されている。SmartNewsのAIインフラストラクチャー・リードであるデニス・ザオ氏は、「2021年7月現在、SmartNewsはすべてのニュースアプリの中で月間平均ユーザー・エンゲージメントが最も高く、AppleNewsとGoogle Newsの合計指標をも上回っています」と詳しく説明する。このユーザーエンゲージメントの高さは、当然、広告出稿機会の増加につながった。しかし、適切なユーザーに適切なタイミングで広告を届けるという課題もありました。
広告推薦アルゴリズムの技術的ハードル
ユーザーエンゲージメントのリーダー的存在であるSmartNewsは、エンゲージメントの高いユーザー層への広告レコメンデーションの最適化というユニークな課題を抱えていた。SmartNewsのAIインフラエンジニアであるシュウ氏は、この課題について次のように述べている：「大規模な機械学習システムにおいて、高次元の疎な特徴量と迅速な非構造化データ検索の必要性と格闘していました。
これらの課題は、単なる理論的なものではなく、現実世界にも影響を及ぼすものでした。高次元の疎な特徴は、従来のデータベース・ソリューションではデータの保存やクエリが非効率的であることを意味していた。非構造化データは、リアルタイムの広告レコメンデーションにとって重要な要件である、迅速かつ正確な検索を行うことを困難にしていた。
Milvusを利用する前、チームは密なベクトルの類似性検索とクラスタリングのためのライブラリであるFaissを使用していた。しかし、Faissには制限があった。「Faissはメンテナンスが面倒で、私たちの機械学習アプリケーションの成長に合わせてうまく拡張できませんでした」とシュウ氏は付け加える。こうした制限から、チームは必要なスケーラビリティとパフォーマンスの両方を提供できる他のソリューションを模索し、最終的にMilvusにたどり着いた。
技術的ソリューション：ベクトル検索からコミュニティへの貢献まで
SmartNewsが既存のソリューションの限界に気づいたとき、チームは大規模なベクトルデータと類似検索の処理能力を持つMilvusに注目した。「2ヶ月にわたる厳密な調査の結果、Milvusが明らかに勝者となりました。Milvusの高スループットと低レイテンシのクエリ処理能力は、画期的なものでした。「リアルタイム広告推薦システムにとって重要なP99レイテンシ＜10msという厳しい要件を満たしてくれました。
Milvusのベクトル類似検索機能は、当初SmartNewsの動的広告ベクトルリコールを最適化するために適用されました。「Milvusのおかげで、比較できないデータタイプをベクトルにマッピングすることができ、効率的な類似性検索が可能になりました。SmartNewsのプラットフォームは、リアルタイムの広告推薦を行うために何百万ものベクトルをふるいにかける必要があったため、この高性能な検索機能はSmartNewsにとって重要でした。
広告レコメンデーションにとどまらず、Milvusは他の機械学習アプリケーションにも十分に使えることが証明された。「推奨モデルを常に最新の状態に保つために不可欠でした。
SmartNewsは、コミュニティ主導の開発の価値も認めている。私たちはMilvusのコミュニティから多くを得たので、"ホットリロード "のような機能を提供することにしました。この機能により、開発者はその場でコードを変更することができ、開発サイクルを大幅にスピードアップすることができます。
##ビジネスの成果スケーラビリティの実現と将来への備え
Milvusの採用は、単なる技術的なアップグレードではなく、ビジネスに大きな影響を与えました。SmartNewsのもう一人のエンジニアであるYusup氏は、初期の課題の一つについてこう語る：「当初のベクター更新の仕組みは、面倒で時間のかかるものでした。しかし、Milvusの "コレクションエイリアシング "機能によって、古いデータセットと新しいデータセットの間の移行がスムーズになり、更新プロセスが合理化されました。"
この技術的な改善は、ビジネスの成果にもつながった。広告推薦システムが最適化されたことで、より関連性の高い広告が配信されるようになり、クリック率が向上し、最終的に広告収入が増加しました。さらに、リアルタイムのデータとインデックスの更新により、SmartNewsは変化するユーザー行動に迅速に対応し、プラットフォームの推奨を常に適切なものに保つことができました。
SmartNewsは、その技術的進化の次の段階に備えている。「Milvus 2.0のリリースを控え、移行を計画しています。"新バージョンはさらに優れたパフォーマンスとスケーラビリティを約束し、これらの機能を活用してさらにリアルタイムで信頼性の高いシステムを構築することに興奮しています。"
ユースケース
産業
メディア