스마트뉴스가 밀버스를 통해 실시간 광고 추천을 혁신하는 방법
< 10ms
실시간 데이터 검색을 지원하는 P99 지연 시간
100억 이상
성능 저하 없이 매일 벡터 업데이트
수익 증대
관련성 높은 광고 게재로 클릭률 향상
We've gained so much from the Milvus community that we decided to contribute features like "hot reload," which have also benefited our internal operations.
Dennis Zhao
스마트뉴스 소개
일본 도쿄에 본사를 둔 스마트뉴스는 2012년 설립 이래 뉴스 앱 부문에서 독보적인 위치를 차지하고 있습니다. 특히 미국에서는 높은 사용자 참여도로 유명합니다. 스마트뉴스의 AI 인프라 책임자인 데니스 자오는 "2021년 7월 기준으로 스마트뉴스는 모든 뉴스 앱 중 월평균 사용자 참여도가 가장 높았으며, 심지어 애플뉴스와 구글뉴스의 지표를 합친 것보다도 높았습니다."라고 설명합니다. 이러한 높은 수준의 사용자 참여는 자연스럽게 광고 게재 기회 증가로 이어졌습니다. 하지만 광고가 적시에 적절한 사용자에게 도달하도록 하는 데는 어려움이 있었습니다.
광고 추천 알고리즘의 기술적 장애물 ## 광고 추천 알고리즘의 기술적 장애물
사용자 인게이지먼트 분야에서 선두를 달리고 있는 스마트뉴스는 참여도가 높은 사용자층을 대상으로 광고 추천을 최적화해야 하는 특별한 과제를 안고 있었습니다. 스마트뉴스의 AI 인프라 엔지니어인 슈가 이러한 과제를 자세히 설명합니다: "우리는 대규모 머신 러닝 시스템에서 고차원 희소 기능과 신속한 비정형 데이터 검색의 필요성에 대해 고민하고 있었습니다."
이러한 과제는 단순한 이론적 문제가 아니라 현실에 영향을 미쳤습니다. 고차원의 희박한 특징은 기존 데이터베이스 솔루션이 데이터를 저장하고 쿼리하는 데 비효율적이라는 것을 의미했습니다. 비정형 데이터는 실시간 광고 추천의 핵심 요건인 빠르고 정확한 검색을 수행하기 어렵게 만들었습니다.
Milvus로 전환하기 전에는 유사도 검색 및 고밀도 벡터 클러스터링 라이브러리인 Faiss를 사용했습니다. 하지만 Faiss에는 여러 가지 한계가 있었습니다. "유지 관리가 번거롭고 머신 러닝 애플리케이션의 성장에 따라 잘 확장되지 않았습니다."라고 Shu는 덧붙입니다. 이러한 한계로 인해 팀은 필요한 확장성과 성능을 모두 제공할 수 있는 다른 솔루션을 모색하게 되었고, 결국 Milvus를 선택하게 되었습니다.
기술 솔루션: 벡터 검색에서 커뮤니티 기여까지
기존 솔루션의 한계를 깨달은 스마트뉴스 팀은 대규모 벡터 데이터와 유사도 검색을 처리할 수 있는 Milvus를 선택했습니다. "두 달간의 엄격한 연구 끝에 Milvus가 확실한 승자로 떠올랐습니다."라고 Shu는 말합니다. 높은 처리량과 짧은 대기 시간으로 쿼리를 처리하는 Milvus의 능력은 판도를 바꾸었습니다. "실시간 광고 추천 시스템에 필수적인 P99 지연 시간 10ms 미만이라는 엄격한 요구 사항을 충족했습니다.""
Milvus의 벡터 유사도 검색 기능은 처음에 스마트뉴스의 동적 광고 벡터 리콜을 최적화하는 데 적용되었습니다. "Milvus를 통해 서로 비교할 수 없는 데이터 유형을 벡터로 매핑하여 사용자와 가장 관련성이 높은 광고를 연결하는 효율적인 유사도 검색이 가능했습니다."라고 Shu는 설명합니다. 스마트뉴스는 실시간 광고 추천을 위해 수백만 개의 벡터를 선별해야 했기 때문에 이러한 고성능 검색 기능이 매우 중요했습니다.
밀버스는 광고 추천 외에도 다른 머신 러닝 애플리케이션에도 충분히 다재다능한 것으로 입증되었습니다. "우리는 추천 모델을 최신 상태로 유지하는 데 필수적인 실시간 데이터 및 인덱스 업데이트로 사용을 확대했습니다."라고 슈는 덧붙입니다.
스마트뉴스는 커뮤니티 주도 개발의 가치도 인정했습니다. "Milvus 커뮤니티에서 많은 것을 얻었기 때문에 내부 운영에도 도움이 되는 '핫 리로드'와 같은 기능을 제공하기로 결정했습니다."라고 SmartNews의 AI 인프라 리드인 Dennis Zhao는 말합니다. 이 기능을 통해 개발자는 코드를 즉시 변경할 수 있어 개발 주기를 크게 단축할 수 있습니다.
비즈니스 성과: 확장성 달성 및 미래 대비
Milvus의 도입은 단순한 기술적 업그레이드가 아니라 비즈니스에도 큰 영향을 미쳤습니다. 스마트뉴스의 또 다른 엔지니어인 유섭은 초기 과제 중 하나에 대해 설명합니다: "기존 벡터 업데이트 메커니즘은 번거롭고 시간이 많이 걸렸습니다. 하지만 Milvus의 '컬렉션 앨리어싱' 기능을 통해 이전 데이터 세트와 새 데이터 세트 간에 보다 원활하게 전환하여 업데이트 프로세스를 간소화할 수 있었습니다."라고 설명합니다.
이러한 기술적 개선은 비즈니스 성과로 이어졌습니다. 최적화된 광고 추천 시스템을 통해 보다 관련성 높은 광고가 게재되어 클릭률이 높아졌고, 궁극적으로 광고 수익이 증가했습니다. 또한, 실시간 데이터 및 인덱스 업데이트를 통해 SmartNews는 변화하는 사용자 행동에 빠르게 적응하여 플랫폼의 추천을 일관되게 관련성 있게 유지할 수 있었습니다.
스마트뉴스는 다음 단계의 기술 진화를 준비하고 있습니다. "곧 출시될 Milvus 2.0과 함께 마이그레이션을 계획하고 있습니다."라고 Dennis Zhao는 말합니다. "새 버전은 더욱 향상된 성능과 확장성을 약속하며, 이러한 기능을 활용하여 더욱 실시간적이고 안정적인 시스템을 구축할 수 있게 되어 기대가 큽니다."