뉴스 속 다국어 내러티브 추적
대규모 언어 모델 (LLMs)은 콘텐츠 생성, 고객 서비스 챗봇 등 다양한 작업을 수행하는 방식을 변화시켰습니다. LLM 사용이 증가함에 따라, 신뢰할 수 있는 응답을 제공하기 위해 모델이 최신 뉴스에 대한 지식에서 편향되지 않도록 보장해야 합니다. 다국어 내러티브 추적은 이를 달성하는 데 도움이 됩니다.
상호 연결된 사건들의 연속인 내러티브는 우리 주변 세계를 이해하기 위한 강력한 도구입니다. 예를 들어, Barbie의 새 영화 예고편이 공개되고 며칠 후 Bath & Body Works가 Barbie Edition of Candles를 출시했을 때, 이 두 사건은 하나의 내러티브를 형성했습니다. 뉴스 추적의 맥락에서 우리는 본질적으로 이러한 내러티브를 추적하고 있습니다. 다양한 지역과 언어에 걸친 다양한 보도와 감정을 가진 Barbie Movie Campaign 내러티브가 대표적인 예입니다. 하나의 내러티브가 서로 다른 언어(국가)에서 보도량과 감정 측면에서 어떻게 보도되는지 분석하는 이 과정을 우리는 다국어 내러티브 추적이라고 부릅니다.
Emergent Methods의 창립자인 Robert Caulk는 최근 Zilliz가 진행한 베를린 Unstructured Data Meetup에서 뉴스의 다국어 내러티브 추적에 대한 강연을 했습니다. Emergent Methods는 실시간 적응형 모델링 과제에 AI를 적용하기 위한 오픈소스 소프트웨어를 개발합니다.
강연 중 Robert는 뉴스 기사들의 다양한 내러티브를 추적해야 할 필요성을 강조합니다. 그는 다양한 국가, 언어, 출처 전반의 Global News를 추적하기 위해 LLM과 결합된 임베딩 모델의 아키텍처를 제시합니다.
왜 뉴스 컨텍스트를 엔지니어링해야 할까요?
Robert는 Emergent Methods 팀이 뉴스 컨텍스트를 엔지니어링하고 내러티브를 추적하는 다양한 접근 방식을 살펴본 주요 이유를 논의합니다.
저널리즘 표준 적용: LLM이 엄격한 저널리즘 표준을 준수하도록 보장하는 것은 무엇보다 중요합니다. 검증되지 않은 주장의 확산을 방지하는 것이 중요하며, 그렇지 않으면 허위 정보와 불신으로 이어질 수 있습니다.
출처 및 언어 다양성: 친근한 Chatbot부터 Financial Analyst Assistant에 이르기까지 어떤 제품을 위한 LLM 기반 서비스를 개발할 때도 LLM은 최신 뉴스나 진행 중인 사건을 알고 있어야 합니다. LLM은 언어, 국가 및 기타 인구통계 전반에 걸친 다양한 뉴스에 노출되어야 합니다. 출처가 편향되어서는 안 되며, 그렇지 않으면 고객 기반을 민주적으로 대표하지 못할 것입니다. 예를 들어, 러시아와 미국의 뉴스 기사는 우크라이나 전쟁과 같은 문제에 대해 서로 다른 관점을 가질 것입니다. 우리는 다양한 언어에 걸쳐 특정 뉴스 내러티브의 다양한 관점을 다루어야 합니다.
오래된 뉴스 방지: 오래된 뉴스를 피하는 것은 필수적입니다. 오래된 뉴스를 보도하면 해로운 여파가 발생하여 사용자 불만족과 LLM 기반 서비스에 대한 신뢰 상실로 이어질 수 있습니다.
환각 최소화: 또 다른 과제는 대규모 언어 모델(LLMs)의 환각입니다. 환각은 LLM이 훈련 데이터의 과거 패턴을 기반으로 잘못된 데이터 또는 심지어 조작된 정보로 응답을 생성할 때 발생합니다. LLM을 시장에 출시할 때 환각의 비용은 상당히 큽니다.
대규모로 민주화된 뉴스 콘텐츠: 대규모 뉴스 콘텐츠 관리의 과제는 널리 퍼져 있습니다. 규모와 관계없이 많은 기업이 100만 건이 넘는 뉴스 기사를 추적하고, 논리적 오류가 없으며, 다양한 출처를 확보하도록 보장하는 물류 문제로 어려움을 겪고 있습니다. 이 과제를 해결하기 위한 전략적 도구는 수많은 시장 전반에 폭넓게 적용될 수 있습니다.
매개변수 공간 엔지니어링: LLM으로 기사 보강 및 임베딩 구축
Robert는 엔지니어링 매개변수 공간의 목표를 다음과 같이 정의합니다: “우리의 목표는 다양한 관점에 걸쳐 뉴스 주제를 클러스터링하기 위한 깔끔한 매개변수 공간을 만드는 것입니다 “. 핵심 아이디어는 엔터티, 특히 소규모 인구 집단에서 비롯된 엔터티를 추출하는 것입니다. Robert는 또한 내러티브를 비교하기 위해 언어 차이를 정규화해야 한다고 강조합니다.
깔끔하고 잘 정의된 매개변수 공간
그들은 뉴스 기사를 풍부하게 만드는 접근 방식을 설계했습니다. 핵심 아이디어는 여러 단계에서 대규모 언어 모델을 사용하는 것입니다.
기사의 제목과 내용을 LLM에 입력으로 제공합니다.
LLM은 기사의 내용을 번역하고 요약합니다. 기존의 기준 요약기와 달리, 요약에는 주장을 뒷받침하는 증거가 포함되어야 합니다. 이를 통해 환각과 오정보를 피할 수 있습니다.
요약된 정보에서 엔터티와 키워드를 맞춤 추출합니다. 바로 여기에서 GLiNER-news 대규모 언어 모델이 빛을 발합니다. 이 작업에 맞게 파인튜닝되어, 텍스트에서 제품명, 이벤트, 날짜, 조직과 같은 엔터티를 신속하게 식별하고 추출할 수 있습니다. GLiNER-news는 곧 HuggingFace 플랫폼에서 제공되어, 대중이 그 효율성과 효과를 경험할 수 있도록 할 예정입니다.
임베디드 페이지 구축: 풍부해진 기사는 텍스트 임베딩 모델을 사용해 벡터 임베딩으로 변환되고 Milvus와 같은 벡터 데이터베이스에 저장됩니다. 향후에는 벡터 데이터베이스에서 정보를 쿼리할 수 있습니다. 텍스트 임베딩 모델과 벡터 데이터베이스를 선택하는 것은 매우 중요합니다.
텍스트 임베딩 모델은 쿼리 시 검색 속도를 제어합니다. 또한 생성되는 임베딩의 품질에도 영향을 미칩니다. 임베딩을 생성하고 저장하는 데 드는 비용도 감당 가능해야 합니다. HuggingFace에는 텍스트 임베딩 모델을 위한 많은 옵션이 있습니다. 우리가 선택하는 벡터 데이터베이스는 견고해야 하며 병렬화 기능을 지원해야 합니다. 또한 메타데이터 필터링, 양자화 수행 등의 기능도 필요합니다. Zilliz는 견고한 오픈소스 벡터 데이터베이스인 Milvus를 제공하며, 확인해 볼 수 있습니다.
매개변수 공간에서 내러티브 추적하기
뉴스 내러티브는 여러 관점을 가져야 하며 종종 우발적 오류와 의도적 오류를 모두 포함하는 일련의 뉴스 보도입니다. 풍부해진 임베딩은 우리의 깔끔한 매개변수 공간을 특징짓습니다.
처음에는 임베딩된 매개변수의 의미적 유사성을 기반으로 클러스터링이 수행됩니다. 여러 언어와 출처의 소스를 갖는 것이 필수적입니다. Robert는 다음과 같이 언급합니다
“데이터에서 경쟁하는 관점을 갖는 것은 특정 뉴스 내러티브의 보도를 비교하는 데 매우 중요합니다 “
다음 질문은, 동일한 내러티브의 서로 다른 뉴스 보도를 시간에 따라 어떻게 연결하느냐입니다.
우리는 시간 순서를 따라 서로 다른 시간 창에서 클러스터링을 수행합니다. 다양한 방법을 통해 서로 다른 시점의 클러스터를 연결할 수 있습니다. Robert는 또한 다음과 같은 몇 가지 클러스터 연결 방법을 추천합니다:
클러스터별로 이진 분류기를 훈련하여, 뉴스 기사가 특정 내러티브에 속하는지 예측할 수 있습니다
중심 클러스터가 어떻게 변하는지 측정할 수 있습니다. 이를 통해 새로운 클러스터에 진입하는지 또는 이전 클러스터에 재진입하는지에 대한 정보를 얻을 수 있습니다(동일한 뉴스 내러티브를 나타냄)
Fuzzy C-means 및 Gaussian Mixture Models를 사용한 소프트 클러스터링과 같은 중첩 클러스터링 기법도 사용할 수 있습니다.
이 접근 방식을 통해 우리는 특정 틈새 주제를 장기간에 걸쳐 추적할 수 있습니다. 예를 들어, 아래 이미지는 6일 동안 보도된 Madonna의 콘서트에 관한 내러티브를 보여줍니다. 5월 1일에는 콘서트 발표가 있었고, 5월 6일에는 콘서트가 세운 획기적인 기록에 관한 기사가 있었습니다. 클러스터 생성 및 연결을 통해 두 기사를 순차적으로 함께 연결할 수 있습니다. 이를 통해 시간에 따른 보도와 감성을 추적하여 인사이트를 얻을 수 있습니다. 스페인 매체들이 이를 어떻게 보도하는지, 미국이 어떻게 보도하는지 등을 확인할 수 있습니다.
각 클러스터는 지역/국가 측면에서 다양해야 합니다. 프롬프트 엔지니어링을 통해 각 관점이 클러스터에 반영되도록 보장합니다. 그런 다음 서로 다른 보도 출처 간의 일치점과 모순점을 식별할 수 있습니다. 예를 들어, 미국 보도가 뉴스를 다루는 방식은 러시아 보도와 다른 감성을 가질 수 있습니다.
시연 예시
Robert는 “Alexi Navalny의 죽음”이라는 내러티브를 추적하는 예시를 제시합니다.
우리는 각 국가가 Navalny의 죽음을 보도하는 데 얼마나 많은 보도를 할애했는지 측정합니다. Robert는 차이를 비교하기 위해 러시아, 프랑스, 미국 뉴스 보도를 선택합니다. 프랑스 뉴스 보도의 0.5%가 Navalny에 할애된 반면, 러시아는 0.14%에 불과한 것으로 관찰되었습니다.
이는 러시아가 이 주제에 대한 보도에 검열을 가했을 수 있음을 나타냅니다. 또한 러시아가 보도한 뉴스 주제를 프랑스와 미국 미디어가 보도한 뉴스와 비교할 수도 있습니다. 아래 이미지는 작은 예시를 보여줍니다. 러시아에서는 부정적인 뉴스 보도가 매우 낮다는 것이 분명합니다.
Robert는 또한 다양한 국가/언어별 러시아-우크라이나 분쟁 뉴스 보도를 비교한 박스 플롯을 보여줍니다. 이 경우 미국 미디어 보도는 이례적으로 낮아 보입니다.
이러한 인사이트는 뉴스 기사가 편향되었거나 선택적으로 보도되는 경우를 이해하는 데 정말 도움이 될 수 있습니다. 이는 선택적 보도의 투명성을 높이며, 뉴스로 새로운 모델을 학습시킬 때 편향을 제거할 수 있습니다.
결론
AI 기반 다국어 내러티브 추적은 투명성을 높이고 글로벌 관점과 보다 포괄적인 사건 보도를 보장할 수 있습니다. 이는 서로 다른 한계와 문화적 배경을 가진 목소리를 포함할 수 있는 길을 열어주며, 이는 필수적입니다. 또한 다양한 출처에서 정보를 교차 검증하여 불일치 가능성을 최소화할 수 있습니다. 더 발전된 접근 방식을 개발하려면 프롬프트 엔지니어링과 LLM 아키텍처에 대한 지속적인 연구와 개발이 필요합니다.
계속 읽기
Zilliz Cloud Just Landed in Claude Code
The Zilliz Cloud Plugin brings the full power of Zilliz Cloud directly into your Claude Code terminal as natural-language conversations.
Why I’m Against Claude Code’s Grep-Only Retrieval? It Just Burns Too Many Tokens
Learn how vector-based code retrieval cuts Claude Code token consumption by 40%. Open-source solution with easy MCP integration. Try claude-context today.
Demystifying the Milvus Sizing Tool
Explore how to use the Sizing Tool to select the optimal configuration for your Milvus deployment.