Acompanhamento de Narrativas Multilíngues nas Notícias
Modelos de Linguagem de Grande Escala (LLMs) transformaram a forma como realizamos várias tarefas, como geração de conteúdo, chatbots de atendimento ao cliente, etc. Com o crescimento do uso de LLMs, precisamos garantir que os modelos sejam imparciais em seu conhecimento das notícias atuais para fornecer respostas confiáveis. O rastreamento narrativo multilíngue ajuda a alcançar isso.
Uma narrativa, uma sequência de eventos interconectados, é uma ferramenta poderosa para compreender o mundo ao nosso redor. Por exemplo, quando o novo trailer do filme da Barbie foi lançado, e a Bath & Body Works lançou uma Edição Barbie de Velas alguns dias depois, esses dois eventos formaram uma narrativa. No contexto do rastreamento de notícias, estamos essencialmente rastreando essas narrativas. A narrativa da Campanha do Filme da Barbie, com sua cobertura e seus sentimentos diversos em diferentes regiões e idiomas, é um excelente exemplo. Esse processo de analisar como uma narrativa é reportada em termos de volume e sentimento em diferentes idiomas (países) é o que chamamos de Rastreamento Narrativo Multilíngue.
Robert Caulk, o Fundador da Emergent Methods, apresentou recentemente uma palestra sobre rastreamento narrativo multilíngue de notícias no Berlin Meetup de Dados Não Estruturados conduzido pela Zilliz. A Emergent Methods desenvolve software de código aberto para aplicar IA a desafios de modelagem adaptativa em tempo real.
Durante a palestra, Robert enfatiza a necessidade de rastrear diferentes narrativas de artigos de notícias. Ele apresenta uma arquitetura de modelos de embeddings combinada com LLM para rastrear Notícias Globais em diversos países, idiomas e fontes.
Por que precisamos projetar contextos de notícias?
Robert discute os principais motivos pelos quais a Equipe da Emergent Methods estava analisando diferentes abordagens para projetar o contexto das notícias e rastrear as narrativas:
Aplicação de padrões jornalísticos: É fundamental garantir que os LLMs sigam padrões jornalísticos rigorosos. É crucial impedir a disseminação de alegações não verificadas, pois isso poderia levar à desinformação e à desconfiança.
Diversidade de fontes e idiomas: O LLM deve conhecer notícias atuais ou eventos em andamento ao desenvolver serviços baseados em LLMs para qualquer produto, de um Chatbot amigável a um Assistente de Analista Financeiro. O LLM deve ser exposto a notícias diversas em idiomas, países e outros dados demográficos. As fontes não podem ser tendenciosas, pois não representariam a base de clientes de forma democrática. Por exemplo, os artigos de notícias russos e dos EUA terão perspectivas diferentes sobre questões como a guerra da Ucrânia. Precisamos cobrir as diferentes perspectivas de qualquer narrativa específica de notícias em vários idiomas.
Evitar notícias desatualizadas: É imperativo evitar notícias desatualizadas. Reportar notícias obsoletas pode ter repercussões prejudiciais, levando à insatisfação dos usuários e à perda de confiança em serviços baseados em LLM.
Minimizar alucinações: Outro desafio são as alucinações dos modelos de linguagem de grande escala (LLMs). Alucinações ocorrem quando LLMs geram respostas com dados incorretos ou até mesmo informações fabricadas com base em padrões históricos nos dados de treinamento. Os custos das alucinações são elevados quando levamos LLMs ao mercado.
Conteúdo de notícias democratizado em escala: O desafio de gerenciar conteúdo de notícias em escala é generalizado. Muitas empresas, independentemente de seu tamanho, enfrentam dificuldades com a logística de rastrear mais de 1 milhão de artigos de notícias, garantindo que estejam livres de falácias lógicas e tenham fontes diversificadas. Uma ferramenta estratégica para enfrentar esse desafio poderia ter amplas aplicações em numerosos mercados.
Engenharia do espaço de parâmetros: enriquecendo artigos com LLM e construindo embeddings
Robert define o objetivo do espaço de parâmetros de engenharia como: “Nosso objetivo é criar um espaço de parâmetros limpo para agrupar tópicos de notícias em diversas perspectivas “. A ideia é extrair entidades, especialmente aquelas originadas de pequenos grupos demográficos. Robert também enfatiza a necessidade de normalizar diferenças linguísticas para comparar narrativas.
Um espaço de parâmetros limpo e bem definido
Eles projetaram uma abordagem para enriquecer artigos de notícias. A ideia é usar grandes modelos de linguagem em várias etapas.
Fornecer o título e o conteúdo do artigo como entrada para um LLM.
O LLM traduz e resume o conteúdo do artigo. Ao contrário dos sumarizadores de referência tradicionais, a sumarização deve incluir evidências para apoiar alegações. Isso evitará alucinações e desinformação.
Realizar a extração personalizada de entidades e palavras-chave das informações resumidas. É aqui que o grande modelo de linguagem GLiNER-news se destaca. Ajustado especificamente para essa tarefa, ele consegue identificar e extrair rapidamente entidades como nomes de produtos, eventos, datas e organizações do texto. O GLiNER-news estará disponível em breve na plataforma HuggingFace, convidando o público a experimentar sua eficiência e eficácia.
Construção da página incorporada: Os artigos enriquecidos são convertidos em incorporações vetoriais usando um modelo de incorporação de texto e armazenados em um banco de dados vetorial como o Milvus. No futuro, as informações poderão ser consultadas no banco de dados vetorial. Escolher o modelo de incorporação de texto e o banco de dados vetorial é crucial.
O modelo de incorporação de texto controlará nossa velocidade de recuperação durante as consultas. Ele também afetará a qualidade das incorporações geradas. Os custos incorridos para criar e armazenar incorporações também precisam ser acessíveis. Há muitas opções disponíveis no HuggingFace para modelos de incorporação de texto. O banco de dados vetorial que escolhemos precisa ser robusto e oferecer suporte a recursos de paralelização. Também precisamos de recursos como a capacidade de filtrar metadados, realizar quantização etc. A Zilliz fornece um banco de dados vetorial robusto e de código aberto, Milvus, que você pode conferir.
Rastreamento de Narrativas em nosso Espaço de Parâmetros
Uma narrativa jornalística é uma série de reportagens que deve ter múltiplos pontos de vista e frequentemente contém erros tanto acidentais quanto intencionais. As incorporações enriquecidas caracterizam nosso espaço de parâmetros limpo.
Inicialmente, o agrupamento é feito com base na similaridade semântica dos parâmetros incorporados. É essencial ter fontes de vários idiomas e origens. Robert menciona que
“Ter Perspectivas Concorrentes nos dados é crucial para comparar a cobertura de uma determinada narrativa jornalística “
A próxima pergunta é: como conectamos diferentes reportagens da mesma narrativa ao longo do tempo?
Fazemos agrupamento em diferentes janelas de tempo, seguindo a sequência cronológica. Podemos conectar os clusters em diferentes pontos no tempo por meio de vários métodos. Robert também recomenda alguns métodos de conexão de clusters, como:
Você pode treinar um classificador binário por cluster, para prever se o artigo de notícias pertence a uma determinada narrativa
Você pode medir como o cluster do centróide muda. Isso pode fornecer informações sobre se você está entrando em um novo cluster ou retornando a um antigo (indicativo da mesma narrativa jornalística)
Também podemos usar técnicas de agrupamento sobrepostas, como Fuzzy C-means e agrupamento suave com Gaussian Mixture Models.
Por meio dessa abordagem, podemos acompanhar um nicho específico ao longo de longos intervalos de tempo. Por exemplo, a imagem abaixo mostra uma narrativa sobre o concerto da Madonna relatada ao longo de 6 dias. Em 1º de maio, houve um anúncio do concerto e, em 6 de maio, houve um artigo sobre recordes inovadores estabelecidos pelo concerto. Por meio da criação e conexão de clusters, podemos vincular os dois artigos em sequência. Isso nos permite acompanhar a cobertura e o sentimento ao longo do tempo para obter insights. Podemos verificar como as fontes espanholas estão reportando isso, como os EUA estão reportando isso e muito mais.
Cada cluster deve ser diverso em regiões/países. Por meio de engenharia de prompts, garantimos que cada perspectiva seja representada no cluster. Então, podemos identificar alinhamentos e contradições entre diferentes fontes de reportagem. Por exemplo, como os relatórios dos EUA sobre notícias podem ter um sentimento diferente dos relatórios da Rússia.
Exemplos Demonstrativos
Robert apresenta um exemplo de acompanhamento da narrativa da “Morte de Alexi Navalny”.
Medimos quanta cobertura cada país dedicou a reportar a morte de Navalny. Robert escolhe a cobertura de notícias russa, francesa e dos EUA para comparar as diferenças. Observou-se que 0,5% da cobertura de notícias francesa foi dedicada a Navalny, enquanto a Rússia tem apenas 0,14%.
Isso indica que a Rússia pode ter imposto censura à reportagem sobre este tópico. Também podemos comparar quais tópicos de notícias a Rússia reportou em comparação com as notícias reportadas pela mídia francesa e dos EUA. A imagem abaixo mostra um pequeno exemplo. É evidente que a cobertura de notícias negativas é muito baixa na Rússia.
Robert também nos mostra box plots comparando a cobertura de notícias do conflito Rússia-Ucrânia por diferentes países/idiomas. Neste caso, a cobertura da mídia dos EUA parece ser incomumente baixa.
Esses insights podem ser realmente úteis para entender casos em que artigos de notícias são tendenciosos ou reportados seletivamente. Isso aumenta a transparência da reportagem seletiva, e podemos remover o viés ao treinar novos modelos com as notícias.
Conclusão
O acompanhamento de Narrativas Multilíngues com tecnologia de IA pode aumentar a transparência e garantir perspectivas globais e uma cobertura de eventos mais abrangente. Ele abre caminho para incluir vozes de diferentes limites e contextos culturais, o que é essencial. Também podemos verificar nossas informações de forma cruzada em várias fontes, minimizando as chances de inconsistências. Pesquisa e desenvolvimentos contínuos em engenharia de prompts e arquitetura de LLM são necessários para desenvolver abordagens mais avançadas
Continue lendo
Zilliz Cloud BYOC Now Available Across AWS, GCP, and Azure
Zilliz Cloud BYOC is now generally available on all three major clouds. Deploy fully managed vector search in your own AWS, GCP, or Azure account — your data never leaves your VPC.
DeepSeek-OCR Explained: Optical Compression for Scalable Long-Context and RAG Systems
Discover how DeepSeek-OCR uses visual tokens and Contexts Optical Compression to boost long-context LLM efficiency and reshape RAG performance.
Zilliz Cloud Update: Tiered Storage, Business Critical Plan, Cross-Region Backup, and Pricing Changes
This release offers a rebuilt tiered storage with lower costs, a new Business Critical plan for enhanced security, and pricing updates, among other features.