O papel dos LLMs nas viagens modernas: oportunidades e desafios à frente
Grandes Modelos de Linguagem (LLMs) tornaram-se um importante impulsionador de inovação em diversos setores. Eles permitem que sistemas compreendam, gerem e interajam com linguagem natural como humanos. A GetYourGuide (GYC), um marketplace online para experiências de viagem, tem usado LLMs para impulsionar novos desenvolvimentos no setor de turismo.
Em um recente Berlin Unstructured Data Meetup organizado pela Zilliz, Meghna Satish, uma Engenheira de Machine Learning na GetYourGuide, compartilhou insights sobre a jornada deles com LLMs. Ela discutiu os produtos que eles criaram, seus desafios e como os LLMs reformularam as plataformas de viagem ao melhorar as experiências dos clientes e as interações dos usuários.
Neste blog, recapitularemos seus principais pontos e exploraremos como os LLMs podem ser integrados ao banco de dados vetorial Milvus para abordar problemas comuns como alucinações. Para mais detalhes, assista à reprodução completa de sua palestra no YouTube.
Como a GYG Usa LLMs para Melhorar Seus Serviços
LLMs transformaram praticamente todos os setores, e o turismo não é exceção. A GetYourGuide (GYG), um marketplace online para serviços e experiências de viagem, reconhece o poder dos LLMs para aprimorar as experiências dos clientes, otimizar operações e fornecer serviços mais eficientes.
Tradução e Localização de Conteúdo
Uma das principais aplicações dos LLMs na GYG é a tradução e localização de conteúdo. Ao derrubar barreiras linguísticas, os LLMs permitem a tradução em tempo real de informações de viagem, incluindo artigos, descrições de hotéis e avaliações, permitindo que usuários em diferentes regiões compreendam o conteúdo em seu idioma nativo. Essa abordagem localizada impulsiona o engajamento ao oferecer a cada usuário informações relevantes e acessíveis.
A GYG conta com o ChatGPT para realizar traduções, pois ele fornece traduções de alta qualidade que se alinham ao tom de voz da GYG. No entanto, a distribuição dos dados de treinamento do ChatGPT é fortemente inclinada ao inglês, com cerca de 50% de suas fontes em inglês, 6% em espanhol, 32% em idiomas europeus e 18% em idiomas asiáticos. Para combater possíveis vieses e garantir precisão, a GYG emprega uma abordagem híbrida, combinando traduções do ChatGPT com redes neurais adicionais de deep learning para pós-edição, alcançando uma localização mais equilibrada e culturalmente sensível.
Geração de Conteúdo e Suporte ao Cliente
A GYG também usa LLMs para otimizar a criação de conteúdo, desde descrições de tours assistidas por IA até guias abrangentes de destinos e blogs de viagem. Ao automatizar a geração de conteúdo, os LLMs ajudam a manter a plataforma da GYG atualizada e envolvente, fornecendo aos viajantes informações atualizadas enquanto liberam tempo valioso para a equipe de conteúdo.
Além de gerar conteúdo, os LLMs dão suporte ao atendimento ao cliente ao lidar com altos volumes de consultas por meio de FAQs automatizadas e conversas em múltiplos turnos. Isso reduz a demanda por equipes de suporte humano, permitindo que elas se concentrem em casos mais complexos enquanto reduzem os custos operacionais. Respostas alimentadas por LLMs garantem que os clientes recebam respostas rápidas e precisas, aprimorando a experiência geral do usuário.
Possibilidades Futuras: Personalização
Embora ainda não implementados na GYG, os LLMs têm grande potencial para personalização. Os LLMs poderiam criar conteúdo personalizado para usuários individuais aproveitando dados do usuário, como histórico de pesquisa, padrões de reserva e preferências de interação. Isso poderia incluir itinerários personalizados, recomendações de atividades e descontos personalizados alinhados aos interesses de viagem únicos de um usuário.
Desafios do Uso de LLMs na GYG
Depois de obter traduções iniciais e geração de conteúdo, a equipe encontrou vários desafios ao usar LLMs, particularmente o ChatGPT, para a pós-edição de conteúdo de localização:
Alucinação: Se não tiver informações específicas sobre a consulta, o ChatGPT às vezes gera detalhes incorretos ou fabricados. Por exemplo, ele pode inventar nomes, lugares ou eventos que não estão presentes no texto original quando faz a tradução, introduzindo imprecisões que comprometem a qualidade da tradução. O ChatGPT também tende a responder a perguntas em vez de seguir estritamente a tarefa de tradução, levando a conteúdo não intencional.
Vazamento de Prompt: O ChatGPT ocasionalmente adiciona caracteres ou informações extras não encontrados no prompt original, o que pode levar a respostas que se desviam do propósito pretendido e tornam o prompt irrelevante. Esse "vazamento" interrompe a saída pretendida, exigindo verificações e edições adicionais.
Consistência de Papel: O ChatGPT às vezes não consegue manter seu papel atribuído. Se um prompt se desviar ligeiramente do tom ou conteúdo esperado, o ChatGPT pode responder com comentários sobre a tarefa em si, em vez de aderir estritamente às instruções. Isso pode interferir em tarefas que exigem consistência, como tradução, em que manter o foco na tarefa é essencial.
Para enfrentar esses desafios, a supervisão humana é necessária para garantir precisão e relevância. No entanto, a intervenção humana pode ser capaz de gerenciar esses problemas de forma eficaz para aplicações de pequena a média escala. A supervisão manual simplesmente não é viável para grandes sistemas, digamos, com centenas de milhares de usuários diários.
Aqui, oferecemos Geração Aumentada por Recuperação (RAG) como solução: ao alimentar o LLM com fontes de dados externas, o RAG pode mitigar alucinações e preencher lacunas de conhecimento que, de outra forma, exigiriam intervenção humana. As seções a seguir discutem como o RAG funciona e por que bancos de dados vetoriais tornam essa abordagem escalável e eficaz.
Geração Aumentada por Recuperação (RAG) para Mitigar Alucinações de LLMs
RAG é uma solução robusta para reduzir alucinações de LLMs, especialmente quando as consultas exigem conhecimento específico fora dos dados de treinamento do modelo. Por exemplo, se você perguntar a um LLM sobre dados proprietários, é provável que ele retorne uma resposta imprecisa. O RAG aborda esse problema recuperando contexto relevante e fornecendo-o ao LLM, permitindo que ele responda com mais precisão.
Uma configuração padrão de RAG combina um LLM (como o ChatGPT), um banco de dados vetorial (como Milvus ou sua versão gerenciada, Zilliz Cloud) e um modelo de embedding. Os desenvolvedores podem criar sistemas RAG ainda mais avançados integrando ferramentas adicionais como LlamaIndex, LangChain, DSPy ou rerankers, cada uma adaptada para aprimorar a recuperação, a reclassificação ou outras tarefas especializadas para resultados mais precisos e relevantes.
Figure- RAG workflow.png
Veja como o RAG funciona:
Vetorização: Em vez de enviar a consulta de entrada diretamente para o LLM, um modelo de embeddings primeiro codifica a consulta e quaisquer fontes de conhecimento adicionais em embeddings vetoriais, respectivamente.
Armazenamento Vetorial: Esses embeddings vetoriais são então armazenados em um banco de dados vetorial como Milvus ou Zilliz Cloud, que gerencia com eficiência grandes volumes de dados vetorizados para recuperação rápida.
Busca por Similaridade Vetorial: O banco de dados vetorial realiza uma busca por similaridade, identificando os top-k resultados que correspondem ao contexto e à semântica da consulta do usuário.
Passagem de Contexto para o LLM: Os resultados com maior correspondência da busca vetorial são fornecidos ao LLM juntamente com a consulta original. Isso fornece ao LLM informações relevantes e atualizadas, ajudando a reduzir alucinações e melhorar a precisão da resposta.
Geração da Resposta Final: O LLM combina seu conhecimento pré-treinado com o contexto recuperado para produzir uma resposta mais precisa e bem-informada.
Essa abordagem permite que o LLM lide com perguntas complexas ou específicas de forma eficaz, mesmo quando não possui treinamento direto sobre o tópico.
RAG vs. Ajuste fino de um Modelo
RAG e ajuste fino melhoram os LLMs, mas de maneiras distintas. O RAG enriquece as respostas ao buscar informações relevantes e atualizadas de fontes externas em tempo real, tornando-o ideal para casos em que as informações mudam com frequência ou abrangem uma ampla variedade de tópicos. Essa abordagem permite que o LLM lide com consultas diversas ou dinâmicas sem retreinamento extensivo, mantendo a relevância e reduzindo custos. Em contraste, o ajuste fino atualiza permanentemente o conhecimento do modelo ao ajustar seus pesos em um conjunto de dados específico, tornando-o bem adequado para aplicações que exigem conhecimento profundo em um domínio estável. No entanto, o ajuste fino consome muitos recursos e é menos adaptável a informações que mudam rapidamente.
Em última análise, o RAG é ideal para tarefas escaláveis e adaptáveis que precisam de acesso imediato a dados externos, enquanto o ajuste fino é melhor para aplicações especializadas que se beneficiam de conhecimento incorporado. Para muitos casos de uso, a flexibilidade e a eficiência de custos do RAG o tornam uma escolha atraente em relação ao ajuste fino tradicional.
No entanto, em vez de ver RAG e ajuste fino como mutuamente exclusivos, muitas vezes é vantajoso vê-los como estratégias complementares. Uma abordagem equilibrada poderia envolver o ajuste fino do LLM para melhorar sua compreensão da linguagem específica do domínio, garantindo que ele produza saídas que atendam às necessidades específicas da sua aplicação. Simultaneamente, usar RAG pode aumentar ainda mais a qualidade e a relevância das respostas ao fornecer ao modelo informações atualizadas e contextualmente apropriadas extraídas de fontes externas. Essa estratégia combinada permite que você aproveite os pontos fortes de ambas as técnicas, resultando em uma solução mais robusta e eficaz que atende tanto a requisitos gerais quanto especializados.
Resumo
Os LLMs estão promovendo uma grande mudança no setor de viagens, permitindo que empresas como GetYourGuide (GYG) ofereçam experiências eficientes aos clientes. Por meio de casos de uso como tradução de idiomas e geração de conteúdo, a GYG aprimora a forma como sua plataforma interage com seus usuários, tornando seus serviços mais acessíveis.
Embora usar ChatGPT e redes neurais de deep learning funcione muito bem para tradução de idiomas e muitas outras tarefas, isso traz seus próprios desafios, particularmente alucinações. O RAG é uma abordagem amplamente adotada para lidar com esses problemas ao conectar conhecimento externo de um banco de dados vetorial como Milvus ao LLM para uma saída mais precisa.
Recursos Recomendados
Continue lendo

How Zilliz Ended Up at the Center of NVIDIA’s Unstructured Data Story at GTC 2026
If unstructured data is the context of AI, then the ceiling of AI applications will be set not just by models, but by how mature the infrastructure for unstructured data becomes.

8 Latest RAG Advancements Every Developer Should Know
Explore eight advanced RAG variants that can solve real problems you might be facing: slow retrieval, poor context understanding, multimodal data handling, and resource optimization.

How to Build RAG with Milvus, QwQ-32B and Ollama
Hands-on tutorial on how to create a streamlined, powerful RAG pipeline that balances efficiency, accuracy, and scalability using the QwQ-32B and Milvus.



