Le rôle des LLM dans le voyage moderne : opportunités et défis à venir
Les grands modèles de langage (LLMs) sont devenus un moteur important d’innovation dans tous les secteurs. Ils permettent aux systèmes de comprendre, de générer et d’interagir avec le langage naturel comme les humains. GetYourGuide (GYC), une place de marché en ligne pour les expériences de voyage, utilise les LLMs pour faire progresser de nouveaux développements dans le secteur du tourisme.
Lors d’un récent Berlin Unstructured Data Meetup organisé par Zilliz, Meghna Satish, Machine Learning Engineer chez GetYourGuide, a partagé des informations sur leur parcours avec les LLMs. Elle a présenté les produits qu’ils ont créés, les défis qu’ils ont rencontrés et la manière dont les LLMs ont remodelé les plateformes de voyage en améliorant les expériences client et les interactions utilisateur.
Dans ce blog, nous récapitulerons ses points clés et explorerons comment les LLMs peuvent être intégrés à la base de données vectorielle Milvus pour résoudre des problèmes courants tels que les hallucinations. Pour plus de détails, regardez l’intégralité de la rediffusion de son intervention sur YouTube.
Comment GYG utilise les LLMs pour améliorer ses services
Les LLMs ont transformé presque tous les secteurs, et le tourisme ne fait pas exception. GetYourGuide (GYG), une place de marché en ligne pour les services et expériences de voyage, reconnaît le pouvoir des LLMs pour améliorer les expériences client, rationaliser les opérations et fournir des services plus efficaces.
Traduction et localisation de contenu
L’une des principales applications des LLMs chez GYG est la traduction et la localisation de contenu. En éliminant les barrières linguistiques, les LLMs permettent la traduction en temps réel d’informations de voyage, notamment des articles, des descriptions d’hôtels et des avis, permettant aux utilisateurs de différentes régions de comprendre le contenu dans leur langue maternelle. Cette approche localisée favorise l’engagement en offrant à chaque utilisateur des informations pertinentes et accessibles.
GYG s’appuie sur ChatGPT pour effectuer les traductions, car il fournit des traductions de haute qualité qui correspondent au ton de voix de GYG. Cependant, la distribution des données d’entraînement de ChatGPT penche fortement vers l’anglais, avec environ 50 % de ses sources en anglais, 6 % en espagnol, 32 % en langues européennes et 18 % en langues asiatiques. Pour contrer les biais potentiels et garantir l’exactitude, GYG utilise une approche hybride, combinant les traductions de ChatGPT avec des réseaux neuronaux supplémentaires de deep learning pour la post-édition, obtenant ainsi une localisation plus équilibrée et culturellement sensible.
Génération de contenu et support client
GYG utilise également les LLMs pour rationaliser la création de contenu, des descriptions de visites assistées par l’IA aux guides de destination complets et aux blogs de voyage. En automatisant la génération de contenu, les LLMs contribuent à maintenir la plateforme de GYG fraîche et attrayante, en fournissant aux voyageurs des informations à jour tout en libérant un temps précieux pour l’équipe de contenu.
En plus de générer du contenu, les LLMs soutiennent le service client en traitant de grands volumes de requêtes grâce à des FAQ automatisées et à des conversations à plusieurs tours. Cela réduit la demande pesant sur les équipes de support humain, leur permettant de se concentrer sur des cas plus complexes tout en abaissant les coûts opérationnels. Les réponses alimentées par les LLMs garantissent que les clients reçoivent des réponses rapides et précises, améliorant ainsi l’expérience utilisateur globale.
Possibilités futures : personnalisation
Bien que pas encore mis en œuvre chez GYG, les LLM présentent un grand potentiel de personnalisation. Les LLM pourraient créer du contenu adapté à chaque utilisateur en exploitant des données utilisateur telles que l’historique de recherche, les habitudes de réservation et les préférences d’interaction. Cela pourrait inclure des itinéraires personnalisés, des recommandations d’activités et des remises sur mesure alignées sur les centres d’intérêt de voyage uniques d’un utilisateur.
Défis liés à l’utilisation des LLM chez GYG
Après avoir obtenu les premières traductions et la génération de contenu, l’équipe a rencontré plusieurs défis lors de l’utilisation des LLM, en particulier ChatGPT, pour la post-édition de contenu de localisation :
Hallucination : S’il manque d’informations spécifiques sur la requête, ChatGPT génère parfois des détails incorrects ou fabriqués. Par exemple, il peut inventer des noms, des lieux ou des événements absents du texte original lorsqu’il effectue la traduction, introduisant des inexactitudes qui compromettent la qualité de la traduction. ChatGPT a également tendance à répondre aux questions plutôt qu’à suivre strictement la tâche de traduction, ce qui entraîne du contenu non intentionnel.
Fuite de prompt : ChatGPT ajoute occasionnellement des caractères ou des informations supplémentaires qui ne figurent pas dans le prompt original, ce qui peut conduire à des réponses qui s’écartent de l’objectif prévu et rendent le prompt non pertinent. Cette « fuite » perturbe le résultat attendu, nécessitant des vérifications et des modifications supplémentaires.
Cohérence du rôle : ChatGPT ne parvient parfois pas à maintenir le rôle qui lui a été attribué. Si un prompt s’écarte légèrement du ton ou du contenu attendu, ChatGPT peut répondre par des commentaires sur la tâche elle-même plutôt que de respecter strictement les instructions. Cela peut interférer avec des tâches qui exigent de la cohérence, comme la traduction, où il est essentiel de rester concentré sur la tâche.
Pour relever ces défis, une supervision humaine est nécessaire afin de garantir l’exactitude et la pertinence. Cependant, l’intervention humaine peut permettre de gérer efficacement ces problèmes pour des applications de petite à moyenne échelle. La supervision manuelle n’est tout simplement pas réalisable pour de grands systèmes, disons avec des centaines de milliers d’utilisateurs quotidiens.
Ici, nous proposons la génération augmentée par récupération (RAG) comme solution : en fournissant au LLM des sources de données externes, la RAG peut atténuer les hallucinations et combler les lacunes de connaissances qui nécessiteraient autrement une intervention humaine. Les sections suivantes expliquent comment fonctionne la RAG et pourquoi les bases de données vectorielles rendent cette approche évolutive et efficace.
Génération augmentée par récupération (RAG) pour atténuer les hallucinations des LLM
La RAG est une solution robuste pour réduire les hallucinations des LLM, en particulier lorsque les requêtes nécessitent des connaissances spécifiques en dehors des données d’entraînement du modèle. Par exemple, si vous interrogez un LLM sur des données propriétaires, il est susceptible de renvoyer une réponse inexacte. La RAG résout ce problème en récupérant le contexte pertinent et en le fournissant au LLM, ce qui lui permet de répondre plus précisément.
Une configuration RAG standard combine un LLM (comme ChatGPT), une base de données vectorielle (telle que Milvus ou sa version gérée, Zilliz Cloud) et un modèle d’embedding. Les développeurs peuvent créer des systèmes RAG encore plus avancés en intégrant des outils supplémentaires comme LlamaIndex, LangChain, DSPy ou des rerankers, chacun étant conçu pour améliorer la récupération, le reclassement ou d’autres tâches spécialisées afin d’obtenir des résultats plus précis et pertinents.
Figure- RAG workflow.png
Voici comment fonctionne la RAG :
Vectorisation: Au lieu d’envoyer la requête d’entrée directement au LLM, un modèle d’embedding encode d’abord la requête et toute source de connaissances supplémentaire en embeddings vectoriels, respectivement.
Stockage vectoriel: Ces embeddings vectoriels sont ensuite stockés dans une base de données vectorielle comme Milvus ou Zilliz Cloud, qui gère efficacement de grands volumes de données vectorisées pour une récupération rapide.
Recherche de similarité vectorielle: La base de données vectorielle effectue une recherche de similarité, identifiant les top-k résultats qui correspondent au contexte et à la sémantique de la requête de l’utilisateur.
Transmission du contexte au LLM: Les résultats les plus pertinents issus de la recherche vectorielle sont fournis au LLM avec la requête d’origine. Cela fournit au LLM des informations pertinentes et à jour, ce qui aide à réduire les hallucinations et à améliorer la précision des réponses.
Génération de la réponse finale: Le LLM combine ses connaissances pré-entraînées avec le contexte récupéré afin de produire une réponse plus précise et mieux informée.
Cette approche permet au LLM de traiter efficacement des questions complexes ou spécifiques, même lorsqu’il n’a pas été directement entraîné sur le sujet.
RAG vs. ajustement fin d’un modèle
RAG et l’ajustement fin améliorent tous deux les LLM, mais de manières distinctes. RAG enrichit les réponses en extrayant en temps réel des informations pertinentes et à jour depuis des sources externes, ce qui le rend idéal pour les cas où les informations changent fréquemment ou couvrent un large éventail de sujets. Cette approche permet au LLM de traiter des requêtes diverses ou dynamiques sans ré-entraînement important, en maintenant la pertinence et en réduisant les coûts. En revanche, l’ajustement fin met à jour de façon permanente les connaissances du modèle en ajustant ses poids sur un jeu de données spécifique, ce qui le rend bien adapté aux applications nécessitant une expertise approfondie dans un domaine stable. Cependant, l’ajustement fin est gourmand en ressources et moins adaptable aux informations qui changent rapidement.
En fin de compte, RAG est optimal pour les tâches évolutives et adaptables nécessitant un accès immédiat à des données externes, tandis que l’ajustement fin convient mieux aux applications spécialisées qui bénéficient d’une expertise intégrée. Pour de nombreux cas d’utilisation, la flexibilité et l’efficacité économique de RAG en font un choix attrayant par rapport à l’ajustement fin traditionnel.
Cependant, plutôt que de considérer RAG et l’ajustement fin comme mutuellement exclusifs, il est souvent avantageux de les voir comme des stratégies complémentaires. Une approche équilibrée pourrait consister à ajuster finement le LLM afin d’améliorer sa compréhension du langage propre au domaine, en veillant à ce qu’il produise des sorties répondant aux besoins particuliers de votre application. Simultanément, l’utilisation de RAG peut encore améliorer la qualité et la pertinence des réponses en fournissant au modèle des informations à jour et contextuellement appropriées issues de sources externes. Cette stratégie combinée vous permet de tirer parti des forces des deux techniques, aboutissant à une solution plus robuste et efficace qui répond à la fois aux exigences générales et spécialisées.
Résumé
Les LLM entraînent un changement majeur dans le secteur du voyage, permettant à des entreprises comme GetYourGuide (GYG) de fournir des expériences client efficaces. Grâce à des cas d’utilisation tels que la traduction linguistique et la génération de contenu, GYG améliore la manière dont sa plateforme interagit avec ses utilisateurs, rendant ses services plus accessibles.
Bien que l’utilisation de ChatGPT et des réseaux neuronaux d’apprentissage profond fonctionne très bien pour la traduction linguistique et de nombreuses autres tâches, elle comporte ses propres défis, en particulier les hallucinations. RAG est une approche largement adoptée pour résoudre ce type de problèmes en connectant des connaissances externes provenant d’une base de données vectorielle comme Milvus au LLM afin d’obtenir une sortie plus précise.
Ressources recommandées
Comment créer un RAG multilingue avec Milvus, LangChain et OpenAI
Créer un RAG multimodal avec Gemini, BGE-M3, Milvus et LangChain
Créer des applications d’IA avec Milvus : tutoriels et notebooks
Les modèles d’IA les plus performants pour vos applications GenAI | Zilliz
Pourquoi les bases de données vectorielles sont importantes pour les données non structurées
Continuer à lire

Zilliz Cloud On-Demand Compute: Pay Only for What You Use
The customer case behind Zilliz Cloud On-Demand: how a $10K vector search bill came down to under $500, and the engineering changes that made it possible.

Expanding Our Global Reach: Zilliz Cloud Launches in Azure Central India
Zilliz Cloud expands to Azure Central India. This new region helps customers meet compliance, reduce latency, and optimize cloud costs when building AI applications.

DeepSeek Always Busy? Deploy It Locally with Milvus in Just 10 Minutes—No More Waiting!
Learn how to set up DeepSeek-R1 on your local machine using Ollama, AnythingLLM, and Milvus in just 10 minutes. Bypass busy servers and enhance AI responses with custom data.



