RAG sécurisé avec HydroX AI et Zilliz : masquage des PII pour une GenAI responsable
Avec la croissance rapide de l’intelligence artificielle, une énorme quantité de données non structurées—comme le contenu web et les informations privées—a été utilisée pour entraîner des modèles d’IA et alimenter des applications de GenAI telles que la génération augmentée par récupération (RAG). La protection des informations personnelles identifiables (PII) est devenue essentielle pour utiliser ces données de manière responsable, en particulier pendant l’entraînement et l’inférence des modèles.
Pour répondre à ce besoin critique, Zilliz, le créateur de la base de données vectorielle open source Milvus, s’est associé à HydroX AI pour présenter le PII Masker, un outil avancé conçu pour renforcer la confidentialité des données dans les applications d’IA.
L’importance de la sécurité des PII et de la sécurité de la GenAI
Les modèles d’IA générative (GenAI) ont ouvert de nouvelles possibilités dans la création de contenu, les réponses aux questions et l’analyse de l’information, mais ils apportent également des défis de sécurité spécifiques. Comme les modèles de GenAI sont entraînés sur des ensembles de données massifs et variés, ils peuvent apprendre et reproduire involontairement des PII sensibles intégrées dans ces données. Ce risque devient particulièrement préoccupant lorsque des données privées pourraient être révélées involontairement dans la sortie du modèle.
Garantir la sécurité des données dans les workflows de GenAI est essentiel—non seulement pour aider les organisations à rester conformes, mais aussi pour améliorer les performances des modèles en réduisant les fuites de données et en minimisant les hallucinations, lorsque les modèles produisent des informations incorrectes ou trompeuses.
PII Masker ajoute une couche de sécurité importante aux modèles de GenAI en filtrant les PII avant que les données ne soient stockées dans des bases de données vectorielles comme Milvus ou Zilliz Cloud (la version gérée de Milvus). Cette étape réduit considérablement le risque d’exposition d’informations sensibles, en particulier lors de l’utilisation de bases de données vectorielles pour stocker des données non structurées et leurs représentations vectorielles à haute dimension pour les recherches par similarité et la compréhension sémantique dans les applications de GenAI.
Bases de données vectorielles et GenAI : une alliance parfaite avec un besoin de sécurité
Les bases de données vectorielles comme Milvus sont l’épine dorsale de nombreuses applications de GenAI, stockant, indexant et récupérant efficacement des vector embeddings. Dans des scénarios comme la recherche d’images, de texte et de vidéos, Milvus permet aux modèles de GenAI de fonctionner avec des informations ancrées afin de générer des réponses de haute qualité, offrant une solution évolutive pour les applications pilotées par l’IA dans tous les secteurs, de la santé à la finance. Cependant, les vector embeddings peuvent souvent contenir des traces de PII, difficiles à détecter avec les méthodes traditionnelles, ce qui rend les solutions innovantes de confidentialité des données essentielles pour les applications en aval.
PII Masker joue ici un rôle essentiel. Les organisations peuvent garantir la confidentialité à chaque couche de leur pipeline de données en anonymisant ou en masquant les PII à l’aide du PII Marker avant que les données n’atteignent la base de données vectorielle. PII Masker s’est intégré de manière transparente à Milvus et à Zilliz Cloud, permettant aux utilisateurs de créer des applications de GenAI en toute confiance tout en maintenant leurs bases de connaissances et leurs applications RAG conformes aux réglementations sur la confidentialité et en protégeant les données des utilisateurs.
Fonctionnalités clés de PII Masker pour la sécurité des modèles d’IA
Développé par HydroX AI en collaboration avec Zilliz, PII Masker détecte et masque automatiquement les PII avec une grande précision. Grâce au modèle NLP DeBERTa-v3, PII Masker identifie les informations sensibles et fournit une sortie structurée pour une gestion facile. Avec une prise en charge allant jusqu’à 1 024 tokens, PII Masker traite efficacement de grands ensembles de données tout en protégeant les PII. Cette capacité aide à empêcher les applications RAG et diverses applications GenAI d’exposer accidentellement des informations sensibles dans les réponses, réduisant ainsi les risques de fuite de données et garantissant que les requêtes restent privées.
L’avenir de PII Masker
Bien que PII Masker offre déjà des avantages substantiels, HydroX AI s’engage à faire progresser ses capacités. Voici deux axes d’évolution à l’horizon :
Prise en charge linguistique étendue : À mesure que les applications d’IA se développent à l’échelle mondiale, il est essentiel d’assurer la sécurité des PII dans plusieurs langues. Les futures versions de PII Masker élargiront ses capacités linguistiques afin de servir des pools de données diversifiés, ce qui en fera un outil plus polyvalent pour les organisations internationales.
Amélioration de la détection des PII contextuelles : Actuellement, PII Masker détecte les PII explicites telles que les noms, les adresses et les numéros de téléphone. Dans les prochaines itérations, il vise à renforcer sa capacité à identifier et à masquer les PII implicites contextuellement — des informations qui peuvent ne pas être explicitement sensibles, mais qui pourraient révéler une identité lorsqu’elles sont combinées à d’autres données.
Premiers pas avec PII Masker
Pour les développeurs souhaitant mettre en œuvre des applications RAG qui protègent les PII, PII Masker propose une API simple conçue pour une intégration fluide dans les workflows existants. En clonant le dépôt, en installant les dépendances et en exécutant quelques lignes de code, les développeurs peuvent commencer à masquer efficacement les données sensibles. Cette collaboration entre Zilliz et HydroX AI facilite la création d’applications d’IA qui respectent la confidentialité des utilisateurs et se conforment aux réglementations mondiales.
Zhuo Li, fondateur et CEO de HydroX AI, souligne l’importance de cette initiative : « L’intégration de PII Masker dans les workflows d’IA garantit la protection des informations sensibles, permettant aux organisations d’innover en toute confiance tout en respectant les normes les plus élevées en matière de confidentialité des données. »
Pour en savoir plus sur la manière dont PII Masker peut renforcer la protection des données tout en faisant progresser les capacités de l’IA, consultez le dépôt GitHub de PII Masker ou découvrez notre guide étape par étape sur la création de RAG avec PII Masker et Milvus.
Jiang ChenJiang is currently Director of Technical GTM at Zilliz. He has years of experience in data infrastructures and cloud security. Before joining Zilliz, he had previously served as a tech lead and product manager at Google, where he led the development of web-scale semantic understanding and search indexing that powers innovative search products such as short video search. He has extensive industry experience handling massive unstructured data and multimedia content retrieval. He has also worked on cloud authorization systems and research on data privacy technologies. Jiang holds a Master's degree in Computer Science from the University of Michigan.
Victor BianChief of Staff, HydroX AI
Continuer à lire
Build Multimodal Search for 3D Assets with Tripo and Zilliz Cloud
Generate 3D assets with Tripo, then search them by text, image, and metadata with multimodal embeddings and Zilliz Cloud.
Zilliz Cloud Update: Tiered Storage, Business Critical Plan, Cross-Region Backup, and Pricing Changes
This release offers a rebuilt tiered storage with lower costs, a new Business Critical plan for enhanced security, and pricing updates, among other features.
Introducing DeepSearcher: A Local Open Source Deep Research
In contrast to OpenAI’s Deep Research, this example ran locally, using only open-source models and tools like Milvus and LangChain.