Безопасный RAG с HydroX AI и Zilliz: маскирование PII для ответственного GenAI
С быстрым развитием искусственного интеллекта огромный объем неструктурированных данных — таких как веб-контент и частная информация — используется для обучения моделей ИИ и поддержки GenAI-приложений, таких как Retrieval Augmented Generation (RAG). Защита персональных идентифицируемых данных (PII) стала необходимой для ответственного использования этих данных, особенно во время обучения моделей и инференса.
Чтобы удовлетворить эту критически важную потребность, Zilliz, создатель open-source векторной базы данных Milvus, заключила партнерство с HydroX AI, чтобы представить PII Masker — продвинутый инструмент, разработанный для повышения конфиденциальности данных в ИИ-приложениях.
Важность безопасности PII и защиты GenAI
Модели генеративного ИИ (GenAI) открыли новые возможности в создании контента, ответах на вопросы и анализе информации, но также принесли специфические вызовы безопасности. Поскольку модели GenAI обучаются на огромных и разнообразных наборах данных, они могут непреднамеренно изучать и воспроизводить чувствительные PII, встроенные в эти данные. Этот риск становится особенно серьезным, когда частные данные могут быть случайно раскрыты в выводе модели.
Обеспечение безопасности данных в рабочих процессах GenAI необходимо не только для того, чтобы помочь организациям соблюдать требования, но и для улучшения производительности моделей за счет сокращения утечек данных и минимизации галлюцинаций, когда модели генерируют неверную или вводящую в заблуждение информацию.
PII Masker добавляет важный уровень безопасности для моделей GenAI, фильтруя PII до того, как данные сохраняются в векторных базах данных, таких как Milvus или Zilliz Cloud (управляемая версия Milvus). Этот шаг значительно снижает риск раскрытия чувствительной информации, особенно при использовании векторных баз данных для хранения неструктурированных данных и их многомерных векторных представлений для поиска по сходству и семантического понимания в GenAI-приложениях.
Векторные базы данных и GenAI: идеальное сочетание с необходимостью безопасности
Векторные базы данных, такие как Milvus, являются основой многих GenAI-приложений, эффективно храня, индексируя и извлекая векторные эмбеддинги. В сценариях, таких как поиск по изображениям, тексту и видео, Milvus позволяет моделям GenAI работать с обоснованной информацией для генерации высококачественных ответов, предлагая масштабируемое решение для ИИ-приложений в различных отраслях — от здравоохранения до финансов. Однако векторные эмбеддинги часто могут содержать следы PII, которые сложно обнаружить традиционными методами, что делает инновационные решения для конфиденциальности данных необходимыми для последующих приложений.
PII Masker играет здесь ключевую роль. Организации могут обеспечивать конфиденциальность на каждом уровне своего конвейера данных, анонимизируя или маскируя PII с помощью PII Marker до того, как данные попадут в векторную базу данных. PII Masker бесшовно интегрирован как с Milvus, так и с Zilliz Cloud, позволяя пользователям уверенно создавать GenAI-приложения, сохраняя соответствие своих баз знаний и RAG-приложений требованиям законодательства о конфиденциальности и защищая пользовательские данные.
Ключевые функции PII Masker для безопасности ИИ-моделей
Разработанный HydroX AI в сотрудничестве с Zilliz, PII Masker автоматически обнаруживает и маскирует PII с высокой точностью. Используя NLP-модель DeBERTa-v3, PII Masker выявляет конфиденциальную информацию и предоставляет структурированный вывод для удобной обработки. Благодаря поддержке до 1 024 токенов PII Masker эффективно обрабатывает большие наборы данных, одновременно защищая PII. Эта возможность помогает предотвращать случайное раскрытие конфиденциальной информации в ответах RAG и различных приложений GenAI, снижая риски утечки данных и обеспечивая конфиденциальность запросов.
Будущее PII Masker
Хотя PII Masker уже приносит значительные преимущества, HydroX AI стремится развивать его возможности. Вот два направления развития, ожидаемые в ближайшем будущем:
Расширенная языковая поддержка: По мере глобального роста AI-приложений обеспечение безопасности PII на нескольких языках становится необходимым. Будущие версии PII Masker расширят его языковые возможности для обслуживания разнообразных массивов данных, делая его более универсальным инструментом для международных организаций.
Улучшенное обнаружение контекстуальных PII: В настоящее время PII Masker обнаруживает явные PII, такие как имена, адреса и номера телефонов. В будущих версиях он стремится улучшить способность выявлять и маскировать контекстуально подразумеваемые PII — информацию, которая может не быть явно конфиденциальной, но способна раскрыть личность при объединении с другими данными.
Начало работы с PII Masker
Для разработчиков, заинтересованных во внедрении RAG-приложений, защищающих PII, PII Masker предлагает простой API, разработанный для бесшовной интеграции в существующие рабочие процессы. Клонировав репозиторий, установив зависимости и выполнив несколько строк кода, разработчики могут начать эффективно маскировать конфиденциальные данные. Это сотрудничество между Zilliz и HydroX AI способствует созданию AI-приложений, которые уважают конфиденциальность пользователей и соответствуют глобальным нормативным требованиям.
Zhuo Li, основатель и CEO HydroX AI, подчеркивает значимость этой инициативы: "Интеграция PII Masker в рабочие процессы AI гарантирует защиту конфиденциальной информации, позволяя организациям уверенно внедрять инновации, соблюдая при этом высочайшие стандарты конфиденциальности данных."
Чтобы узнать больше о том, как PII Masker может усилить защиту данных, одновременно развивая возможности AI, посетите репозиторий PII Masker на GitHub или ознакомьтесь с нашим пошаговым руководством по созданию RAG с PII Masker и Milvus.
Jiang ChenJiang is currently Director of Technical GTM at Zilliz. He has years of experience in data infrastructures and cloud security. Before joining Zilliz, he had previously served as a tech lead and product manager at Google, where he led the development of web-scale semantic understanding and search indexing that powers innovative search products such as short video search. He has extensive industry experience handling massive unstructured data and multimedia content retrieval. He has also worked on cloud authorization systems and research on data privacy technologies. Jiang holds a Master's degree in Computer Science from the University of Michigan.
Victor BianChief of Staff, HydroX AI
Читать далее
Introducing Zilliz CLI and Agent Skills for Zilliz Cloud
Manage your vector database from your terminal or AI coding agent. Zilliz CLI and Agent Skills work with Claude Code, Cursor, Codex, and Copilot.
A Developer's Guide to Exploring Milvus 2.6 Features on Zilliz Cloud
Milvus 2.6 marks a shift from “vector search + glue code” to a more advanced retrieval engine, and it is now Generally Available (GA) on Zilliz Cloud (a managed Milvus service).
Vector Databases vs. Document Databases
Use a vector database for similarity search and AI-powered applications; use a document database for flexible schema and JSON-like data storage.