DocsGPT and Zilliz Cloud Integration
Integrate Zilliz Cloud with DocsGPT to build a documentation Q&A system that retrieves accurate, GPT-powered answers from your project docs. Use Milvus as the vector database backend to store and search document embeddings at scale, with minimal configuration and no vector infrastructure to manage.
Используйте эту интеграцию бесплатноЧто такое DocsGPT?
DocsGPT — это решение с открытым исходным кодом, которое позволяет разработчикам задавать вопросы о документации проекта на естественном языке и получать точные ответы на базе GPT. Вместо ручного поиска по документации пользователи формулируют запросы на простом английском языке и получают прямые ответы, основанные на фактическом исходном материале. DocsGPT создан для внедрения в существующие проекты с минимальной настройкой — он выполняет загрузку документов, создание эмбеддингов, поиск и генерацию ответов в одном Docker-контейнеризированном приложении.
Интегрируя Zilliz Cloud (полностью управляемый Milvus) с DocsGPT, вы можете хранить и извлекать эмбеддинги документов в масштабе, сохраняя поиск быстрым и точным по мере роста вашей документации, без необходимости самостоятельно управлять какой-либо инфраструктурой векторной базы данных.
Преимущества интеграции DocsGPT + Zilliz Cloud
- Ответы, основанные на вашей фактической документации. DocsGPT извлекает наиболее релевантные фрагменты документов из Zilliz Cloud перед генерацией ответа, благодаря чему ответы остаются привязанными к вашему контенту, а не к априорным знаниям модели.
- Масштабируемый поиск без операционных накладных расходов. Zilliz Cloud обеспечивает индексирование, репликацию и обслуживание в масштабе. Вы подключаетесь с помощью двух переменных окружения и избавляетесь от необходимости запускать собственный кластер векторной базы данных.
- Минимальная настройка для смены векторных хранилищ. Чтобы направить DocsGPT на Milvus, требуется изменить всего три переменные окружения в
docker-compose.yaml— без изменения кода приложения. - Поддерживает как управляемые, так и самостоятельно размещаемые развертывания. Используйте Zilliz Cloud для полностью управляемой установки или направьте DocsGPT на самостоятельно размещенный сервер Milvus, если этого требует ваша среда.
- Естественно работает с поиском на базе LangChain. DocsGPT использует
langchain-milvusпод капотом, тот же коннектор, который применяется в интеграциях LangChain + Zilliz Cloud, поэтому конвейер поиска проверен в боевых условиях.
Как работает интеграция
DocsGPT загружает документацию вашего проекта, разбивает её на фрагменты и преобразует каждый фрагмент в векторное представление с помощью моделей GPT. Когда пользователь задаёт вопрос, DocsGPT преобразует запрос в векторное представление и извлекает наиболее релевантные фрагменты из векторного хранилища, прежде чем сгенерировать ответ на естественном языке. Качество извлечения определяет качество ответа — именно векторная база данных делает это возможным в значимом масштабе.
Zilliz Cloud, полностью управляемая версия Milvus, предоставляет слой векторной базы данных для хранения, индексации и извлечения векторных представлений в масштабе. DocsGPT подключается к нему через URI и API-токен, передаваемые как переменные окружения, поэтому одна и та же конфигурация Docker Compose подходит как для локальной разработки, так и для продакшена. Подробнее о том, как Milvus обрабатывает векторный поиск, можно узнать в официальной документации.
Вместе DocsGPT и Zilliz Cloud позволяют без лишних сложностей построить систему вопросов и ответов по документации на основе вашего существующего контента. Эта комбинация помогает разработчикам создавать AI-приложения, которые могут точно отвечать на вопросы по большим наборам документации, масштабировать извлечение без управления векторной инфраструктурой и удерживать ответы в рамках исходных материалов, а не генерировать неподтверждённые ответы.
Пошаговое руководство
1. Клонируйте репозиторий
Начните с клонирования репозитория DocsGPT на локальный компьютер. Проект поставляется с настройкой Docker Compose, которая обрабатывает всю оркестрацию сервисов, поэтому Docker — единственное предварительное требование помимо Git. После клонирования перейдите в каталог проекта, прежде чем выполнять дальнейшие команды. (Milvus)
git clone https://github.com/arc53/DocsGPT.git cd DocsGPT2. Добавьте зависимость Milvus
Уровень приложения DocsGPT использует
langchain-milvusдля взаимодействия с Milvus. Добавление его вrequirements.txtв папкеapplicationгарантирует, что он будет установлен при сборке Docker-образа — без этого шага backend не сможет подключиться к векторному хранилищу при запуске. (Milvus)echo "\nlangchain-milvus==0.1.6" >> ./application/requirements.txt3. Настройте переменные окружения
DocsGPT считывает конфигурацию векторного хранилища из переменных окружения при запуске. И сервису
backend, и сервисуworkerнужны одни и те же три переменные — worker обрабатывает фоновые задания по созданию эмбеддингов независимо, поэтому ему нужны собственные данные для подключения. Откройтеdocker-compose.yamlи добавьте следующее в определения обоих сервисов. (Milvus)backend: build: ./application environment: - VECTOR_STORE=milvus - MILVUS_URI=... - MILVUS_TOKEN=...worker: build: ./application command: celery -A application.app.celery worker -l INFO -B environment: - VECTOR_STORE=milvus - MILVUS_URI=... - MILVUS_TOKEN=...Для
MILVUS_URIиMILVUS_TOKENу вас есть два варианта:- Zilliz Cloud (рекомендуется): Зарегистрируйте бесплатный аккаунт на cloud.zilliz.com. После создания кластера ваши
MILVUS_URI(Public Endpoint) иMILVUS_TOKEN(API key) будут доступны на странице сведений о кластере. - Self-hosted Milvus: Следуйте официальному руководству по установке Milvus, чтобы запустить сервер Milvus. Ваш
MILVUS_URIбудет в форматеhttp://<your_server_ip>:19530, аMILVUS_TOKEN— в формате<your_username>:<your_password>.
4. Запустите сервисы
После настройки запустите скрипт установки, чтобы собрать образы и запустить все сервисы. Первый запуск займет несколько минут, пока Docker загружает и собирает. После запуска перейдите в локальный UI, чтобы загрузить документацию и начать задавать вопросы. (Milvus)
./setup.shОткройте
http://localhost:5173/в браузере. Вы можете загрузить документацию своего проекта и выполнять запросы к ней напрямую через UI.Чтобы остановить все запущенные сервисы:
docker compose down- Zilliz Cloud (рекомендуется): Зарегистрируйте бесплатный аккаунт на cloud.zilliz.com. После создания кластера ваши
Узнать больше