Fireworks AI
Build AI applications by combining Fireworks AI's LLM models with Zilliz Cloud's vector database capabilities
Используйте эту интеграцию бесплатноО фейерверках
AI Fireworks AI - это генеративная платформа ИИ, позволяющая разработчикам запускать и настраивать модели ИИ с высокой производительностью и надежностью. Платформа предлагает бессерверные модели, развертывание по требованию и возможности тонкой настройки моделей для работы с текстом, аудио, изображениями и вставками.
Платформа использует модель оплаты по факту использования и включает такие функции, как режим JSON, режим грамматики и вызов функций через фреймворк Flumina.
Почему Zilliz Cloud and Fireworks
ИИ Сочетание Zilliz Cloud с Fireworks AI создает надежную основу для создания приложений ИИ. Zilliz Cloud управляет хранением векторов и поиском сходств, а Fireworks AI предоставляет доступ к оптимизированным языковым моделям и моделям встраивания.
Такая интеграция помогает разработчикам создавать готовые к производству приложения ИИ без управления сложной инфраструктурой. Эта комбинация особенно полезна для приложений, которым требуется надежный векторный поиск и высокопроизводительные возможности LLM.
Как работает Zilliz Cloud и Fireworks AI
Интеграция работает за счет использования моделей Fireworks AI для создания вкраплений из ваших данных, которые затем сохраняются и ищутся в Zilliz Cloud. Когда вам нужно извлечь релевантную информацию, Zilliz Cloud выполняет поиск по сходству на этих вкраплениях. Для приложений RAG Zilliz Cloud извлекает наиболее релевантные документы на основе векторного сходства, которые затем используются LLM Fireworks AI для генерации точных контекстных ответов.
Техническая реализация
Настройка аутентификации:
- Установите ключ API Fireworks в качестве переменной окружения
- Настройте подключение к Zilliz Cloud, используя URI и ключ API
- Поток обработки данных:
- Генерируйте вкрапления, используя модели вкраплений Fireworks AI (например, nomic-ai/nomic-embed-text-v1.5).
- Храните векторы в коллекциях Zilliz Cloud с заданными размерами
- Использование внутреннего продукта (IP) или косинусного сходства для поиска векторов.
- Управление коллекциями:
- Создание коллекций с определенными параметрами
- Настройка размера размерности на основе результатов модели встраивания
- Установите уровни согласованности для обеспечения надежности данных.
- Поиск и извлечение:
- Выполняйте семантический поиск с настраиваемыми ограничениями
- Извлечение связанных документов с оценкой сходства
- Обработка результатов с помощью LLM Fireworks AI для получения окончательных ответов
- Установите ключ API Fireworks в качестве переменной окружения
Узнать
Раздел "Обучение" Лучший способ начать - это практическое руководство. В этом учебнике вы узнаете, как построить систему RAG (Retrieval-Augmented Generation) с помощью Fireworks AI и Zilliz Cloud.
А вот еще несколько ресурсов: