Fireworks AI
Build AI applications by combining Fireworks AI's LLM models with Zilliz Cloud's vector database capabilities
Utilize esta integração gratuitamenteSobre o fogo de artifício
O AI Fireworks AI é uma plataforma de IA generativa que permite aos programadores executar e personalizar modelos de IA com elevado desempenho e fiabilidade. A plataforma oferece modelos sem servidor, implantações sob demanda e opções de ajuste fino em modelos de texto, áudio, imagem e incorporação.
A plataforma usa um modelo de pagamento conforme o uso e inclui recursos como modo JSON, modo de gramática e chamada de função por meio de sua estrutura Flumina.
Porquê Zilliz Cloud and Fireworks
IA A combinação do Zilliz Cloud com o Fireworks AI cria uma base robusta para a criação de aplicações de IA. O Zilliz Cloud trata do armazenamento de vectores e da pesquisa de semelhanças, enquanto o Fireworks AI fornece acesso a modelos optimizados de linguagem e incorporação.
Esta integração ajuda os programadores a criar aplicações de IA prontas para produção sem gerir infra-estruturas complexas. A combinação é particularmente útil para aplicações que necessitam de pesquisa vetorial fiável e capacidades LLM de elevado desempenho.
Como funciona a IA do Zilliz Cloud e do Fireworks
A integração funciona utilizando os modelos do Fireworks AI para gerar embeddings a partir dos seus dados, que são depois armazenados e pesquisados no Zilliz Cloud. Quando é necessário recuperar informações relevantes, o Zilliz Cloud efectua uma pesquisa por semelhança nestes embeddings. Para as aplicações RAG, o Zilliz Cloud recupera os documentos mais relevantes com base na semelhança dos vectores, que são depois utilizados pelos LLM do Fireworks AI para gerar respostas precisas e contextuais.
Implementação técnica
Configuração de autenticação:
- Configurar a chave API do Fireworks como uma variável de ambiente
- Configurar a ligação ao Zilliz Cloud utilizando o URI e a chave API
- Fluxo de processamento de dados:
- Gerar embeddings utilizando os modelos de embedding do Fireworks AI (por exemplo, nomic-ai/nomic-embed-text-v1.5)
- Armazenar vectores em colecções Zilliz Cloud com dimensões especificadas
- Utilizar a similaridade Inner Product (IP) ou Cosine para pesquisa de vectores
- Gestão de colecções:
- Criar colecções com parâmetros específicos
- Configurar o tamanho da dimensão com base na saída do modelo de incorporação
- Definir níveis de consistência para fiabilidade dos dados
- Pesquisa e recuperação:
- Efetuar pesquisa semântica com limites personalizáveis
- Recuperar documentos relacionados com pontuações de semelhança
- Processar resultados através do LLM do Fireworks AI para obter respostas finais
- Configurar a chave API do Fireworks como uma variável de ambiente
Aprender
Secção Aprender A melhor forma de começar é com um tutorial prático. Este [tutorial] (https://milvus.io/docs/build_RAG_with_milvus_and_fireworks.md) irá guiá-lo através da construção de um sistema RAG (Retrieval-Augmented Generation) com Fireworks AI & Zilliz Cloud.
E aqui estão mais alguns recursos: