O guia do nomic-embed-text-v1

Todos os modelos
Nomic / nomic-embed-text-v1

Nomic / nomic-embed-text-v1

AI Model Milvus Integrated

Tarefa: Incorporação

Modalidade: Texto

Métrica de Similaridade: Cosseno

Licença: Apache 2.0

Dimensões: 768

Tokens Máximos de Entrada: 8192

Preço: Grátis

Introdução ao nomic-embed-text-v1

O modelo nomic-embed-text-v1 é um modelo de incorporação de texto de código aberto e dados abertos, com código de treinamento aberto, projetado para ser totalmente reproduzível e auditável. Ele oferece suporte a uma janela de contexto de 8192 tokens e é especializado em recuperação, similaridade, agrupamento e classificação, entregando forte desempenho em tarefas de contexto curto e longo.

Nomic-embed-text-v1 agora é multimodal por meio do nomic-embed-vision-v1, que compartilha o mesmo espaço de incorporação, portanto as incorporações de texto podem ser usadas diretamente junto com incorporações de imagem.

Como criar incorporações com nomic-embed-text-v1

Há duas formas principais de gerar incorporações vetoriais:

PyMilvus: o SDK Python para Milvus que integra perfeitamente o modelo nomic-embed-text-v1.
O módulo embed no SDK Python da Nomic fornece funcionalidade de incorporação usando a Nomic Embedding API.

Depois que as incorporações vetoriais são geradas, elas podem ser armazenadas no Zilliz Cloud (um serviço de banco de dados vetorial totalmente gerenciado com tecnologia Milvus) e usadas para busca por similaridade semântica. Aqui estão quatro etapas principais:

Inscreva-se para obter uma conta gratuita no Zilliz Cloud.
Configure um cluster serverless e obtenha o Public Endpoint e a API Key.
Crie uma coleção vetorial e insira suas incorporações vetoriais.
Execute uma busca semântica nas incorporações armazenadas.

Crie incorporações via PyMilvus e insira-as no Zilliz Cloud para busca semântica

from pymilvus import MilvusClient
from nomic import embed

# Prepare documents
docs = [
    "Artificial intelligence was founded as an academic discipline in 1956.",
    "Alan Turing was the first person to conduct substantial research in AI.",
    "Born in Maida Vale, London, Turing was raised in southern England.",
]

# Generate embeddings for documents using nomic-embed-text-v1.5
docs_embeddings = embed.text(
    texts=docs, model="nomic-embed-text-v1.5", task_type="search_document"
)["embeddings"]

# Prepare queries
queries = ["When was artificial intelligence founded", "Where was Alan Turing born?"]

# Generate embeddings for queries
query_embeddings = embed.text(
    texts=queries, model="nomic-embed-text-v1.5", task_type="search_query"
)["embeddings"]

# Connect to Zilliz Cloud with Public Endpoint and API Key
client = MilvusClient(uri=ZILLIZ_PUBLIC_ENDPOINT, token=ZILLIZ_API_KEY)

COLLECTION = "nomic_v1_5_documents"

# Drop collection if it exists
if client.has_collection(collection_name=COLLECTION):
    client.drop_collection(collection_name=COLLECTION)

# Create collection with dimension 768 (nomic-embed-text-v1.5 output dimension)
client.create_collection(collection_name=COLLECTION, dimension=768, auto_id=True)

# Insert documents with embeddings
for doc, embedding in zip(docs, docs_embeddings):
    client.insert(COLLECTION, {"text": doc, "vector": embedding})

# Search for similar documents
results = client.search(
    collection_name=COLLECTION,
    data=query_embeddings,
    # consistency_level="Strong",  # Strong consistency ensures accurate results but may increase latency
    output_fields=["text"],
    limit=2,
)

# Print search results
for i, query in enumerate(queries):
    print(f"\nQuery: {query}")
    for result in results[i]:
        print(f"  - {result['entity']['text']} (distance: {result['distance']:.4f})")