Nomic

Nomic / nomic-embed-text-v1

Um modelo de incorporação de texto com um comprimento de contexto de 8192, especializado em recuperação, similaridade, agrupamento e classificação

Introdução ao nomic-embed-text-v1

O modelo nomic-embed-text-v1 é um modelo de incorporação de texto de código aberto e dados abertos, com código de treinamento aberto, projetado para ser totalmente reproduzível e auditável. Ele oferece suporte a uma janela de contexto de 8192 tokens e é especializado em recuperação, similaridade, agrupamento e classificação, entregando forte desempenho em tarefas de contexto curto e longo.

Nomic-embed-text-v1 agora é multimodal por meio do nomic-embed-vision-v1, que compartilha o mesmo espaço de incorporação, portanto as incorporações de texto podem ser usadas diretamente junto com incorporações de imagem.

Como criar incorporações com nomic-embed-text-v1

Há duas formas principais de gerar incorporações vetoriais:

  • PyMilvus: o SDK Python para Milvus que integra perfeitamente o modelo nomic-embed-text-v1.
  • O módulo embed no SDK Python da Nomic fornece funcionalidade de incorporação usando a Nomic Embedding API.

Depois que as incorporações vetoriais são geradas, elas podem ser armazenadas no Zilliz Cloud (um serviço de banco de dados vetorial totalmente gerenciado com tecnologia Milvus) e usadas para busca por similaridade semântica. Aqui estão quatro etapas principais:

Crie incorporações via PyMilvus e insira-as no Zilliz Cloud para busca semântica

from pymilvus import MilvusClient
from nomic import embed

# Prepare documents
docs = [
    "Artificial intelligence was founded as an academic discipline in 1956.",
    "Alan Turing was the first person to conduct substantial research in AI.",
    "Born in Maida Vale, London, Turing was raised in southern England.",
]

# Generate embeddings for documents using nomic-embed-text-v1.5
docs_embeddings = embed.text(
    texts=docs, model="nomic-embed-text-v1.5", task_type="search_document"
)["embeddings"]

# Prepare queries
queries = ["When was artificial intelligence founded", "Where was Alan Turing born?"]

# Generate embeddings for queries
query_embeddings = embed.text(
    texts=queries, model="nomic-embed-text-v1.5", task_type="search_query"
)["embeddings"]

# Connect to Zilliz Cloud with Public Endpoint and API Key
client = MilvusClient(uri=ZILLIZ_PUBLIC_ENDPOINT, token=ZILLIZ_API_KEY)

COLLECTION = "nomic_v1_5_documents"

# Drop collection if it exists
if client.has_collection(collection_name=COLLECTION):
    client.drop_collection(collection_name=COLLECTION)

# Create collection with dimension 768 (nomic-embed-text-v1.5 output dimension)
client.create_collection(collection_name=COLLECTION, dimension=768, auto_id=True)

# Insert documents with embeddings
for doc, embedding in zip(docs, docs_embeddings):
    client.insert(COLLECTION, {"text": doc, "vector": embedding})

# Search for similar documents
results = client.search(
    collection_name=COLLECTION,
    data=query_embeddings,
    # consistency_level="Strong",  # Strong consistency ensures accurate results but may increase latency
    output_fields=["text"],
    limit=2,
)

# Print search results
for i, query in enumerate(queries):
    print(f"\nQuery: {query}")
    for result in results[i]:
        print(f"  - {result['entity']['text']} (distance: {result['distance']:.4f})")

Para obter mais informações, consulte nossa documentação do Modelo de Incorporação PyMilvus.