46.7kЗаказать демоВойтиНачать бесплатно
Nomic

Nomic / nomic-embed-vision-v1

Модель визуальных эмбеддингов с 92M параметров, поддерживает как унимодальный, так и мультимодальный поиск в паре с nomic-embed-text-v1

Введение в nomic-embed-vision-v1

Модель nomic-embed-vision-v1 — это полностью воспроизводимая модель визуальных эмбеддингов, которая использует то же латентное пространство, что и nomic-embed-text-v1, обеспечивая мультимодальное использование, при котором текстовые и визуальные эмбеддинги могут напрямую запрашивать друг друга. Благодаря визуальному энкодеру с 92 млн параметров она поддерживает эмбеддинги изображений и текста, унимодальный поиск внутри каждой модальности и мультимодальный поиск по обеим.

Как создавать эмбеддинги с помощью nomic-embed-vision-v1

Существует два основных способа генерировать векторные эмбеддинги:

  • PyMilvus: Python SDK для Milvus, который бесшовно интегрирует модель nomic-embed-vision-v1.
  • Модуль embed в Nomic Python SDK предоставляет функциональность эмбеддингов с использованием Nomic Embedding API.

После генерации векторных эмбеддингов их можно сохранить в Zilliz Cloud (полностью управляемом сервисе векторной базы данных на базе Milvus) и использовать для поиска семантического сходства. Вот четыре ключевых шага:

Создание эмбеддингов через PyMilvus и вставка их в Zilliz Cloud для семантического поиска

from pymilvus import MilvusClient
from nomic import embed

# Prepare images (can be local paths or URLs)
images = ["path/to/image1.jpg", "path/to/image2.jpg", "path/to/image3.jpg"]

# Generate embeddings for images using nomic-embed-vision-v1
image_embeddings = embed.image(images=images, model="nomic-embed-vision-v1")[
    "embeddings"
]

# Prepare query image
query_images = ["path/to/query_image.jpg"]

# Generate embeddings for query
query_embeddings = embed.image(images=query_images, model="nomic-embed-vision-v1")[
    "embeddings"
]

# Connect to Zilliz Cloud with Public Endpoint and API Key
client = MilvusClient(uri=ZILLIZ_PUBLIC_ENDPOINT, token=ZILLIZ_API_KEY)

COLLECTION = "nomic_vision_v1_images"

# Drop collection if it exists
if client.has_collection(collection_name=COLLECTION):
    client.drop_collection(collection_name=COLLECTION)

# Create collection with dimension 768 (nomic-embed-vision-v1 output dimension)
client.create_collection(collection_name=COLLECTION, dimension=768, auto_id=True)

# Insert images with embeddings
for image, embedding in zip(images, image_embeddings):
    client.insert(COLLECTION, {"image_path": image, "vector": embedding})

# Search for similar images
results = client.search(
    collection_name=COLLECTION,
    data=query_embeddings,
    # consistency_level="Strong",  # Strong consistency ensures accurate results but may increase latency
    output_fields=["image_path"],
    limit=3,
)

# Print search results
print("Similar images found:")
for result in results[0]:
    print(f"  - {result['entity']['image_path']} (distance: {result['distance']:.4f})")

Для получения дополнительной информации обратитесь к нашей документации PyMilvus Embedding Model.