Google

Google / EmbeddingGemma

Ein mehrsprachiges Text-Embedding-Modell, unterstützt über 100 Sprachen; läuft effizient auf ressourcenbeschränkter Hardware

Einführung in EmbeddingGemma

Das EmbeddingGemma-Modell ist ein mehrsprachiges Text-Embedding-Modell von Google mit 308M Parametern, das auf Gemma 3 basiert (mit T5Gemma-Initialisierung) und unter Verwendung derselben Forschungsgrundlagen entwickelt wurde, die den Gemini-Modellen zugrunde liegen. Es eignet sich gut für Such- und Retrieval-Aufgaben, einschließlich Klassifizierung, Clustering und semantischer Ähnlichkeitssuche.

EmbeddingGemm unterstützt über 100 Sprachen und bietet flexible Ausgabedimensionen (von 768 bis hinunter zu 128) über Matryoshka Representation Learning (MRL). Mit einem Kontextfenster von 2K Tokens und einem Speicherbedarf von unter 200MB bei Quantisierung läuft EmbeddingGemma effizient auf ressourcenbeschränkter Hardware. Es kann auf Alltagsgeräten wie Smartphones, Laptops und Tablets bereitgestellt werden und macht fortschrittliche Text-Embedding-Funktionen in einer Vielzahl von Umgebungen zugänglich.

So erstellen Sie Embeddings mit EmbeddingGemma

Es gibt zwei primäre Möglichkeiten, Vektor-Embeddings zu generieren:

  • PyMilvus: das Python SDK für Milvus, das das EmbeddingGemma-Modell nahtlos integriert.
  • SentenceTransformer-Bibliothek: die Python-Bibliothek sentence-transformer.

Sobald die Vektor-Embeddings generiert wurden, können sie in Zilliz Cloud (einem vollständig verwalteten Vektordatenbankdienst auf Basis von Milvus) gespeichert und für die semantische Ähnlichkeitssuche verwendet werden. Hier sind vier wichtige Schritte:

Embeddings über PyMilvus erstellen und für die semantische Suche in Zilliz Cloud einfügen

from pymilvus.model.dense import SentenceTransformerEmbeddingFunction
from pymilvus import MilvusClient

# Load the Google EmbeddingGemma-300M model
ef = SentenceTransformerEmbeddingFunction(
    "google/embeddinggemma-300m", trust_remote_code=True
)

docs = [
    "Artificial intelligence was founded as an academic discipline in 1956.",
    "Alan Turing was the first person to conduct substantial research in AI.",
    "Born in Maida Vale, London, Turing was raised in southern England.",
]

# Generate embeddings for documents
docs_embeddings = ef(docs)

queries = ["When was artificial intelligence founded", "Where was Alan Turing born?"]

# Generate embeddings for queries
query_embeddings = ef(queries)

# Connect to Zilliz Cloud with Public Endpoint and API Key
client = MilvusClient(uri=ZILLIZ_PUBLIC_ENDPOINT, token=ZILLIZ_API_KEY)

COLLECTION = "embeddinggemma_300m_documents"

# Drop collection if it exists
if client.has_collection(collection_name=COLLECTION):
    client.drop_collection(collection_name=COLLECTION)

# Create collection with auto-detected dimension
client.create_collection(collection_name=COLLECTION, dimension=ef.dim, auto_id=True)

# Insert documents with embeddings
for doc, embedding in zip(docs, docs_embeddings):
    client.insert(COLLECTION, {"text": doc, "vector": embedding})

# Search for similar documents
results = client.search(
    collection_name=COLLECTION,
    data=query_embeddings,
    # consistency_level="Strong",  # Strong consistency ensures accurate results but may increase latency
    output_fields=["text"],
    limit=2,
)

# Print search results
for i, query in enumerate(queries):
    print(f"\nQuery: {query}")
    for result in results[i]:
        print(f"  - {result['entity']['text']} (distance: {result['distance']:.4f})")

Weitere Informationen finden Sie in unserer Dokumentation zum PyMilvus Embedding Model.