EmbeddingGemma 2: Texte und Medien lokal durchsuchen

Was EmbeddingGemma 2 zur Suche beiträgt

EmbeddingGemma 2 ordnet Text einschließlich Code sowie Bild-, Video- und Audioeingaben Zahlenfolgen zu, die ein Suchsystem auf Ähnlichkeit vergleichen kann. Google veröffentlichte das offene Modell am 6. Oktober 2026.

Für einen verständlichen Anfang genügt ein kleiner Hilfetextbestand. Eine Frage nach einem vergessenen Kennwort soll zur passenden Passwort-Anleitung führen. Im Grundlagenartikel kannst du semantische Suchtreffer nachvollziehbar prüfen. Die Modellwahl ist darin ein einzelner Schritt, nicht die gesamte Suchanwendung.

Nur die benötigten Encoder laden

Die Parameterzahl ist keine Speicherzusage für dein Gerät. Gewichte, Rechenpräzision, Laufzeit und Eingaben beeinflussen den tatsächlichen Bedarf. Die Quelle nennt 768 Ausgabedimensionen und einen gemeinsamen Kontext von 8.192 Tokens. Werden Medien kombiniert, teilen sie sich dieses Eingabebudget.

Die Modellkarte ist unter Apache 2.0 veröffentlicht; prüfe Lizenz- und Nutzungsbedingungen des tatsächlich geladenen Pakets sowie die Rechte an deinen Dokumenten. Für den folgenden Code bleiben die Bild- und Audioencoder ausgeschaltet.

Ein eigenes kleines Textbeispiel vorbereiten

Lege einen getrennten Übungsordner an. Der Google-Developer-Guide nennt Sentence Transformers ab 6.1.0. Die folgenden Befehle sind für eine macOS-/Linux-Shell geschrieben. Unter Windows aktivierst du die virtuelle Umgebung mit dem passenden Windows-Pfad.

python3 -m venv .venv
source .venv/bin/activate
python -m pip install "sentence-transformers>=6.1.0" transformers

Speichere den folgenden eigenen Lehrcode als textsuche.py. Er verwendet zwei erfundene Hilfetexte und eine Frage. Das Ergebnis wird erst beim tatsächlichen Ausführen auf deinem Rechner ermittelt; hier wird kein Platz-eins-Treffer behauptet.

import numpy as np
import torch
from sentence_transformers import SentenceTransformer

modell = SentenceTransformer(
    "google/embeddinggemma-2",
    config_kwargs={"vision_config": None, "audio_config": None},
    model_kwargs={"torch_dtype": torch.float32},
)
dokumente = [
    "title: Passwort | text: Über Kennwort zurücksetzen erhältst du einen neuen Zugang.",
    "title: Drucker | text: Für einen Papierstau öffnest du die hintere Klappe.",
]
optionen = {"truncate_dim": 256, "normalize_embeddings": True}
fragenvektor = modell.encode(
    ["Ich habe mein Kennwort vergessen."],
    prompt_name="SearchQuery", **optionen
)
dokumentvektoren = modell.encode(dokumente, **optionen)
assert np.isfinite(fragenvektor).all()
assert np.isfinite(dokumentvektoren).all()
werte = modell.similarity(fragenvektor, dokumentvektoren)[0]
for nummer in werte.argsort(descending=True).tolist():
    print(nummer, float(werte[nummer]), dokumente[nummer])

Die Frage erhält das Suchpräfix über SearchQuery. Die Dokumente besitzen schon die dokumentierte Titel-/Textform. Wiederhole die Probe danach mit einer Frage zum Papierstau und einer Frage, die keiner der Texte beantwortet. Ein hoher Ähnlichkeitswert ist noch keine Antwortprüfung.

Vektorlänge und Indexspeicher auseinanderhalten

Die Modellkarte dokumentiert Matryoshka-Verkürzung auf 512, 256 oder 128 Dimensionen. Kürzere Vektoren brauchen weniger Rohspeicher; ihre Qualität ist eine eigene Messfrage. Anfrage und Bestand müssen dieselbe Dimension verwenden und nach einer Verkürzung wieder normalisiert werden.

MB ist hier dezimal gerechnet, also eine Million Byte. Die Zeile mit 128 Dimensionen benötigt ein Sechstel des Zahlenpuffers der 768er-Zeile. Daraus folgt weder ein sechsmal kleineres Gesamtprogramm noch eine sechsmal schnellere Suche.

Für größere Bestände musst du außerdem Vektoren und Metadaten speichern. Dokument-ID, Version und Zugriffsregeln bleiben wichtig, auch wenn die Vektoren kompakt gespeichert werden.

Drei typische Fehler vor dem Vergleich ausschließen

Ändere pro Gegenprobe eine Einstellung. Wenn du Modell, Dimension, Textaufteilung und Testfragen gleichzeitig austauschst, kannst du eine Verbesserung kaum einer Ursache zuordnen. Für den kleinen Einstieg bleiben daher Textbestand und Fragen zuerst unverändert.

Treffer prüfen, bevor ein Chatmodell antwortet

Lege vorab fest, welche Passage welche Frage beantworten soll. Halte unbeantwortbare Fragen separat fest. Dann prüfst du zuerst die gefundenen Texte und erst danach eine mögliche Formulierung durch ein weiteres Modell.

Als nächsten praktischen Schritt kannst du Abruf und Antwort in einer lokalen RAG-Probe trennen. Das dortige Beispiel hat seinen eigenen Modellstand; es ist keine bereits durchgeführte Messung von EmbeddingGemma 2.

Für Bilder, Audio oder Video ergänzt du neue Sollfälle mit klaren Fundstellen. Eine Einstellung, die bei zwei Hilfetexten funktioniert, ist noch keine belastbare Wahl für ein Medienarchiv. Die Google-Demos zeigen mögliche Aufbauten, ersetzen aber keinen Test auf deinen Daten.