Interaktive Demo zum Abruf von KI-Agenten

In dieser interaktiven Demo können Sie Agent Retrieval (früher Vektorsuche 2.0) kennenlernen, die vollständig verwaltete Vektordatenbank für Google Cloud. In der Demo können Sie Millionen von Produkteinträgen durchsuchen – mit semantischer Suche (basierend auf automatischen Gemini-Einbettungen), Stichwortsuche oder Hybridsuche, bei der Reciprocal Rank Fusion (RRF) verwendet wird, um semantische Suche und Stichwortsuche zu kombinieren. Die Ergebnisse können neu gerankt werden. Dazu wird die Gemini Enterprise Agent Platform Ranking API verwendet.

Vorteile von Agent Retrieval

Für die Vektorsuche waren eine separate Einbettungsgenerierung, die Bereitstellung von Index und ein Vertex AI Feature Store für Metadaten erforderlich. Mit Agent Retrieval erhalten Sie einen einheitlichen Speicher für Daten und Einbettungen, eine automatische Generierung von Einbettungen und eine integrierte Textsuche, ohne dass Sie die Infrastruktur verwalten müssen.

Testen!

So führen Sie den Befehl aus:

  1. Beschreiben Sie im Feld Abfrage die Elemente, nach denen Sie suchen möchten (z. B. vintage 1970s pinball machine). Alternativ können Sie auf Abfrage generieren klicken, um eine Beschreibung automatisch generieren zu lassen.

  2. Klicken Sie auf Senden oder drücken Sie die Eingabetaste.

Experimentieren Sie mit den verschiedenen Optionen in der Demo, um sich mit dem Abrufen von Informationen durch Agents und den Grundlagen der Vektorsuche vertraut zu machen. Weitere Informationen finden Sie unter Benutzeroberfläche.

Benutzeroberfläche

In diesem Abschnitt werden die Einstellungen in der Benutzeroberfläche beschrieben, mit denen Sie steuern können, welche Ergebnisse von Agent Retrieval (früher Vektorsuche 2.0) zurückgegeben werden und wie sie gerankt werden.

Dataset

Wählen Sie im Drop-down-Menü Dataset das Dataset aus, für das Agent Retrieval Ihre Anfrage ausführen soll. Informationen zu den einzelnen Datasets finden Sie unter Datasets.

Abfrage

So führen Sie eine Abfrage aus:

  1. Klicken Sie auf Dataset und wählen Sie das Dataset aus, für das Sie die Abfrage ausführen möchten.

  2. Fügen Sie im Feld Anfrage eine Beschreibung hinzu, stellen Sie eine Frage oder geben Sie ein oder mehrere Keywords ein, um die Elemente anzugeben, für die Agent Retrieval Ergebnisse zurückgeben soll. Alternativ können Sie auch auf Abfrage generieren klicken, um eine Abfrage automatisch generieren zu lassen.

  3. Führen Sie einen der folgenden Schritte aus:

    1. Wenn Sie semantisch ähnliche Ergebnisse zurückgeben möchten, wählen Sie Semantisch aus.
    2. Wenn Sie Ergebnisse basierend auf der Textsyntax der Anfrage zurückgeben möchten, wählen Sie Text aus.
    3. Für eine hybride Suche wählen Sie sowohl Semantisch als auch Text aus.

  4. Wenn Sie eine semantische Abfrage für das Dataset Mercari 3M items (128-dim Gemini text embeddings) oder Mercari 3M items (768-dim Gemini text embeddings) ausführen, klicken Sie auf Query Task Type (Abfragetyp) und wählen Sie QUESTION_ANSWERING (Frage-Antwort) oder RETRIEVAL_QUERY (Abruf) aus.

  5. Klicken Sie auf Senden oder drücken Sie die Eingabetaste, um die Abfrage auszuführen.

Ändern

Es gibt viele Optionen, mit denen Sie die Ergebnisse ändern können, die von Agent Retrieval (früher Vektorsuche 2.0) für eine Anfrage zurückgegeben werden.

  • Klicken Sie auf Zeilen und wählen Sie die maximale Anzahl der Suchergebnisse aus, die von Agent Retrieval (früher Vektorsuche 2.0) zurückgegeben werden sollen.

  • Wählen Sie Semantisch aus, um semantisch ähnliche Ergebnisse zurückzugeben.

  • Wählen Sie Text aus, um Ergebnisse basierend auf der Textsyntax Ihrer Anfrage zurückzugeben.

  • Wählen Sie sowohl Semantisch als auch Text aus, um die hybride Suche zu aktivieren.

  • Wählen Sie Neu einstufen aus, um die Suchergebnisse anhand ihrer Relevanz für die Anfrage neu einzustufen. Weitere Informationen finden Sie unter Such- und RAG-Qualität mit Ranking API verbessern.

  • Wählen Sie kNN verwenden aus, um den k-Nearest Neighbors-Algorithmus zum Abrufen von Suchergebnissen zu verwenden. Da kNN eine Rückrufrate von 100% bietet, ist es sehr nützlich für das Debugging oder Testen.

  • Klicken Sie auf Abfrageaufgabentyp und wählen Sie den gewünschten Typ aus. Diese Option ist nur verfügbar, wenn Sie die Datasets Mercari 3M items (128-dim Gemini text embeddings) und Mercari 3M items (768-dim Gemini text embeddings) verwenden. Weitere Informationen zu Abfrageaufgabentypen finden Sie unter Aufgabentyp für Einbettungen auswählen.

  • Geben Sie im Feld RRF-Alpha einen Wert zwischen 0,0 und 1,0 ein, um den RRF-Ranking-Effekt festzulegen. Diese Option ist nur für die Hybridsuche verfügbar, bei der sowohl Semantisch als auch Text ausgewählt sind.
    Alphawerte von:

    • 1.0 – Ergebnisse werden nur nach semantischer (dichter) Ähnlichkeit sortiert.
    • 0.0 – Ergebnisse werden nur nach Keyword-Relevanz (spärlich) sortiert.
    • 0.5 – Bei der Sortierung der Ergebnisse wird der semantischen (dichten) Ähnlichkeit und der Keyword-Relevanz (dünnbesetzt) das gleiche Gewicht gegeben.

    Weitere Informationen finden Sie unter Was ist Reciprocal Rank Fusion?

Messwerte

Nachdem eine Anfrage ausgeführt wurde, erhalten Sie Latenzmesswerte, die die Zeit aufschlüsseln, die für die verschiedenen Phasen der Suche benötigt wurde.

Dazu zählen:

  • Die Gesamtlatenz aus allen Quellen.
  • Die Zeit, die zum Generieren von Einbettungen und zum Ausführen einer Vektorsuche benötigt wurde.
  • Die Zeit, die für das erneute Ranking benötigt wurde, wenn Rerank ausgewählt ist.
  • Die Gesamtmenge der Latenz aus dem Netzwerk und anderen Quellen.

Einbettungen

Agent Retrieval unterstützt die folgenden Einbettungstypen:

Abfrageprozess

Beim Agent-Abruf hängt der Abfrageprozess von der Art der durchgeführten Suchvorgänge und den Einbettungsmodellen ab.

Die Generierung und Suche von Einbettungen erfolgt in einem einzigen API-Aufruf. Bei „Agent Retrieval“ wird das Anfrage-Embedding serverseitig automatisch mit dem im vertex_embedding_config für die Collection angegebenen Modell generiert. Anschließend wird die Suche durchgeführt und es werden Ergebnisse mit vollständigen Metadaten zurückgegeben, ohne dass ein separater Vertex AI Feature Store-Abruf erforderlich ist.

Word2Vec und multimodal

Der Client generiert die Abfrageeinbettung und sendet sie zur Vektorsuche an Agent Retrieval. Die Ergebnisse enthalten weiterhin vollständige Metadaten aus der Sammlung und ein Vertex AI Feature Store-Abruf ist nicht erforderlich.

Text

Bei Agent Retrieval wird der integrierte Keyword-Abgleich direkt ausgeführt. Es werden keine Einbettungen generiert.

Datasets

Dataset Beschreibung Einbettungsmodell Aufgabentyp für Einbettungen
Mercari 1M-Artikel
(768‑dimensionale Gemini-Texteinbettungen)		 Verwendet das Einbettungsmodell „Gemini Embedding 2“ mit separaten Text- und Bildeinbettungen. Dieses Dataset unterstützt die Text-zu-Text- und Text-zu-Bild-Suche mit verschiedenen Vektorfeldern. gemini-embedding-2-preview SEMANTIC_SIMILARITY
Mercari 3M items
(128-dim Gemini text embeddings)		 Die Anzahl der Einbettungsdimensionen ist geringer, was zu einer kleineren Indexgröße und niedrigeren Speicherkosten führt. Die Genauigkeit dieses Datasets ist möglicherweise geringer als die von Mercari 3M Items (768-dimensionale Gemini-Texteinbettungen). gemini-embedding-001 RETRIEVAL_DOCUMENT
Mercari 3M-Artikel
(768-dimensionale Gemini-Texteinbettungen)		 Sie enthält Einbettungen mit allen Dimensionen, automatische Einbettungen und eine hohe semantische Genauigkeit des Texts. In diesem Dataset wird RETRIEVAL_DOCUMENT für den asymmetrischen Abfrage-Dokument-Abgleich verwendet. gemini-embedding-001 RETRIEVAL_DOCUMENT
Mercari 3M-Artikel
(768-dimensionale Gemini-Texteinbettungen, semantische Ähnlichkeit)		 Verwendet den Aufgabentyp SEMANTIC_SIMILARITY für den Ähnlichkeitsabgleich. Dieses Dataset eignet sich am besten für Anwendungsfälle, in denen die Funktion „Ähnliche Elemente finden“ benötigt wird und Abfrage und Dokumente dieselbe Semantik haben. gemini-embedding-001 SEMANTIC_SIMILARITY
Mercari 3M-Artikel
(1.408-dimensionale multimodale Einbettungen in Vertex AI)		 Verfügt über multimodale Vertex AI-Einbettungen, die Artikelbilder für die Bildersuche codieren. multimodal-embedding-001 –
Mercari 3M-Artikel
(100-dimensionale Word2Vec-Texteinbettungen)		 Verwendet das Gensim Word2Vec-Einbettungsmodell. Dieses Dataset ermöglicht die schnellste Inferenz. Es bietet nur ein semantisches Verständnis auf Wortebene, ist aber sehr kompakt. Gensim Word2Vec –

Weitere Informationen