Fundierung mit Agent Search

Auf dieser Seite wird erläutert, wie Sie Antworten mit Ihren Daten aus Agent Search fundieren können.

Gemini auf Basis Ihrer Daten fundieren

Wenn Sie Retrieval-Augmented Generation (RAG) verwenden möchten, verbinden Sie Ihr Modell mit Ihren Websitedaten oder Ihren Dokumentsätzen und verwenden Sie dann die Fundierung mit Agent Search.

Die Fundierung mit Ihren Daten unterstützt maximal 10 Agent Search Datenquellen und kann mit der Fundierung mit der Google Suche kombiniert werden.

Unterstützte Modelle

In diesem Abschnitt werden die Modelle aufgeführt, die die Fundierung mit Ihren Daten unterstützen.

Klicken Sie, um die unterstützten Modelle zu maximieren.

Vorbereitung

Bevor Sie die Modellausgabe mit Ihren Daten fundieren können, führen Sie folgende Schritte aus:

  1. Rufen Sie in der Google Cloud Console die Seite IAM auf und suchen Sie nach der discoveryengine.servingConfigs.search Berechtigung. Diese ist erforderlich, damit der Fundierungsdienst funktioniert.

    IAM aufrufen

    Bitten Sie Ihren Administrator, Ihnen die folgenden IAM-Rollen zuzuweisen, um die Berechtigungen zu erhalten, die Sie für die Fundierung mit Agent Search benötigen:

    • Alle Discovery Engine-Ressourcen lesen: Discovery Engine-Betrachter (roles/discoveryengine.viewer).

    • Alle Discovery Engine-Ressourcen lesen und schreiben sowie eine Agent Search-Instanz erstellen: Discovery Engine-Bearbeiter (roles/discoveryengine.editor).

    Weitere Informationen zu IAM finden Sie unter IAM-Rollen und -Berechtigungen.

  2. KI-Anwendungen aktivieren und die API.

  3. Erstellen Sie eine KI-Anwendungsdatenquelle und Anwendung.

    Weitere Informationen finden Sie unter Einführung in Agent Search.

KI-Anwendungen aktivieren

Wenn Sie Agent Search verwenden möchten, um Ihre Antworten zu fundieren, müssen Sie den Agent Search-Dienst so aktivieren:

  1. Rufen Sie in der Google Cloud Console die Seite KI-Anwendungen auf.

    Zu KI-Anwendungen

  2. Optional: Lesen Sie die Nutzungsbedingungen für Daten.

KI-Anwendungen ist am Standort global oder in den Multiregionen eu und us verfügbar. Weitere Informationen finden Sie unter Standorte für KI-Anwendungen.

Datenspeicher in KI-Anwendungen erstellen

Wenn Sie einen Datenspeicher in KI-Anwendungen erstellen möchten, können Sie die Fundierung mit Websitedaten oder Dokumenten vornehmen.

Website

  1. Öffnen Sie in der Google Cloud Console die Seite Create Data Store.

  2. Klicken Sie im Feld Websiteinhalte auf Auswählen.
    Der Bereich Websites für den Datenspeicher angeben wird angezeigt.

  3. Wenn Erweiterte Websiteindexierung nicht ausgewählt ist, aktivieren Sie die Option.
    Datenspeicher konfigurieren wird angezeigt.

  4. Führen Sie im Abschnitt URL-Muster angeben, die indexiert werden sollen folgende Schritte aus:

    • Fügen Sie URLs für Websites hinzufügen, um sie einzuschließen hinzu.
    • Optional: Fügen Sie URLs für Websites hinzufügen, um sie auszuschließen hinzu.

  5. Klicken Sie auf Weiter.

  6. Im Bereich Datenspeicher konfigurieren:

    1. Wählen Sie einen Wert aus der Liste Standort des Datenspeichers aus.
    2. Geben Sie im Feld Name des Datenspeichers einen Namen ein. Die ID wird generiert. Verwenden Sie diese ID, wenn Sie Ihre fundierten Antworten mit Ihrem Datenspeicher generieren. Weitere Informationen finden Sie unter Fundierte Antworten mit Ihrem Datenspeicher generieren.
    3. Klicken Sie auf Erstellen.

Dokumente

  1. Öffnen Sie in der Google Cloud Console die Seite Create Data Store.

  2. Klicken Sie im Feld Cloud Storage auf Auswählen.
    Der Bereich Daten aus Cloud Storage wird angezeigt.

  3. Wählen Sie im Abschnitt Unstrukturierte Dokumente (PDF, HTML, TXT usw.) die Option Unstrukturierte Dokumente (PDF, HTML, TXT usw.) aus.

  4. Wählen Sie eine Option für die Synchronisierungshäufigkeit aus.

  5. Wählen Sie eine Option für Ordner oder Datei für Import auswählen aus und geben Sie den Pfad im Feld ein.

  6. Klicken Sie auf Weiter.
    Der Bereich Datenspeicher konfigurieren wird angezeigt.

  7. Im Bereich Datenspeicher konfigurieren:

    1. Wählen Sie einen Wert aus der Liste Standort des Datenspeichers aus.
    2. Geben Sie im Feld Name des Datenspeichers einen Namen ein. Die ID wird generiert.
    3. Wenn Sie Optionen für das Parsen und Aufteilen in Blöcke für Ihre Dokumente auswählen möchten, maximieren Sie den Bereich Optionen für die Dokumentverarbeitung. Weitere Informationen zu verschiedenen Parsern finden Sie unter Dokumente parsen.
    4. Klicken Sie auf Erstellen.

  8. Klicken Sie auf Erstellen.

Fundierte Antworten mit Ihrem Datenspeicher generieren

Folgen Sie der nachstehenden Anleitung, um ein Modell mit Ihren Daten zu fundieren. Es werden maximal 10 Datenspeicher unterstützt.

Wenn Sie Ihre Datenspeicher-ID nicht kennen, gehen Sie so vor:

  1. Rufen Sie in der Google Cloud Console die Seite KI-Anwendungen auf und klicken Sie im Navigationsmenü auf Datenspeicher.

    Zur Seite „Datenspeicher“

  2. Klicken Sie auf den Namen des Datenspeichers.

  3. Rufen Sie auf der Seite Daten Ihres Datenspeichers die Datenspeicher-ID ab.

Console

Führen Sie die folgenden Schritte aus, um Ihre Modellausgabe in KI-Anwendungen zu fundieren. Dazu nutzen Sie Vertex AI Studio in der Google Cloud Console:

  1. Rufen Sie in der Google Cloud Console die Seite Vertex AI Studio auf.

    Zu Vertex AI Studio

  2. So aktivieren Sie die Fundierung:
    1. Klicken Sie im Navigationsmenü auf + Neu und Chat.
    2. Maximieren Sie den Bereich Modelleinstellungen und wählen Sie Ihr Modell aus.
    3. Optional: Wenn die Option Strukturierte Ausgabe oder Fundierung: Google aktiviert ist, deaktivieren Sie sie.
    4. Klicken Sie auf die Option Fundierung: Ihre Daten. Der Bereich Fundierung anpassen wird angezeigt.
      1. Wählen Sie in der folgenden Tabelle eine Option für die Fundierungsquelle aus:
        2. Fundierungsoption Beschreibung Eingabe
        RAG Engine Fundierung mit Ihren Daten und DIY-Komponenten. Wenn Sie keinen Korpus haben, müssen Sie einen erstellen. Andernfalls geben Sie Ihren Korpus ein.
        Agent Search Fundierung mit Ihren Daten und einer Google-verwalteten Suchmaschine. Geben Sie Ihren Pfad in das Feld Pfad des Datenspeichers der Gemini Enterprise Agent Platform ein.
        Elasticsearch Fundierung mit Elasticsearch. Geben Sie die folgenden Informationen ein:
        1. Geben Sie einen Wert in das Feld Elasticsearch-Endpunkt ein.
        2. Geben Sie einen Wert in das Feld Elasticsearch-API-Schlüssel ein.
        3. Geben Sie einen Wert in das Feld Elasticsearch-Index ein.
        4. Geben Sie einen Wert in das Feld Elasticsearch-Suchvorlage ein.
      2. Klicken Sie auf Speichern.
  3. Geben Sie Ihren Prompt in das Textfeld ein und klicken Sie auf Senden. Ihre Prompt-Antworten werden in KI-Anwendungen fundiert.

Python

Installieren

pip install --upgrade google-genai

Weitere Informationen finden Sie in der SDK-Referenzdokumentation.

Legen Sie Umgebungsvariablen fest, um das Gen AI SDK mit Vertex AI zu verwenden: 

# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values
# with appropriate values for your project.
export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT
export GOOGLE_CLOUD_LOCATION=global
export GOOGLE_GENAI_USE_ENTERPRISE=True
 

from google import genai
from google.genai.types import (
    GenerateContentConfig,
    VertexAISearch,
    Retrieval,
    Tool,
    HttpOptions,
)

client = genai.Client(http_options=HttpOptions(api_version="v1"))

# Replace with your Agent Search data store details
DATASTORE_PATH = "projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATASTORE_ID"

tool = Tool(
    retrieval=Retrieval(
        vertex_ai_search=VertexAISearch(
            datastore=DATASTORE_PATH
        )
    )
)

response = client.models.generate_content(
    model="gemini-2.5-flash",  # Or another supported model
    contents="What information can you find about topic X in the provided documents?", # Your query
    config=GenerateContentConfig(
        tools=[tool],
    ),
)

print(response.text)

REST

Senden Sie zum Testen eines Text-Prompts mit der Agent Platform API eine POST-Anfrage an den Endpunkt des Publisher-Modells.

Ersetzen Sie folgende Werte in den Anfragedaten:

  • LOCATION: Die Region, in der die Anfrage verarbeitet werden soll. Wenn Sie den global Endpunkt verwenden möchten, schließen Sie den Standort aus dem Endpunktnamen aus und konfigurieren Sie den Standort der Ressource auf global.
  • PROJECT_ID: Ihre [Projekt-ID](/resource-manager/docs/creating-managing-projects#identifiers). .
  • MODEL_ID: Die Modell-ID des multimodalen Modells.
  • PROMPT: Der Prompt, der an das Modell gesendet werden soll.

HTTP-Methode und URL: 

POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent

JSON-Text der Anfrage: 

{
  "contents": [{
    "role": "user",
    "parts": [{
      "text": "PROMPT"
    }]
  }],
  "tools": [{
    "retrieval": {
      "vertexAiSearch": {
        "datastore": projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATASTORE_ID
      }
    }
  }],
  "model": "projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID"
}

Wenn Sie die Anfrage senden möchten, maximieren Sie eine der folgenden Optionen:

Sie sollten eine JSON-Antwort ähnlich wie diese erhalten:

{
  "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "You can make an appointment on the website https://dmv.gov/"
          }
        ]
      },
      "finishReason": "STOP",
      "safetyRatings": [
        "..."
      ],
      "groundingMetadata": {
        "retrievalQueries": [
          "How to make appointment to renew driving license?"
        ],
        "groundingChunks": [
          {
            "retrievedContext": {
              "uri": "https://vertexaisearch.cloud.google.com/grounding-api-redirect/AXiHM.....QTN92V5ePQ==",
              "title": "dmv"
            }
          }
        ],
        "groundingSupport": [
          {
            "segment": {
              "startIndex": 25,
              "endIndex": 147
            },
            "segment_text": "ipsum lorem ...",
            "supportChunkIndices": [1, 2],
            "confidenceScore": [0.9541752, 0.97726375]
          },
          {
            "segment": {
              "startIndex": 294,
              "endIndex": 439
            },
            "segment_text": "ipsum lorem ...",
            "supportChunkIndices": [1],
            "confidenceScore": [0.9541752, 0.9325467]
          }
        ]
      }
    }
  ],
  "usageMetadata": {
    "..."
  }
}

Ihre Antwort verstehen

Die Antwort beider APIs enthält den vom LLM generierten Text, der als Kandidat bezeichnet wird. Wenn Ihr Modell-Prompt erfolgreich mit Ihrer Datenquelle fundiert wird, enthalten die Antworten Fundierungsmetadaten, die die Teile der Antwort identifizieren, die aus Ihren Daten abgeleitet wurden. Es gibt jedoch mehrere Gründe, warum diese Metadaten möglicherweise nicht bereitgestellt werden und die Prompt-Antwort nicht fundiert wird. Dazu gehören eine geringe Relevanz der Quelle oder unvollständige Informationen in der Antwort des Modells.

Im Folgenden finden Sie eine Aufschlüsselung der Ausgabedaten:

  • Rolle: Gibt den Absender der fundierten Antwort an. Da die Antwort immer fundierten Text enthält, ist die Rolle immer model.
  • Text: Die vom LLM generierte fundierte Antwort.
  • Fundierungsmetadaten: Informationen zur Fundierungsquelle, die die folgenden Elemente enthalten:
    • Fundierungs-Chunks: Eine Liste von Ergebnissen aus Ihrem Index, die die Antwort unterstützen.
    • Fundierungsunterstützung: Informationen zu einer bestimmten Behauptung in der Antwort , mit der Quellenangaben angezeigt werden können:
    • Segment: Der Teil der Antwort des Modells, der durch einen Fundierungs-Chunk belegt wird.
    • Index des Fundierungs-Chunks: Der Index der Fundierungs-Chunks in der Liste der Fundierungs-Chunks, der dieser Behauptung entspricht.
    • Konfidenzwerte: Eine Zahl zwischen 0 und 1, die angibt, wie fundiert die Behauptung in der bereitgestellten Menge von Fundierungs-Chunks ist. Nicht für Gemini 2.5 und höher verfügbar.

Nächste Schritte