Antworten mit RAG fundieren

Die Fundierung ist eine Technik, mit der Sie dazu beitragen können, dass Modellantworten vertrauenswürdiger, hilfreicher und faktischer sind. Wenn Sie Antworten von generativen KI-Modellen fundieren, verknüpfen Sie sie mit überprüfbaren Informationsquellen. Um Grounding zu implementieren, müssen Sie relevante Quelldaten abrufen. Es wird empfohlen, die Technik der Retrieval-Augmented Generation (RAG) zu verwenden. Der Abruf erfolgt in der Regel über eine Suchmaschine, die einen Index verwendet, in den die semantischen Bedeutungen des Quelltexts eingebettet sind.

Es gibt auch Dienste und Komponenten-APIs, die den RAG-Lebenszyklus implementieren, z. B. die Agent Search Builder API, die eine flexible Entwicklung ermöglicht. Mit der Mix-and-Match-Methode können Sie eine RAG-Lösung mit einem der folgenden Dienste oder APIs implementieren:

  • API zur Fundierung der Generierung: Mit dieser API können Sie die Fundierung implementieren oder eine Verbindung zu einem Retrieval-Anbieter für den gesamten RAG-Lebenszyklus herstellen.
  • Dokumentlayoutparser: Dieser Parser vereint die besten Funktionen von Document AI und Gemini für die Dokumentenanalyse. Weitere Informationen zum Layoutparser finden Sie unter Layoutparser verwenden.
  • Vektorsuche auf der Gemini Enterprise Agent Platform: Dieser Suchdienst ist leistungsstark und verwendet eine hochwertige Vektordatenbank.
  • Grounding API prüfen: Diese API vergleicht die RAG-Ausgabe mit den abgerufenen Fakten und trägt dazu bei, dass alle Aussagen fundiert sind, bevor die Antwort an den Nutzer zurückgegeben wird.

Antworten mit RAG Engine auf der Gemini Enterprise Agent Platform fundieren

Wenn Sie Antworten mit RAG Engine fundieren möchten, müssen Sie einen Prompt erstellen. Gehen Sie dazu so vor:

  1. Rufen Sie in der Google Cloud Console die Seite Prompt erstellen in Vertex AI Studio auf.

    Zur Seite „Prompt erstellen“

  2. Wählen Sie Fundierung: Ihre Daten aus.

  3. Wählen Sie die Fundierungsquelle RAG Engine aus.

  4. Wählen Sie in der Liste Corpus den Namen Ihres Corpus aus.

  5. Wählen Sie im Feld Top-K-Ähnlichkeit die Option 20 aus. Das ist der Standardwert.

  6. Klicken Sie auf Speichern.

Nächste Schritte