Antworten mit RAG fundieren

Die Fundierung ist eine Technik, mit der Sie Modellantworten generieren können, die vertrauenswürdiger, hilfreicher und faktischer sind. Wenn Sie Antworten von generativen KI-Modellen fundieren, verbinden Sie sie mit überprüfbaren Informationsquellen. Um die Fundierung zu implementieren, müssen Sie relevante Quelldaten abrufen. Es wird empfohlen, die RAG-Technik (Retrieval-Augmented Generation) zu verwenden. Der Abruf erfolgt in der Regel über eine Suchmaschine, die einen Index verwendet, der die semantische Bedeutung des Quelltextes enthält.

Es gibt auch Dienste und Komponenten-APIs, die den RAG-Lebenszyklus implementieren, z. B. die Agent Search on Gemini Enterprise Agent Platform Builder API, die eine flexible Erstellung ermöglicht. Mit dem Mix-and-Match-Ansatz können Sie eine RAG-Lösung mit einem der folgenden Dienste oder APIs implementieren:

  • Grounding Generation API: Sie können damit die Fundierung implementieren oder eine Verknüpfung zu einem Retrieval-Anbieter für den gesamten RAG-Lebenszyklus herstellen.
  • Document Layout Parser: Dieser Parser vereint die besten Funktionen von Document AI und Gemini für das Dokumentenverständnis. Weitere Informationen zum Layoutparser finden Sie unter Layoutparser verwenden.
  • Vektorsuche auf der Gemini Enterprise Agent Platform: Dieser Suchdienst ist sehr leistungsstark und verwendet eine hochwertige Vektordatenbank.
  • Check Grounding API: Diese API vergleicht die RAG-Ausgabe mit den abgerufenen Fakten und trägt dazu bei, dass alle Aussagen fundiert sind, bevor die Antwort an den Nutzer zurückgegeben wird.

Antworten mit der RAG Engine auf der Gemini Enterprise Agent Platform fundieren

Wenn Sie Antworten mit der RAG Engine fundieren möchten, müssen Sie einen Prompt erstellen. Gehen Sie dazu so vor:

  1. Rufen Sie in der Google Cloud Console die Seite Agent Studio auf.

    Zu Agent Studio

  2. Gehen Sie in der Seitenleiste unter Modelleinstellungen zum Abschnitt Fundierung und aktivieren Sie die Option Meine Daten.

  3. Wählen Sie im Konfigurationsbereich RAG Engine als Fundierungsquelle aus.

  4. Wählen Sie in der Liste Korpus den Namen Ihres Korpus aus.

  5. Wählen Sie im Feld Top-K-Ähnlichkeit die Option 20 aus. Das ist der Standardwert.

  6. Klicken Sie auf Speichern.

Nächste Schritte