RAG Engine – Korpusübergreifender Abruf

Wichtig: Legen Sie beim Erstellen eines RAG-Korpus den Korpus-description fest. Der description kann nach dem Erstellen nicht mehr bearbeitet werden. Hochwertige Beschreibungen sind entscheidend für eine effektive korpusübergreifende Suche, da das System anhand dieser Beschreibungen die geeigneten Korpora für Ihre Abfrage auswählt.

Auf dieser Seite werden zwei APIs beschrieben, AsyncRetrieveContexts und AskContexts, die den korpusübergreifenden RAG-Abruf unterstützen, der im Backend durch agentischen Datenabruf unterstützt wird.

AsyncRetrieveContexts API: Dies ist eine asynchrone API, mit der Nutzer relevante Kontexte aus mehreren RAG-verwalteten Korpora abrufen können. Dies ist eine API mit langer Ausführungszeit. Nutzer können die Vorgangs-ID verwenden, um den Status der Abfrage und des Ergebnisses abzurufen.

AskContexts API: Dies ist eine synchrone API, die die Antwort auf die Abfrage direkt generiert, indem sie mehrere RAG-verwaltete Korpora durchsucht.

Wichtig: Wenn Sie diese Funktion verwenden möchten, müssen Sie dem Dienstkonto der RAG Engine auf der Gemini Enterprise Agent Platform (service-[Your project's automatically generated project number]@gcp-sa-vertex-rag.iam.gserviceaccount.com) die Rolle Agent Platform User in Ihrem Projekt zuweisen.

Wichtig: Diese Funktion ist nur in us-central1 verfügbar.

Systemarchitektur und Korpusauswahl

In diesem Abschnitt wird die Architektur des RAG-Systems für korpusübergreifendes Abrufen beschrieben und wie es geeignete Korpora für das Abrufen auswählt.

Systemarchitektur

Das Cross Corpus Retrieval-System verwendet einen agentischen Ansatz, um den Abruf über mehrere Korpora hinweg zu orchestrieren. Eine allgemeine Übersicht über die Architektur umfasst die folgenden Komponenten:

  • Orchestrator/Router: Empfängt die Nutzeranfrage und koordiniert den Abrufprozess.
  • Planungs-Agent: Analysiert die Anfrage und bestimmt anhand der descriptions, welche Korpora am relevantesten sind.
  • Retrieval Engine: Führt eine semantische Suche in den ausgewählten RAG-Korpora durch.
  • Reasoning Agent: Bewertet, ob die abgerufenen Kontexte ausreichen, um die Anfrage zu beantworten. Wenn die Informationen nicht ausreichen, wird Feedback generiert, um eine weitere Abrufschleife basierend auf Sufficient Context Awareness (SCA) auszulösen. Weitere Informationen finden Sie im Blogpost zu SCA und im Forschungsbericht.
  • LLM-Generator (für AskContexts): Synthetisiert die abgerufenen Kontexte, um eine endgültige Antwort zu generieren.
Korpusübergreifende Abrufarchitektur

Auswahl von Korpora

Wenn eine Abfrage über mehrere von RAG verwaltete Korpora ausgeführt wird, muss das System bestimmen, welcher Korpus die Informationen enthält, die zur Beantwortung der Abfrage erforderlich sind. Dies wird durch agentischen Datenabruf erreicht:

  1. Korpuszuordnung: Das System verwaltet eine Zuordnung der verfügbaren RAG-Korpora zusammen mit ihren technischen Beschreibungen (im Feld description des RAG-Korpus angegeben).
  2. Semantischer Abgleich: Ein Agent für die strategische Planung (unterstützt von einem Gemini-Modell) wertet die Anfrage des Nutzers anhand der descriptions der verfügbaren Korpora aus.
  3. Zielgerichtetes Routing: Der Planer generiert einen Abrufplan, der bestimmte Teile der Abfrage den relevantesten Korpora zuordnet. So wird sichergestellt, dass der Abruf fokussiert und effizient ist, anstatt alle Korpora naiv zu durchsuchen.

Codebeispiele

Die folgenden Codebeispiele zeigen, wie Sie die RAG Cross Corpus Retrieval APIs verwenden.

AsyncRetrieveContexts API

In diesem Codebeispiel wird gezeigt, wie Sie Kontexte asynchron aus mehreren RAG-Korpora abrufen.

Python

from vertexai.preview import rag
import vertexai

PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"
RAG_CORPUS_1_ID = "RAG_CORPUS_1_ID"
RAG_CORPUS_2_ID = "RAG_CORPUS_2_ID"

# Initialize API once per session
vertexai.init(project=PROJECT_ID, location=LOCATION)

# Async retrieve contexts from multiple corpora
# This can be run in an environment like a Colab notebook.
response = await rag.async_retrieve_contexts(
    text="Why is the sky blue?",
    rag_resources=[
        rag.RagResource(
            rag_corpus=f"projects/{PROJECT_ID}/locations/{LOCATION}/ragCorpora/{RAG_CORPUS_1_ID}",
        ),
        rag.RagResource(
            rag_corpus=f"projects/{PROJECT_ID}/locations/{LOCATION}/ragCorpora/{RAG_CORPUS_2_ID}",
        ),
    ],
)
print(response)

REST

PROJECT_ID="PROJECT_ID"
LOCATION="LOCATION"
RAG_CORPUS_1_ID="RAG_CORPUS_1_ID"
RAG_CORPUS_2_ID="RAG_CORPUS_2_ID"
QUERY="Why is the sky blue?"

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}:asyncRetrieveContexts" \
  -d '{
    "query": {
      "text": "'"$QUERY"'"
    },
    "tools": {
      "retrieval": {
        "disable_attribution": false,
        "vertex_rag_store": {
          "rag_resources": {
            "rag_corpus": "projects/'"${PROJECT_ID}"'/locations/'"${LOCATION}"'/ragCorpora/'"${RAG_CORPUS_1_ID}"'"
          },
          "rag_resources": {
            "rag_corpus": "projects/'"${PROJECT_ID}"'/locations/'"${LOCATION}"'/ragCorpora/'"${RAG_CORPUS_2_ID}"'"
          }
        }
      }
    }
  }'

Vorgangsergebnis abrufen

Da AsyncRetrieveContexts ein Vorgang mit langer Ausführungszeit ist, können Sie die GetOperations API verwenden, um das Ergebnis mithilfe der Vorgangs-ID abzufragen.

Python

from google.cloud import aiplatform_v1beta1

PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"
OPERATION_ID = "OPERATION_ID"

client = aiplatform_v1beta1.VertexRagServiceClient(
    client_options={"api_endpoint": f"{LOCATION}-aiplatform.googleapis.com"}
)

operation = client.get_operation(
    request={"name": f"projects/{PROJECT_ID}/locations/{LOCATION}/operations/{OPERATION_ID}"}
)

if operation.done:
    print(operation.response)
else:
    print("Operation is still running")

REST

PROJECT_ID="PROJECT_ID"
LOCATION="LOCATION"
OPERATION_ID="OPERATION_ID"

curl -X GET \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  "https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/operations/${OPERATION_ID}"

AskContexts API

In diesem Codebeispiel wird gezeigt, wie Sie eine Antwort direkt generieren, indem Sie synchron in mehreren RAG-Korpora suchen.

Python

from vertexai.preview import rag
import vertexai

PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"
RAG_CORPUS_1_ID = "RAG_CORPUS_1_ID"
RAG_CORPUS_2_ID = "RAG_CORPUS_2_ID"

# Initialize API once per session
vertexai.init(project=PROJECT_ID, location=LOCATION)

# Ask contexts from multiple corpora
response = rag.ask_contexts(
    text="Why is the sky blue?",
    rag_resources=[
        rag.RagResource(
            rag_corpus=f"projects/{PROJECT_ID}/locations/{LOCATION}/ragCorpora/{RAG_CORPUS_1_ID}",
        ),
        rag.RagResource(
            rag_corpus=f"projects/{PROJECT_ID}/locations/{LOCATION}/ragCorpora/{RAG_CORPUS_2_ID}",
        ),
    ],
)
print(response)

REST

PROJECT_ID="PROJECT_ID"
LOCATION="LOCATION"
RAG_CORPUS_1_ID="RAG_CORPUS_1_ID"
RAG_CORPUS_2_ID="RAG_CORPUS_2_ID"
QUERY="Why is the sky blue?"

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}:askContexts" \
  -d '{
    "query": {
      "text": "'"$QUERY"'"
    },
    "tools": {
      "retrieval": {
        "disable_attribution": false,
        "vertex_rag_store": {
          "rag_resources": {
            "rag_corpus": "projects/'"${PROJECT_ID}"'/locations/'"${LOCATION}"'/ragCorpora/'"${RAG_CORPUS_1_ID}"'"
          },
          "rag_resources": {
            "rag_corpus": "projects/'"${PROJECT_ID}"'/locations/'"${LOCATION}"'/ragCorpora/'"${RAG_CORPUS_2_ID}"'"
          }
        }
      }
    }
  }'

Nächste Schritte