Reranking für die RAG Engine auf der Gemini Enterprise Agent Platform

Auf dieser Seite werden das Reranking und die Arten von Rankern erläutert. Auf der Seite wird auch gezeigt, wie Sie die Ranking API der Gemini Enterprise Agent Platform verwenden, um die abgerufenen Antworten neu zu bewerten.

Verfügbare Reranker

Ranker-Optionen Beschreibung Latenz Genauigkeit Preise
Agent Platform Ranking API

Die Ranking API der Agent Platform ist ein eigenständiger semantischer Reranker, der für eine hochpräzise Relevanzbewertung und niedrige Latenz entwickelt wurde.

Weitere Informationen zur Agent Platform Ranking API finden Sie unter Such- und RAG-Qualität mit der Ranking API verbessern.

Sehr niedrig (weniger als 100 Millisekunden) Hervorragende Leistung Pro RAG Engine-Anfrage
LLM-Reranker Der LLM-Reranker verwendet einen separaten Aufruf an Gemini, um die Relevanz von Chunks für eine Abfrage zu bewerten. Hoch (1 bis 2 Sekunden) Modellabhängig Preise für LLM-Tokens

Ranking API der Agent Platform verwenden

Wenn Sie die Ranking API der Agent Platform verwenden möchten, müssen Sie die Discovery Engine API aktivieren. Alle unterstützten Modelle finden Sie unter Such- und RAG-Qualität mit der Ranking API verbessern.

Diese Codebeispiele zeigen, wie Sie das Reranking mit der Ranking API der Agent Platform in der Toolkonfiguration aktivieren.

Python

Informationen zur Installation oder Aktualisierung des Agent Platform SDK für Python finden Sie unter Agent Platform SDK für Python installieren. Weitere Informationen finden Sie in der Referenzdokumentation zur Python API.

Ersetzen Sie die folgenden Variablen, die im Beispielcode verwendet werden:

  • PROJECT_ID: Die ID Ihres Google Cloud -Projekts.
  • LOCATION: Die Region, in der die Anfrage verarbeitet werden soll.
  • MODEL_NAME: LLM-Modell für die Inhaltsgenerierung. Beispiel: gemini-3.8-flash.
  • INPUT_PROMPT: Der Text, der zur Inhaltsgenerierung an das LLM gesendet wird.
  • RAG_CORPUS_RESOURCE: Der Name der RAG-Korpus-Ressource.
    Format: projects/{project}/locations/{location}/ragCorpora/{rag_corpus}.
  • SIMILARITY_TOP_K: Optional: Die Anzahl der Top-Kontexte, die abgerufen werden sollen.
  • RANKER_MODEL_NAME: Der Name des Modells, das für das Reranking verwendet wird. Beispiel: semantic-ranker-default@latest
from vertexai import rag
from vertexai.generative_models import GenerativeModel, Tool
import vertexai

PROJECT_ID = "PROJECT_ID"
CORPUS_NAME = "projects/{PROJECT_ID}/locations/LOCATION/ragCorpora/RAG_CORPUS_RESOURCE"

# Initialize Agent Platform API once per session
vertexai.init(project=PROJECT_ID, location="LOCATION")

config = rag.RagRetrievalConfig(
    top_k=10,
    ranking=rag.Ranking(
        rank_service=rag.RankService(
            model_name=RANKER_MODEL_NAME
        )
    )
)

rag_retrieval_tool = Tool.from_retrieval(
    retrieval=rag.Retrieval(
        source=rag.VertexRagStore(
            rag_resources=[
                rag.RagResource(
                    rag_corpus=CORPUS_NAME,
                )
            ],
            rag_retrieval_config=config
        ),
    )
)

rag_model = GenerativeModel(
    model_name="MODEL_NAME", tools=[rag_retrieval_tool]
)
response = rag_model.generate_content("INPUT_PROMPT")
print(response.text)
# Example response:
#   The sky appears blue due to a phenomenon called Rayleigh scattering.
#   Sunlight, which contains all colors of the rainbow, is scattered
#   by the tiny particles in the Earth's atmosphere....
#   ...

REST

Wenn Sie Inhalte mit Gemini-Modellen generieren möchten, rufen Sie die GenerateContent API der Agent Platform auf. Wenn Sie bei der Anfrage die RAG_CORPUS_RESOURCE angeben, ruft das Modell automatisch Daten aus der RAG Engine ab.

Ersetzen Sie die folgenden Variablen, die im Beispielcode verwendet werden:

  • PROJECT_ID: Die ID Ihres Google Cloud -Projekts.
  • LOCATION: Die Region, in der die Anfrage verarbeitet werden soll.
  • MODEL_NAME: LLM-Modell für die Inhaltsgenerierung. Beispiel: gemini-3.8-flash.
  • GENERATION_METHOD: LLM-Methode zum Generieren von Inhalten. Zu den Optionen gehören generateContent und streamGenerateContent.
  • INPUT_PROMPT: Der Text, der zur Inhaltsgenerierung an das LLM gesendet wird.
  • RAG_CORPUS_RESOURCE: Der Name der RAG-Korpus-Ressource.
    Format: projects/{project}/locations/{location}/ragCorpora/{rag_corpus}.
  • SIMILARITY_TOP_K: Optional: Die Anzahl der Top-Kontexte, die abgerufen werden sollen.
  • RANKER_MODEL_NAME: Der Name des Modells, das für das Reranking verwendet wird. Beispiel: semantic-ranker-default@latest
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_NAME:GENERATION_METHOD" \
-d '{
  "contents": {
    "role": "user",
    "parts": {
      "text": "INPUT_PROMPT"
    }
  },
  "tools": {
    "retrieval": {
      "disable_attribution": false,
      "vertex_rag_store": {
        "rag_resources": {
            "rag_corpus": "RAG_CORPUS_RESOURCE"
          },
        "rag_retrieval_config": {
          "top_k": SIMILARITY_TOP_K,
          "ranking": {
            "rank_service": {
              "model_name": "RANKER_MODEL_NAME"
            }
          }
        }
      }
    }
  }
}'

LLM-Reranker in der RAG Engine verwenden

In diesem Abschnitt werden die Voraussetzungen und Codebeispiele für die Verwendung eines LLM-Rerankers beschrieben.

Der LLM-Reranker unterstützt nur Gemini-Modelle, auf die zugegriffen werden kann, wenn die RAG Engine on Gemini Enterprise Agent Platform API aktiviert ist. Eine Liste der unterstützten Modelle finden Sie unter Gemini-Modelle.

So rufen Sie relevante Kontexte mit der RAG Engine API ab:

Python

Informationen zur Installation oder Aktualisierung des Agent Platform SDK für Python finden Sie unter Agent Platform SDK für Python installieren. Weitere Informationen finden Sie in der Referenzdokumentation zur Python API.

Ersetzen Sie die folgenden Variablen, die im Codebeispiel verwendet werden:

  • PROJECT_ID: Die ID Ihres Google Cloud -Projekts.
  • LOCATION: Die Region, in der die Anfrage verarbeitet werden soll.
  • RAG_CORPUS_RESOURCE: Der Name der RAG-Korpusressource. Format: projects/{project}/locations/{location}/ragCorpora/{rag_corpus}.
  • TEXT: Der Abfragetext, um relevante Kontexte abzurufen.
  • MODEL_NAME: Der Name des Modells, das für das Reranking verwendet wird.
from vertexai import rag
import vertexai

PROJECT_ID = "PROJECT_ID"
CORPUS_NAME = "projects/[PROJECT_ID]/locations/LOCATION/ragCorpora/RAG_CORPUS_RESOURCE"
MODEL_NAME= "MODEL_NAME"

# Initialize Agent Platform API once per session
vertexai.init(project=PROJECT_ID, location="LOCATION")

rag_retrieval_config = rag.RagRetrievalConfig(
    top_k=10,
    ranking=rag.Ranking(
        llm_ranker=rag.LlmRanker(
            model_name=MODEL_NAME
        )
    )
)

response = rag.retrieval_query(
    rag_resources=[
        rag.RagResource(
            rag_corpus=CORPUS_NAME,
        )
    ],
    text="TEXT",
    rag_retrieval_config=rag_retrieval_config,
)
print(response)
# Example response:
# contexts {
#   contexts {
#     source_uri: "gs://your-bucket-name/file.txt"
#     text: "....
#   ....

REST

Ersetzen Sie die folgenden Variablen, die im Codebeispiel verwendet werden:

  • PROJECT_ID: Die ID Ihres Google Cloud -Projekts.
  • LOCATION: Die Region, in der die Anfrage verarbeitet werden soll.
  • RAG_CORPUS_RESOURCE: Der Name der RAG-Korpusressource. Format: projects/{project}/locations/{location}/ragCorpora/{rag_corpus}.
  • TEXT: Der Abfragetext, um relevante Kontexte abzurufen.
  • MODEL_NAME: Der Name des Modells, das für das Reranking verwendet wird.
curl -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION:retrieveContexts" \
  -d '{
    "vertex_rag_store": {
      "rag_resources": {
          "rag_corpus": "RAG_CORPUS_RESOURCE"
        }
    },
    "query": {
      "text": "TEXT",
      "rag_retrieval_config": {
        "top_k": 10,
        "ranking": {
          "llm_ranker": {
            "model_name": "MODEL_NAME"
          }
        }
      }
    }
  }'

Nächste Schritte