Riorganizzazione per RAG Engine su Gemini Enterprise Agent Platform

La pagina spiega il reranking e i tipi di ranker. La pagina mostra anche come utilizzare l'API di ranking di Gemini Enterprise Agent Platform per riordinare le risposte recuperate.

Reranker disponibili

Opzioni di classificazione Descrizione Latenza Accuratezza Prezzi
API di ranking di Agent Platform

L'API di ranking di Agent Platform è un reranker semantico autonomo progettato per un punteggio di pertinenza ad alta precisione e una bassa latenza.

Per saperne di più sull'API di ranking di Agent Platform, consulta Migliora la qualità della ricerca e della RAG con l'API di ranking.

Molto bassa (meno di 100 millisecondi) Prestazioni all'avanguardia Per richiesta RAG Engine
Reranker LLM Il reranker LLM utilizza una chiamata separata a Gemini per valutare la pertinenza dei chunk rispetto a una query. Alta (1-2 secondi) Dipendente dal modello Prezzi dei token LLM

Utilizza l'API di ranking di Agent Platform

Per utilizzare l'API di ranking di Agent Platform, devi abilitare l'API Discovery Engine. Tutti i modelli supportati sono disponibili in Migliora la qualità della ricerca e della RAG con l'API di ranking.

Questi esempi di codice mostrano come attivare il reranking con l'API di ranking della piattaforma dell'agente nella configurazione dello strumento.

Python

Per scoprire come installare o aggiornare l'SDK Agent Platform per Python, consulta Installa l'SDK Agent Platform per Python. Per saperne di più, consulta la documentazione di riferimento dell'API Python.

Sostituisci le seguenti variabili utilizzate nel codice campione:

  • PROJECT_ID: l'ID del tuo progetto Google Cloud .
  • LOCATION: la regione in cui elaborare la richiesta.
  • MODEL_NAME: modello LLM per la generazione di contenuti. Ad esempio, gemini-3.8-flash.
  • INPUT_PROMPT: il testo inviato all'LLM per la generazione dei contenuti.
  • RAG_CORPUS_RESOURCE: il nome della risorsa del corpus RAG.
    Formato: projects/{project}/locations/{location}/ragCorpora/{rag_corpus}.
  • SIMILARITY_TOP_K: (facoltativo) il numero di contesti principali da recuperare.
  • RANKER_MODEL_NAME: il nome del modello utilizzato per il reranking. Ad esempio: semantic-ranker-default@latest.
from vertexai import rag
from vertexai.generative_models import GenerativeModel, Tool
import vertexai

PROJECT_ID = "PROJECT_ID"
CORPUS_NAME = "projects/{PROJECT_ID}/locations/LOCATION/ragCorpora/RAG_CORPUS_RESOURCE"

# Initialize Agent Platform API once per session
vertexai.init(project=PROJECT_ID, location="LOCATION")

config = rag.RagRetrievalConfig(
    top_k=10,
    ranking=rag.Ranking(
        rank_service=rag.RankService(
            model_name=RANKER_MODEL_NAME
        )
    )
)

rag_retrieval_tool = Tool.from_retrieval(
    retrieval=rag.Retrieval(
        source=rag.VertexRagStore(
            rag_resources=[
                rag.RagResource(
                    rag_corpus=CORPUS_NAME,
                )
            ],
            rag_retrieval_config=config
        ),
    )
)

rag_model = GenerativeModel(
    model_name="MODEL_NAME", tools=[rag_retrieval_tool]
)
response = rag_model.generate_content("INPUT_PROMPT")
print(response.text)
# Example response:
#   The sky appears blue due to a phenomenon called Rayleigh scattering.
#   Sunlight, which contains all colors of the rainbow, is scattered
#   by the tiny particles in the Earth's atmosphere....
#   ...

REST

Per generare contenuti utilizzando i modelli Gemini, effettua una chiamata all'API GenerateContent di Agent Platform. Se specifichi RAG_CORPUS_RESOURCE quando effettui la richiesta, il modello recupera automaticamente i dati da RAG Engine.

Sostituisci le seguenti variabili utilizzate nel codice campione:

  • PROJECT_ID: l'ID del tuo progetto Google Cloud .
  • LOCATION: la regione in cui elaborare la richiesta.
  • MODEL_NAME: modello LLM per la generazione di contenuti. Ad esempio, gemini-3.8-flash.
  • GENERATION_METHOD: metodo LLM per la generazione di contenuti. Le opzioni includono generateContent e streamGenerateContent.
  • INPUT_PROMPT: il testo inviato all'LLM per la generazione dei contenuti.
  • RAG_CORPUS_RESOURCE: il nome della risorsa del corpus RAG.
    Formato: projects/{project}/locations/{location}/ragCorpora/{rag_corpus}.
  • SIMILARITY_TOP_K: (facoltativo) il numero di contesti principali da recuperare.
  • RANKER_MODEL_NAME: il nome del modello utilizzato per il reranking. Ad esempio: semantic-ranker-default@latest.
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_NAME:GENERATION_METHOD" \
-d '{
  "contents": {
    "role": "user",
    "parts": {
      "text": "INPUT_PROMPT"
    }
  },
  "tools": {
    "retrieval": {
      "disable_attribution": false,
      "vertex_rag_store": {
        "rag_resources": {
            "rag_corpus": "RAG_CORPUS_RESOURCE"
          },
        "rag_retrieval_config": {
          "top_k": SIMILARITY_TOP_K,
          "ranking": {
            "rank_service": {
              "model_name": "RANKER_MODEL_NAME"
            }
          }
        }
      }
    }
  }
}'

Utilizza il reranker LLM in RAG Engine

Questa sezione presenta i prerequisiti e gli esempi di codice per l'utilizzo di un reranker LLM.

Il reranker LLM supporta solo i modelli Gemini, accessibili quando l'API RAG Engine on Gemini Enterprise Agent Platform è abilitata. Per visualizzare l'elenco dei modelli supportati, consulta Modelli Gemini.

Per recuperare i contesti pertinenti utilizzando l'API RAG Engine, procedi nel seguente modo:

Python

Per scoprire come installare o aggiornare l'SDK Agent Platform per Python, consulta Installa l'SDK Agent Platform per Python. Per saperne di più, consulta la documentazione di riferimento dell'API Python.

Sostituisci le seguenti variabili utilizzate nell'esempio di codice:

  • PROJECT_ID: l'ID del tuo progetto Google Cloud .
  • LOCATION: la regione in cui elaborare la richiesta.
  • RAG_CORPUS_RESOURCE: il nome della risorsa del corpus RAG. Formato: projects/{project}/locations/{location}/ragCorpora/{rag_corpus}.
  • TEXT: il testo della query per ottenere contesti pertinenti.
  • MODEL_NAME: il nome del modello utilizzato per il reranking.
from vertexai import rag
import vertexai

PROJECT_ID = "PROJECT_ID"
CORPUS_NAME = "projects/[PROJECT_ID]/locations/LOCATION/ragCorpora/RAG_CORPUS_RESOURCE"
MODEL_NAME= "MODEL_NAME"

# Initialize Agent Platform API once per session
vertexai.init(project=PROJECT_ID, location="LOCATION")

rag_retrieval_config = rag.RagRetrievalConfig(
    top_k=10,
    ranking=rag.Ranking(
        llm_ranker=rag.LlmRanker(
            model_name=MODEL_NAME
        )
    )
)

response = rag.retrieval_query(
    rag_resources=[
        rag.RagResource(
            rag_corpus=CORPUS_NAME,
        )
    ],
    text="TEXT",
    rag_retrieval_config=rag_retrieval_config,
)
print(response)
# Example response:
# contexts {
#   contexts {
#     source_uri: "gs://your-bucket-name/file.txt"
#     text: "....
#   ....

REST

Sostituisci le seguenti variabili utilizzate nell'esempio di codice:

  • PROJECT_ID: l'ID del tuo progetto Google Cloud .
  • LOCATION: la regione in cui elaborare la richiesta.
  • RAG_CORPUS_RESOURCE: il nome della risorsa del corpus RAG. Formato: projects/{project}/locations/{location}/ragCorpora/{rag_corpus}.
  • TEXT: il testo della query per ottenere contesti pertinenti.
  • MODEL_NAME: il nome del modello utilizzato per il reranking.
curl -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION:retrieveContexts" \
  -d '{
    "vertex_rag_store": {
      "rag_resources": {
          "rag_corpus": "RAG_CORPUS_RESOURCE"
        }
    },
    "query": {
      "text": "TEXT",
      "rag_retrieval_config": {
        "top_k": 10,
        "ranking": {
          "llm_ranker": {
            "model_name": "MODEL_NAME"
          }
        }
      }
    }
  }'

Passaggi successivi