Anfragen und Antworten protokollieren und teilen

Auf der Gemini Enterprise Agent Platform können Stichproben von Anfragen und Antworten für Gemini und unterstützte Partnermodelle protokolliert werden. Die Logs werden in einer BigQuery-Tabelle gespeichert, damit Sie sie ansehen und analysieren können. Außerdem kann die Agent Platform Anfrage-/Antwort-Logs für bestimmte Advanced AI-Modelle an bestimmte MaaS-Partner weitergeben, damit Sie Ihre Verpflichtungen gegenüber diesen MaaS-Partnern erfüllen können.

Auf dieser Seite wird beschrieben, wie Sie Anfrage-Antwort-Logs für Foundation-Basismodelle und feinabgestimmte Modelle konfigurieren.

Unterstützte API-Methoden für das Logging

Anfrage-Antwort-Logs werden für alle Gemini-Modelle unterstützt, die generateContent oder streamGenerateContent verwenden.

Die folgenden Partnermodelle, die rawPredict oder streamrawPredict verwenden, werden ebenfalls unterstützt:

  • Anthropic Claude

Anfrage-/Antwort-Logs für Basis-Foundation Models

Sie können Anfrage-/Antwort-Logs für Basismodelle mit der REST API oder dem Python SDK konfigurieren. Es kann einige Minuten dauern, bis Protokollierungskonfigurationen wirksam werden.

Logging von Anfragen/Antworten aktivieren

Wählen Sie einen der folgenden Tabs aus, um eine Anleitung zum Aktivieren von Protokollen für Anfragen und Antworten für ein Basis-Foundation Model zu erhalten.

Für Anthropic-Modelle wird nur REST für die Protokollierungskonfiguration unterstützt. Aktivieren Sie die Protokollierungskonfiguration über die REST API, indem Sie den Publisher auf anthropic und den Modellnamen auf eines der unterstützten Claude-Modelle festlegen.

Python SDK

Mit dieser Methode kann ein PublisherModelConfig erstellt oder aktualisiert werden.

# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
    GenerativeModel,
    )

PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"

vertexai.init(project=PROJECT_ID, location=LOCATION)

publisher_model = GenerativeModel("gemini-2.5-flash")

# Set logging configuration
publisher_model.set_request_response_logging_config(
    enabled=True,
    sampling_rate=1.0,
    bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME",
    enable_otel_logging=True
    )

REST API

So erstellen oder aktualisieren Sie ein PublisherModelConfig mit setPublisherModelConfig:

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • ENDPOINT_PREFIX: Die Region der Modellressource, gefolgt von -. Beispiel: us-central1- Lassen Sie das Feld leer, wenn Sie den globalen Endpunkt verwenden. Das Anfrage-Antwort-Logging wird für alle vom Modell unterstützten Regionen unterstützt.
  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Die Region der Modellressource. Wenn Sie den globalen Endpunkt verwenden, geben Sie global ein.
  • PUBLISHER: Der Name des Verlags. Beispiel: google.
  • MODEL: Der Name des Foundation Models. Beispiel: gemini-2.0-flash-001.
  • SAMPLING_RATE: Um die Speicherkosten zu senken, können Sie eine Zahl zwischen 0 und 1 festlegen, um den Anteil der zu protokollierenden Anfragen zu definieren. Ein Wert von 1 protokolliert beispielsweise alle Anfragen und ein Wert von 0,1 protokolliert 10% der Anfragen.
  • BQ_URI: Die URI der BigQuery-Tabelle, die für das Logging verwendet werden soll. Beispiel: bq://PROJECT_ID.DATASET_NAME.TABLE_NAME. Wenn Sie den globalen Endpunkt verwenden (LOCATION auf global festgelegt), müssen Sie ein vorhandenes BigQuery-Dataset angeben, z. B. bq://PROJECT_ID.DATASET_NAME oder bq://PROJECT_ID.DATASET_NAME.TABLE_NAME. Wenn Sie einen regionalen Endpunkt verwenden und nur eine Projekt-ID (bq://PROJECT_ID) angeben, wird ein Dataset mit dem Namen publishers_PUBLISHER_models_MODEL_ENDPOINT_ID erstellt, wobei PUBLISHER und MODEL den BigQuery-Benennungsregeln entsprechen. Wenn Sie keinen Tabellennamen angeben, wird eine Tabelle mit dem Namen request_response_logging erstellt.

HTTP-Methode und URL: 

POST https://ENDPOINT_PREFIXaiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig

JSON-Text der Anfrage:

{
  "publisherModelConfig": {
     "loggingConfig": {
       "enabled": true,
       "samplingRate": SAMPLING_RATE,
       "bigqueryDestination": {
         "outputUri": "bq://BQ_URI"
       },
       "enableOtelLogging": true
     }
   }
 }

Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:

curl

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://ENDPOINT_PREFIXaiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"

PowerShell

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://ENDPOINT_PREFIXaiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content

Sie sollten eine JSON-Antwort ähnlich wie diese erhalten:

Logging-Konfiguration abrufen

Rufen Sie die Konfiguration für das Anfrage-/Antwort-Logging für das Foundation Model über die REST API ab.

REST API

Rufen Sie die Konfiguration für das Anfrage-/Antwort-Logging mit fetchPublisherModelConfig ab:

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Speicherort der Modellressource.
  • PUBLISHER: Der Name des Verlags. Beispiel: google.
  • MODEL: Der Name des Foundation Models. Beispiel: gemini-2.0-flash-001.

HTTP-Methode und URL:

GET https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig

Senden Sie die Anfrage mithilfe einer der folgenden Optionen:

curl

Führen Sie folgenden Befehl aus: 

curl -X GET \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig"

PowerShell

Führen Sie folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method GET `
    -Headers $headers `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig" | Select-Object -Expand Content

Sie sollten eine JSON-Antwort erhalten, die in etwa so aussieht:

Logging deaktivieren

Deaktivieren Sie das Anfrage-/Antwort-Logging für das Foundation Model mit der REST API oder dem Python SDK.

Python SDK

# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
    GenerativeModel,
    )

PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"

vertexai.init(project=PROJECT_ID, location=LOCATION)

publisher_model = GenerativeModel("gemini-2.5-flash")

# Disable logging
publisher_model.set_request_response_logging_config(
    enabled=False,
    sampling_rate=1.0,
    bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
    )

REST API

Verwenden Sie setPublisherModelConfig, um das Logging zu deaktivieren:

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Speicherort der Modellressource.
  • PUBLISHER: Der Name des Verlags. Beispiel: google.
  • MODEL: Der Name des Foundation Models. Beispiel: gemini-2.0-flash-001.

HTTP-Methode und URL:

POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig

JSON-Text der Anfrage:

{
  "publisherModelConfig": {
     "loggingConfig": {
       "enabled": false
     }
  }
}

Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:

curl

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"

PowerShell

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content

Sie sollten eine JSON-Antwort ähnlich wie diese erhalten:

Anfrage-/Antwort-Logs für feinabgestimmte Modelle

Sie können Anfrage-/Antwortprotokolle für feinabgestimmte Modelle mit der REST API oder dem Python SDK konfigurieren.

Logs für Anfragen und Antworten aktivieren

Wählen Sie einen der folgenden Tabs aus, um eine Anleitung zum Aktivieren von Protokollen für Anfragen und Antworten für ein feinabgestimmtes Modell zu erhalten.

Python SDK

Mit dieser Methode können Sie die Konfiguration des Anfrage-/Antwort-Loggings für einen Endpunkt aktualisieren.

# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
    GenerativeModel,
    )

PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"

vertexai.init(project=PROJECT_ID, location=LOCATION)

tuned_model = GenerativeModel(f"projects/{PROJECT_ID}/locations/{LOCATION}/endpoints/ENDPOINT_ID")

# Set logging configuration
tuned_model.set_request_response_logging_config(
    enabled=True,
    sampling_rate=1.0,
    bigquery_destination=f"bq://{PROJECT_ID}.DATASET_NAME.TABLE_NAME",
    enable_otel_logging=True,
    )

REST API

Sie können das Anfrage-/Antwort-Logging nur aktivieren, wenn Sie einen Endpunkt mit projects.locations.endpoints.create erstellen oder einen vorhandenen Endpunkt mit projects.locations.endpoints.patch patchen.

Anfragen und Antworten werden auf Endpunktebene protokolliert. Anfragen, die an alle bereitgestellten Modelle unter demselben Endpunkt gesendet werden, werden also protokolliert.

Wenn Sie einen Endpunkt erstellen oder patchen, füllen Sie das Feld predictRequestResponseLoggingConfig der Endpunktressource mit den folgenden Einträgen aus:

  • enabled: Wird auf True gesetzt, um das Anfrage-/Antwort-Logging zu aktivieren.

  • samplingRate: Um die Speicherkosten zu senken, können Sie eine Zahl zwischen 0 und 1 festlegen, um den Anteil der zu protokollierenden Anfragen zu definieren. Bei einem Wert von 1 werden beispielsweise alle Anfragen protokolliert, bei einem Wert von 0, 1 werden 10% der Anfragen protokolliert.

  • BigQueryDestination: Die BigQuery-Tabelle, die für das Logging verwendet werden soll. Wenn Sie nur eine Projekt-ID angeben, wird ein Dataset mit dem Namen ENDPOINT_DISPLAYNAMEENDPOINT_ID erstellt, wobei ENDPOINT_DISPLAY_NAME den BigQuery-Benennungsregeln folgt. Wenn Sie keinen Tabellennamen angeben, wird eine Tabelle mit dem Namen request_response_logging erstellt.

  • enableOtelLogging: Wird auf true festgelegt, um zusätzlich zum Standard-Anfrage-/Antwort-Logging das OpenTelemetry-Logging (OTEL) zu aktivieren.

Das BigQuery-Tabellenschema finden Sie unter Schema der Logging-Tabelle.

Hier sehen Sie eine Beispielkonfiguration:

{
  "predictRequestResponseLoggingConfig": {
    "enabled": true,
    "samplingRate": 0.5,
    "bigqueryDestination": {
      "outputUri": "bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
    },
    "enableOtelLogging": true
  }
}

Logging-Konfiguration abrufen

Rufen Sie die Konfiguration für das Anfrage-/Antwort-Logging für das feinabgestimmte Modell über die REST API ab.

REST API

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Speicherort der Endpunktressource.
  • MODEL: Der Name des Foundation Models. Beispiel: gemini-2.0-flash-001.
  • ENDPOINT_ID: Die ID des Endpunkts.

HTTP-Methode und URL: 

GET https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID

Senden Sie die Anfrage mithilfe einer der folgenden Optionen:

curl

Führen Sie folgenden Befehl aus: 

curl -X GET \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID"

PowerShell

Führen Sie folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method GET `
    -Headers $headers `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID" | Select-Object -Expand Content

Sie sollten eine JSON-Antwort erhalten, die in etwa so aussieht:

Logging-Konfiguration deaktivieren

Deaktivieren Sie die Konfiguration des Anfrage-/Antwort-Loggings für den Endpunkt.

Python SDK

# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
    GenerativeModel,
    )

PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"

vertexai.init(project=PROJECT_ID, location=LOCATION)

tuned_model = GenerativeModel(f"projects/{PROJECT_ID}/locations/{LOCATION}/endpoints/ENDPOINT_ID")

# Disable logging
tuned_model.set_request_response_logging_config(
    enabled=False,
    sampling_rate=1.0,
    bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
    )

REST API

{
"predictRequestResponseLoggingConfig": {
  "enabled": false
}
}

Tabellenschema für Logging

In BigQuery werden die Logs mit dem folgenden Schema aufgezeichnet:

Feldname Typ Hinweise
endpoint STRING Der Ressourcenname des Endpunkts, auf dem das feinabgestimmte Modell bereitgestellt wird.
deployed_model_id STRING ID des bereitgestellten Modells für ein abgestimmtes Modell, das auf einem Endpunkt bereitgestellt wird.
logging_time TIMESTAMP Der Zeitpunkt, zu dem die Protokollierung erfolgt. Das ist ungefähr die Zeit, zu der die Antwort zurückgegeben wird.
request_id NUMERIC Die automatisch generierte ID der Anfrage als Ganzzahl, die auf der API-Anfrage basiert.
request_payload STRING Enthalten für das Partnermodell-Logging und die Abwärtskompatibilität mit dem Anfrage-/Antwort-Log des Agent Platform-Endpunkts.
response_payload STRING Enthalten für das Partnermodell-Logging und die Abwärtskompatibilität mit dem Anfrage-/Antwort-Log des Agent Platform-Endpunkts.
Modell STRING Name der Modellressource.
model_version STRING Die Modellversion. Bei Gemini-Modellen ist das oft „default“.
api_method STRING generateContent, streamGenerateContent, rawPredict, streamRawPredict
full_request JSON Die vollständige GenerateContentRequest.
full_response JSON Die vollständige GenerateContentResponse.
Metadaten JSON Alle Metadaten des Aufrufs, einschließlich der Anfragelatenz.
otel_log JSON Logs im OpenTelemetry-Schemaformat. Nur verfügbar, wenn otel_logging in der Logging-Konfiguration aktiviert ist.

Anfrage-Antwort-Paare, die größer als das Zeilenlimit von 10 MB der BigQuery Write API sind, werden nicht aufgezeichnet.

Anfragen und Antworten an MaaS-Partner weitergeben

Bei bestimmten Advanced AI-Modellen verlangen einige MaaS-Partner, dass ein Protokoll der Prompts und Antworten manipulationssicher an ihre Trust & Safety-Teams weitergegeben wird, damit diese auf potenziellen Missbrauch achten können. Die Nutzung von Anthropic Advanced AI unterliegt beispielsweise Abschnitt F der dienstspezifischen Nutzungsbedingungen von Anthropic. Wenn die Funktion dataSharingEnabledProvider aktiv ist, werden protokollierte Anfragen und Antworten gemäß dem Advanced AI Safety Addendum in Echtzeit an den MaaS-Partner weitergegeben.

Das manipulationssichere Teilen von Anfrage-/Antwort-Logs kann mit der setPublisherModelConfig API aktiviert werden, wie in den folgenden Abschnitten beschrieben.

Unterstützte Modelle

In der folgenden Tabelle sind MaaS-Partner und Modelle aufgeführt, die das Teilen von Anfragen und Antworten unterstützen:

Unterstützter MaaS-Partner Unterstützte Modelle
Anthropic
  • Claude Mythos Preview
  • Claude Mythos 5
  • Claude Fable 5 in Google Cloud

Der MaaS-Partner und das Modell müssen übereinstimmen. Das Anfrage-/Antwort-Log kann nur mit dem MaaS-Partner geteilt werden, der das Modell veröffentlicht hat.

Vorbereitung

Google muss die Einwilligung zum Zusatz zur Sicherheit fortschrittlicher KI-Funktionen in diesem Projekt erhalten, bevor die Datenfreigabe aktiviert werden kann. Weitere Informationen zum Nachtrag finden Sie unter Erweiterte KI-Sicherheit.

Sie müssen das Anfrage-/Antwort-Logging für BigQuery nicht aktivieren, um die Freigabe von Anfrage-/Antwort-Logs zu verwenden.

Beschränkungen

In Projekten, die durch VPC Service Controls geschützt sind, wird standardmäßig verhindert, dass Daten mit MaaS-Partnern geteilt werden. Das Konfigurieren einer VPC Service Controls-Regel für ausgehenden Traffic wird nicht unterstützt. Wenn Sie die Datenfreigabe für ein durch VPC Service Controls geschütztes Projekt aktivieren möchten, erstellen Sie ein Support-Ticket.

Datenweitergabe aktivieren

Gehen Sie dazu so vor:

REST API

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • ENDPOINT_PREFIX: Das entsprechende Präfix für den Speicherort des Modellendpunkts. Verwenden Sie die folgenden Werte:
    • Verwenden Sie für den global-Endpunkt aiplatform.
    • Verwenden Sie für multiregionale Endpunkte wie us oder eu die Option aiplatform.LOCATION.rep.
    • Verwenden Sie für regionale Endpunkte wie us-central1 LOCATION-aiplatform.
  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Speicherort des Modellendpunkts. Beispiel: global, us, eu oder us-central1.
  • PUBLISHER: Der Name des Modellverlags in Kleinbuchstaben. Beispiel: anthropic.
  • MODEL: Der Name des Foundation Models. Beispiel: claude-fable-5.
  • MAAS_PARTNER: Der Name des Modell-Publishers in Großbuchstaben. Der MaaS-Partner muss die oben beschriebene Version von MODEL in Großbuchstaben sein. Beispiel: ANTHROPIC.

HTTP-Methode und URL:

POST https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig

JSON-Text der Anfrage:

{
  "publisherModelConfig": {
    "dataSharingEnabledProvider": "ANTHROPIC"
  }
}

Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:

curl

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"

PowerShell

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content

Sie sollten einen erfolgreichen Statuscode (2xx) und eine leere Antwort als Ausgabe erhalten.

Freigabekonfiguration abrufen

Gehen Sie dazu so vor:

REST API

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • ENDPOINT_PREFIX: Das entsprechende Präfix für den Speicherort des Modellendpunkts. Verwenden Sie die folgenden Werte:
    • Verwenden Sie für den global-Endpunkt aiplatform.
    • Verwenden Sie für multiregionale Endpunkte wie us oder eu die Option aiplatform.LOCATION.rep.
    • Verwenden Sie für regionale Endpunkte wie us-central1 LOCATION-aiplatform.
  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Speicherort des Modellendpunkts. Beispiel: global, us, eu oder us-central1.
  • PUBLISHER: Der Name des Modellverlags in Kleinbuchstaben. Beispiel: anthropic.
  • MODEL: Der Name des Foundation Models. Beispiel: claude-fable-5.

HTTP-Methode und URL: 

GET https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig

Senden Sie die Anfrage mithilfe einer der folgenden Optionen:

curl

Führen Sie folgenden Befehl aus: 

curl -X GET \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig"

PowerShell

Führen Sie folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method GET `
    -Headers $headers `
    -Uri "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig" | Select-Object -Expand Content

Sie sollten eine JSON-Antwort ähnlich wie diese erhalten:

{
  "loggingConfig": {},
  "dataSharingEnabledProvider": "ANTHROPIC"
}

Datenfreigabe deaktivieren

Gehen Sie dazu so vor:

REST API

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • ENDPOINT_PREFIX: Das entsprechende Präfix für den Speicherort des Modellendpunkts. Verwenden Sie die folgenden Werte:
    • Verwenden Sie für den global-Endpunkt aiplatform.
    • Verwenden Sie für multiregionale Endpunkte wie us oder eu die Option aiplatform.LOCATION.rep.
    • Verwenden Sie für regionale Endpunkte wie us-central1 LOCATION-aiplatform.
  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Speicherort des Modellendpunkts. Beispiel: global, us, eu oder us-central1.
  • PUBLISHER: Der Name des Modellverlags in Kleinbuchstaben. Beispiel: anthropic.
  • MODEL: Der Name des Foundation Models. Beispiel: claude-fable-5.

HTTP-Methode und URL: 

POST https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig

JSON-Text der Anfrage:

{
  "publisherModelConfig": {
    "dataSharingEnabledProvider": "MODEL_PROVIDER_UNSPECIFIED"
  }
}

Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:

curl

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"

PowerShell

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content

Sie sollten einen erfolgreichen Statuscode (2xx) und eine leere Antwort als Ausgabe erhalten.

Anfragen zur Datenfreigabe verhindern

Um zu verhindern, dass Anfrage- und Antwortlogs an MaaS-Partner weitergegeben werden, kann der Projektadministrator Folgendes tun:

  • Benutzerdefinierte Einschränkung des Organisationsrichtliniendienstes erzwingen: Erstellen und erzwingen Sie eine benutzerdefinierte Einschränkung des Organisationsrichtliniendienstes für aiplatform.googleapis.com/Endpoint, die das Festlegen von dataSharingEnabledProvider für alle Partnermodellanbieter verbietet. Weitere Informationen finden Sie unter Benutzerdefinierte Einschränkung erzwingen, um die Weitergabe von Daten zu verhindern.

  • VPC Service Controls-Perimeter erstellen: Erstellen Sie einen VPC Service Controls-Dienstperimeter, der das Projekt und aiplatform.googleapis.com als eingeschränkten Dienst umfasst. In Projekten, die durch VPC Service Controls geschützt sind, ist die Freigabe von Daten für Partnermodelle standardmäßig blockiert.

  • Zugriff auf Model Garden-Modelle deaktivieren: Deaktivieren Sie den Zugriff auf Model Garden-Modelle, die die Datenfreigabe unterstützen.

  • Prinzip der geringsten Berechtigung erzwingen: Beschränken Sie die Berechtigung aiplatform.endpoints.setPublisherModelConfig, um zu verhindern, dass nicht autorisierte Nutzer die Protokollierung oder die Protokollfreigabe aktivieren.

Benutzerdefinierte Einschränkung erzwingen, um die Datenweitergabe zu verhindern

So erstellen und erzwingen Sie eine benutzerdefinierte Einschränkung für den Organisationsrichtliniendienst, die verhindert, dass Anforderungs- und Antwortlogs mit Partnermodellanbietern geteilt werden:

  1. Erstellen Sie eine YAML-Datei für benutzerdefinierte Einschränkungen mit dem Namen prevent_data_sharing.yaml, die dem folgenden Beispiel ähnelt.

    name: organizations/ORGANIZATION_ID/customConstraints/custom.denyPartnerModelDataSharing
resourceTypes:

- aiplatform.googleapis.com/Endpoint
methodTypes:

- CREATE
- UPDATE
condition: "has(resource.publisherModelConfig.dataSharingEnabledProvider)"
actionType: DENY
displayName: Prevent partner model data sharing
description: Prohibits enabling request and response log sharing with any partner model provider.

    Ersetzen Sie ORGANIZATION_ID durch Ihre Organisations-ID Google Cloud .

  2. Erstellen Sie die benutzerdefinierte Einschränkung mit dem Befehl gcloud org-policies:

    gcloud org-policies set-custom-constraint prevent_data_sharing.yaml

  3. Erzwingen Sie die Richtlinie, indem Sie eine Datei zur Erzwingung von Organisationsrichtlinien mit dem Namen enforce_policy.yaml erstellen, die dem folgenden Beispiel ähnelt:

    name: organizations/ORGANIZATION_ID/policies/custom.denyPartnerModelDataSharing
spec:
  rules:

  - enforce: true

  4. Wenden Sie die Organisationsrichtlinie an:

    gcloud org-policies set-policy enforce_policy.yaml

Nächste Schritte