Vertex AI und keine Datenaufbewahrung

Google war der erste Anbieter in der Branche, der eine KI-/ML-Datenschutz verpflichtung veröffentlicht hat. Diese legt fest, dass Kunden die höchste Sicherheit und Kontrolle über ihre Daten haben sollten, die in der Cloud gespeichert werden. Diese Verpflichtung gilt für Google Cloud-Produkte, die auf generativer KI basieren. Google sorgt dafür, dass sich seine Teams durch strenge Data Governance Praktiken an diese Verpflichtungen halten. Dazu gehören auch Prüfungen der Daten, die Google Cloud bei der Entwicklung von Produkten verwendet. Weitere Informationen dazu, wie Google Daten verarbeitet, finden Sie auch im Zusatz zur Verarbeitung von Cloud-Daten von Google (CDPA).

Einschränkungen für Training

Wie in Abschnitt 17 „Einschränkungen für Training“ im Abschnitt „Nutzungsbedingungen für Dienste“ der dienstspezifischen Nutzungsbedingungen beschrieben, verwendet Google Ihre Daten nicht für das Training oder die Optimierung von KI-/ML-Modellen, es sei denn, Sie haben zuvor eine Berechtigung oder Anweisung dazu erteilt. Dies gilt für alle verwalteten Modelle in Vertex AI, einschließlich GA- und Pre-GA-Modelle.

Aufbewahrung von Kundendaten und Vermeidung der Datenaufbewahrung

Kundendaten werden in Vertex AI für Google-Modelle in den folgenden Szenarien und unter den folgenden Bedingungen für begrenzte Zeit aufbewahrt. Um die Datenaufbewahrung zu vermeiden, müssen Kunden in jedem dieser Bereiche bestimmte Maßnahmen ergreifen:

Prompt-Logging für die Missbrauchsüberwachung für Google-Modelle: Wie in Abschnitt 4.3 „Sicherheit und Missbrauch von generativer KI“ der Nutzungsbedingungen der Google Cloud Platform beschrieben, kann Google Prompts protokollieren, um potenziellen Missbrauch und Verstöße gegen die Richtlinie zur akzeptablen Nutzung und die Richtlinie zur unzulässigen Nutzung zu erkennen, wenn Kunden generative KI-Dienste bereitgestellt werden. Nur Kunden , deren Nutzung von Google Cloud den Nutzungsbedingungen der Google Cloud Platform unterliegt, müssen Prompts für die Missbrauchsüberwachung protokollieren. Wenn Sie Prompts für die Missbrauchsüberwachung protokollieren müssen und keine Daten aufbewahren möchten, können Sie eine Ausnahme für die Missbrauchsüberwachung beantragen. Weitere Informationen finden Sie unter Missbrauchsüberwachung.
Fundierung mit der Google Suche: Wie in Abschnitt 19 „Dienste für generative KI: Fundierung mit der Google Suche“ der dienstspezifischen Nutzungsbedingungen beschrieben, speichert Google Prompts und Kontextinformationen, die Kunden möglicherweise angeben, sowie generierte Ausgaben 30 Tage lang, um fundierte Ergebnisse und Suchvorschläge zu erstellen. Diese gespeicherten Informationen können für das Debugging und Testen von Systemen verwendet werden, die die Fundierung mit der Google Suche unterstützen. Die Speicherung dieser Informationen kann nicht deaktiviert werden, wenn Sie die Fundierung mit der Google Suche verwenden. Wenn Sie keine Daten aufbewahren möchten, empfehlen wir die Web-Fundierung für Unternehmen.
Fundierung mit Google Maps: Wie in Abschnitt 19 „Dienste für generative KI: Fundierung mit Google Maps“ der dienstspezifischen Nutzungsbedingungen beschrieben, speichert Google Prompts und Kontextinformationen, die Kunden möglicherweise angeben, sowie generierte Ausgaben 30 Tage lang, um fundierte Ergebnisse zu erstellen. Diese gespeicherten Informationen dürfen nur für die Zuverlässigkeitstechnik verwendet werden, z. B. für das Debugging bei Dienst- problemen von Systemen, die die Fundierung mit Google Maps unterstützen. Die Speicherung dieser Informationen kann nicht deaktiviert werden, wenn Sie die Fundierung mit Google Maps verwenden.
Sitzungswiederaufnahme für die Gemini Live API:Dieses Feature ist standardmäßig deaktiviert. Es muss vom Nutzer jedes Mal aktiviert werden, wenn er die API aufruft, indem er das Feld in der API-Anfrage angibt. Für im Cache gespeicherte Daten wird der Datenschutz auf Projektebene erzwungen. Wenn die Sitzungswiederaufnahme aktiviert ist, kann der Nutzer innerhalb von 24 Stunden eine Verbindung zu einer vorherigen Sitzung wiederherstellen. Dazu werden bis zu 24 Stunden lang im Cache gespeicherte Daten aufbewahrt, einschließlich Text-, Video- und Audio-Prompt-Daten sowie Modellausgaben. Wenn Sie keine Daten aufbewahren möchten, aktivieren Sie dieses Feature nicht. Weitere Informationen zu diesem Feature, einschließlich der Aktivierung, finden Sie unter Gemini Live API.

Dies gilt für alle verwalteten Modelle in Vertex AI, einschließlich GA- und Pre-GA-Modelle.

In-Memory-Daten-Caching

Standardmäßig werden in den veröffentlichten Gemini-Modellen von Google Kundendaten (Eingaben, Ausgaben und abgeleitete Daten) im Arbeitsspeicher zwischengespeichert, um die Latenz zu verringern und Antworten zu beschleunigen. Diese Daten werden nur im Arbeitsspeicher (nicht im Ruhezustand) gespeichert, sind auf Projektebene isoliert und haben eine TTL von 24 Stunden. Im Cache gespeicherte Daten werden nur zur Verbesserung der Dienstleistung verwendet. Sie entsprechen allen Anforderungen an den Datenstandort für den ausgewählten Standort und verstoßen nicht gegen die Vermeidung der Datenaufbewahrung. Dieses Feature kann auf Projektebene deaktiviert werden.

Daten-Caching aktivieren und deaktivieren

Mit den folgenden curl-Befehlen können Sie den Caching-Status abrufen, das Caching deaktivieren oder das Caching wieder aktivieren. Wenn Sie das Caching deaktivieren oder wieder aktivieren, gilt die Änderung für alle Google Cloud Regionen. Weitere Informationen zur Verwendung von Identity and Access Management zum Gewähren von Berechtigungen, die zum Aktivieren oder Deaktivieren des Cachings erforderlich sind, finden Sie unter Vertex AI Zugriffssteuerung mit IAM. Maximieren Sie die folgenden Abschnitte, um zu erfahren, wie Sie die aktuelle Cache-Einstellung abrufen, das Caching deaktivieren und das Caching aktivieren.

Aktuelle Caching-Einstellung abrufen

Führen Sie den folgenden Befehl aus, um zu ermitteln, ob das Caching für ein Projekt aktiviert oder deaktiviert ist. Zum Ausführen dieses Befehls muss einem Nutzer eine der folgenden Rollen zugewiesen sein: roles/aiplatform.viewer, roles/aiplatform.user oder roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# GetCacheConfig
$ curl -X GET \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig

# Response if caching is enabled (caching is enabled by default).
{
  "name": "projects/PROJECT_ID/cacheConfig"
}

# Response if caching is turned off.
{
  "name": "projects/PROJECT_ID/cacheConfig"
  "disableCache": true
}

Caching deaktivieren

Führen Sie den folgenden curl-Befehl aus, um das Caching für ein Google Cloud Projekt zu deaktivieren. Zum Ausführen dieses Befehls muss einem Nutzer die Administratorrolle für Vertex AI zugewiesen sein: roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# Setup project_id.
$ gcloud config set project ${PROJECT_ID}

# Opt-out of caching.
$ curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \
    -d '{
      "name": "projects/PROJECT_ID/cacheConfig",
      "disableCache": true
    }'

# Response.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

Caching aktivieren

Wenn Sie das Caching für ein Google Cloud Projekt deaktiviert haben und es wieder aktivieren möchten, führen Sie den folgenden curl-Befehl aus. Zum Ausführen dieses Befehls muss einem Nutzer die Administratorrolle für Vertex AI zugewiesen sein: roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
LOCATION_ID="us-central1"
# Setup project_id
$ gcloud config set project PROJECT_ID

# Setup project_id.
$ gcloud config set project ${PROJECT_ID}

# Opt in to caching.
$ curl -X PATCH     -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig -d '{
  "name": "projects/PROJECT_ID/cacheConfig",
  "disableCache": false
}'

# Response.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_NUMBER}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

Nächste Schritte

Übersicht

Verantwortungsbewusste Anwendung von KI

Informationen zu einigen Einschränkungen von generativer KI und empfohlene Vorgehensweisen für die Verwendung von generativer KI.