Model Armor in Gemini Notebook Enterprise aktivieren

Vorschau

Diese Funktion unterliegt den „Bedingungen für Pre-GA-Angebote“ im Abschnitt „Allgemeine Dienstbedingungen“ der dienstspezifischen Nutzungsbedingungen. Pre-GA‑Funktionen stehen in der vorliegenden Form zur Verfügung und bieten möglicherweise nur eingeschränkten Support. Weitere Informationen finden Sie unter den Beschreibungen der Startphase.

In diesem Dokument wird beschrieben, wie Sie Model Armor für Gemini Notebook Enterprise aktivieren. Model Armor ist ein Google Cloud Dienst, der die Sicherheit Ihrer KI-Anwendungen verbessert, indem er die Prompts und Antworten, die mit Gemini Notebook Enterprise gegeben werden, proaktiv prüft. So können Sie sich vor verschiedenen Risiken schützen und für verantwortungsbewusste Anwendung von KI sorgen. Model Armor wird in Gemini Notebook Enterprise ohne zusätzliche Kosten unterstützt.

Hinweis: Wenn Sie Model Armor in Gemini Notebook Enterprise aktivieren, kann sich die Latenz erhöhen.

Die Reaktion von Model Armor auf potenzielle Probleme in Nutzeranfragen oder Antworten von Gemini Notebook Enterprise unterliegt dem Erzwingungstyp der Vorlage.

• Wenn der Erzwingungstyp Prüfen und blockieren ist, blockiert Gemini Notebook Enterprise die Anfrage und zeigt eine Fehlermeldung an. Dies ist der Standard-Erzwingungstyp, wenn Sie eine Model Armor-Vorlage mit der Console erstellen.

• Wenn der Erzwingungstyp Nur prüfen ist, werden die Anfragen oder Antworten von Gemini Notebook Enterprise nicht blockiert.

Weitere Informationen finden Sie unter Erzwingungstyp definieren.

Hinweis

Prüfen Sie, ob Ihnen und dem Dienstkonto die erforderlichen Rollen zugewiesen sind:

• Um Model Armor in Gemini Notebook Enterprise zu aktivieren, benötigen Sie die Rolle Gemini Enterprise-Administrator (roles/discoveryengine.agentspaceAdmin).

• Zum Erstellen der Model Armor-Vorlagen benötigen Sie die Rolle Model Armor Admin (roles/modelarmor.admin).

• Zum Aufrufen der Model Armor APIs benötigen Sie die Rolle Model Armor User (roles/modelarmor.user).

• Wenn sich Ihre Model Armor-Vorlage in einem anderen Projekt als Ihr Notebook in Gemini Notebook Enterprise befindet, muss dem Dienstkonto des Notebooks im Projekt der Vorlage die Rolle Model Armor-Nutzer (roles/modelarmor.user) zugewiesen werden. Die Dienstkonto-ID ist [e-mail], wobei PROJECT_NUMBER die Projektnummer Ihrer Gemini Notebook Enterprise-Instanz ist.

Model Armor-Vorlage erstellen

Sie können dieselbe Model Armor-Vorlage für Nutzer-Prompts und Antworten des Assistenten erstellen und verwenden oder zwei separate Model Armor-Vorlagen erstellen. Weitere Informationen finden Sie unter Model Armor-Vorlagen erstellen und verwalten.

Berücksichtigen Sie beim Erstellen einer Model Armor-Vorlage für Gemini Notebook Enterprise die folgenden Konfigurationen:

• Sie können Model Armor-Vorlagen zentral in einem Projekt erstellen und in verschiedenen Projekten wiederverwenden. Wenn Sie eine projektübergreifende Vorlage verwenden, müssen die projektübergreifenden Berechtigungen wie unter Vorbereitung beschrieben konfiguriert sein.

• Wählen Sie im Feld Regionen die Option Multiregional aus. In der folgenden Tabelle sehen Sie, wie Sie Model Armor-Vorlagenregionen Gemini Notebook Enterprise-Regionen zuordnen:

  Hinweis: Nachdem eine Model Armor-Vorlage und Gemini Notebook Enterprise erstellt wurden, können die Regionen nicht mehr geändert werden.

  Gemini Notebook Enterprise – multiregional	Model Armor – multiregional
  Global	USA (mehrere Regionen in den USA) EU (mehrere Regionen in der Europäischen Union)
  USA (mehrere Regionen in den USA)	USA (mehrere Regionen in den USA)
  EU (mehrere Regionen in der Europäischen Union)	EU (mehrere Regionen in der Europäischen Union)

• Google empfiehlt nicht, Cloud Logging in der Model Armor-Vorlage für Gemini Notebook Enterprise zu konfigurieren. Durch diese Konfiguration können vertrauliche Daten für Nutzer mit der IAM-Rolle „Betrachter privater Logs“ (roles/logging.privateLogViewer) offengelegt werden. Verwenden Sie stattdessen eine der folgenden Optionen:

  • Wenn Sie die Daten protokollieren müssen, die über die Model Armor-Vorlage laufen, können Sie Logs an einen sicheren Speicher wie BigQuery weiterleiten, der strengere Zugriffskontrollen bietet. Weitere Informationen finden Sie unter Logs an unterstützte Ziele weiterleiten.

  • Sie können Audit-Logs für den Datenzugriff konfigurieren, um die von Model Armor generierten Ergebnisse der Anfrage- und Antwortprüfung zu analysieren und Berichte dazu zu erstellen. Weitere Informationen finden Sie unter Audit-Logs konfigurieren.

Gemini Notebook Enterprise mit den Model Armor-Vorlagen konfigurieren

In den folgenden Schritten wird beschrieben, wie Sie die Model Armor-Vorlagen in Gemini Notebook Enterprise hinzufügen.

REST

Führen Sie den folgenden Befehl aus, um die Model Armor-Vorlagen zu Gemini Notebook Enterprise hinzuzufügen :

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1alpha/projects/PROJECT_NUMBER?update_mask=customerProvidedConfig" \
-d '{
  "customerProvidedConfig": {
    "notebooklmConfig": {
      "modelArmorConfig": {
        "userPromptTemplate": "QUERY_PROMPT_TEMPLATE",
        "responseTemplate": "RESPONSE_PROMPT_TEMPLATE"
      }
    }
  }
}'

Ersetzen Sie Folgendes:

• PROJECT_ID: die Projekt-ID.
• PROJECT_NUMBER: Die Nummer Ihres Projekts von Google Cloud .
• ENDPOINT_LOCATION: die Multiregion für Ihre API-Anfrage. Geben Sie einen der folgenden Werte an:
• us für die Multiregion „USA“
• eu für die Multiregion „EU“
• global für den Standort „Global“

Weitere Informationen finden Sie unter Mehrere Regionen für den Datenspeicher angeben.

QUERY_PROMPT_TEMPLATE: der Ressourcennamen der von Ihnen erstellten Model Armor-Vorlagen.

Wenn Sie den Ressourcennamen abrufen möchten, folgen Sie der Anleitung unter Model Armor-Vorlage ansehen und kopieren Sie den Wert Ressourcenname.

Hinweis: Sie können Model Armor-Vorlagen verwenden, die im selben Projekt wie das Notebook in Gemini Notebook Enterprise erstellt wurden, oder Model Armor-Vorlagen aus einem anderen Projekt. Wenn Sie eine Vorlage aus einem anderen Projekt verwenden, müssen die projektübergreifenden Berechtigungen wie unter Vorbereitung beschrieben konfiguriert sein.

RESPONSE_PROMPT_TEMPLATE: der Ressourcenname der von Ihnen erstellten Model Armor-Vorlagen. Sie können Model Armor-Vorlagen verwenden, die im selben oder in einem anderen Projekt erstellt wurden.

Beispielbefehl und -ergebnis

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://discoveryengine.googleapis.com/v1/projects/123456?update_mask=customerProvidedConfig" \
-d '{
  "customerProvidedConfig": {
    "notebooklmConfig": {
      "modelArmorConfig": {
        "userPromptTemplate": "projects/my-project-123/locations/us/templates/model-armor-template",
        "responseTemplate": "projects/my-project-123/locations/us/templates/model-armor-template"
      }
    }
  }
}'

{
  "name": "projects/123456",
  "createTime": "2025-04-18T19:38:23.299346527Z",
  "provisionCompletionTime": "2025-04-18T19:38:23.299346527Z",
  "customerProvidedConfig": {
    "notebooklmConfig": {
      "modelArmorConfig": {
        "userPromptTemplate": "projects/my-project-123/locations/us/templates/model-armor-template",
        "responseTemplate": "projects/my-project-123/locations/us/templates/model-armor-template"
      }
    }
  }
}

Hinweis: Es kann 10 Minuten oder länger dauern, bis die Model Armor-Vorlagen wirksam werden.

Prüfen, ob die Model Armor-Vorlage aktiviert ist

Nachdem Sie die Model Armor-Vorlage konfiguriert haben, testen Sie, ob Gemini Notebook Enterprise Nutzer-Prompts und Antworten proaktiv anhand der in den Model Armor-Filtern festgelegten Konfidenzniveaus prüft und blockiert.

Wenn die Model Armor-Vorlage so konfiguriert ist, dass Anfragen, die gegen die Richtlinie verstoßen, überprüft und blockiert werden, wird die folgende Meldung zum Richtlinienverstoß angezeigt:

Console

Beispiel: Sie sehen die folgende Nachricht zum Richtlinienverstoß:

Nachricht zu Model Armor-Richtlinienverstoß

REST

Eine JSON-Antwort mit folgenden Elementen:

Beispiel: json "answer.state": "SKIPPED", "answer.assist_skipped_reasons": "CUSTOMER_POLICY_VIOLATION_REASON"

Model Armor-Vorlagen aus Gemini Notebook Enterprise entfernen

Führen Sie den folgenden Befehl aus, um die Model Armor-Vorlagen aus Gemini Notebook Enterprise zu entfernen:

REST

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1alpha/projects/PROJECT_NUMBER?update_mask=customerProvidedConfig" \
-d '{
  "customerProvidedConfig": {
    "notebooklmConfig": {
      "modelArmorConfig": {}
    }
  }
}'

Ersetzen Sie Folgendes:

• PROJECT_ID: die Projekt-ID.
• PROJECT_NUMBER: Die Nummer Ihres Projekts von Google Cloud .
• ENDPOINT_LOCATION: die Multiregion für Ihre API-Anfrage. Geben Sie einen der folgenden Werte an:
• us für die Multiregion „USA“
• eu für die Multiregion „EU“
• global für den Standort „Global“

Weitere Informationen finden Sie unter Mehrere Regionen für den Datenspeicher angeben.

Beispielbefehl und -ergebnis

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://discoveryengine.googleapis.com/v1/projects/123456?update_mask=customerProvidedConfig" \
-d '{
  "customerProvidedConfig": {
    "notebooklmConfig": {
    }
  }
}'

{
  "name": "projects/123456",
  "createTime": "2025-04-18T19:38:23.299346527Z",
  "provisionCompletionTime": "2025-04-18T19:38:23.299346527Z",
  "customerProvidedConfig": {
    "notebooklmConfig": {}
  }
}

Audit-Logs konfigurieren

Model Armor erfasst Audit-Logs zum Datenzugriff, mit denen Sie die Ergebnisse der Überprüfung von Anfragen und Antworten analysieren können. Diese Logs enthalten nicht die Nutzeranfragen oder Antworten von Gemini Notebook Enterprise und sind daher für Berichte und Analysen sicher. Weitere Informationen finden Sie unter Audit-Logging für Model Armor.

Für den Zugriff auf diese Logs benötigen Sie die IAM-Rolle Betrachter privater Logs (roles/logging.privateLogViewer).

Audit-Logs zum Datenzugriff aktivieren

So aktivieren Sie die Audit-Logs zum Datenzugriff:

1. Rufen Sie in der Google Cloud Console die Seite IAM & Verwaltung > Audit-Logs auf.

2. Wählen Sie die Model Armor API aus.

3. Wählen Sie im Bereich Berechtigungstyp den Berechtigungstyp Daten lesen aus.

4. Klicken Sie auf Speichern.

Audit-Logs zum Datenzugriff prüfen

So untersuchen Sie die Audit-Logs zum Datenzugriff:

1. Rufen Sie in der Google Cloud Console den Log-Explorer auf.

2. Suchen Sie in den Logs nach den folgenden Methodennamen:

   • google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt, um die geprüften Nutzeranfragen aufzurufen.

   • google.cloud.modelarmor.v1.ModelArmor.SanitizeModelResponse, um die geprüften Antworten aufzurufen.