Model Armor in Gemini Enterprise einbinden

Durch die Integration von Model Armor in Gemini Enterprise können Sie Nutzer-Prompts und Antworten Ihrer KI-Agenten prüfen und so Risiken wie Prompt Injection, schädliche Inhalte und das Auslaufen sensibler Daten minimieren. Nach der Einrichtung der Integration gilt sie für alle Nutzerinteraktionen.

Hinweis

Erstellen Sie eine Model Armor-Vorlage und sorgen Sie dafür, dass sie sich im selben Google Cloud Projekt wie Gemini Enterprise befindet. Der Standort der Vorlage und der Gemini Enterprise-Instanz müssen übereinstimmen. Weitere Informationen zu unterstützten Standorten finden Sie unter Model Armor-Standorte und Gemini Enterprise-Standorte.

Erforderliche Rollen

Bevor Sie Model Armor in Gemini Enterprise einbinden, müssen Sie die erforderliche Rolle haben.

Bitten Sie Ihren Administrator, Ihnen die Model Armor Admin (roles/modelarmor.admin) IAM-Rolle für Model Armor-Vorlagen zu erteilen, um die Berechtigungen zu erhalten, die Sie zum Erstellen und Verwalten von Model Armor-Vorlagen benötigen. Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Sie können die erforderlichen Berechtigungen auch über benutzerdefinierte Rollen oder andere vordefinierte Rollen erhalten.

Integration aktivieren

Wenn Sie Gemini Enterprise mit Model Armor aktivieren möchten, erstellt Ihr Sicherheitsadministrator Richtlinien in Model Armor und Ihr Gemini Enterprise-Administrator wendet diese Richtlinien auf die Gemini Enterprise-Instanz an.

  1. Erstellen Sie eine Model Armor-Vorlage.
  2. Aktivieren und konfigurieren Sie Model Armor in Gemini Enterprise.

Einschränkungen und Überlegungen

Beachten Sie bei der Integration von Model Armor in Gemini Enterprise die folgenden Einschränkungen und Überlegungen:

  • De-Identifizierung und Maskierung: Wenn Model Armor eine Sensitive Data Protection-Vorlage zum Scannen von Prompts oder Antworten verwendet, prüft Model Armor, ob der Inhalt den in der Vorlage definierten Kriterien für den InfoType-Detektor entspricht. Sensitive Data Protection unterstützt zwar die De-Identifizierung basierend auf der Vorlagenkonfiguration, aber Model Armor gibt keine de-identifizierten oder maskierten Daten an Gemini Enterprise zurück. Wenn der Inhalt InfoType-Detektoren von Sensitive Data Protection auslöst und der Erzwingungstyp INSPECT_AND_BLOCK ist, blockiert Gemini Enterprise die Anfrage oder Antwort, anstatt sie zu de-identifizieren.

  • Dokument- und Bildprüfung: Neben Text-Prompts unterstützt die Integration Dokumente (z. B. PDFs) und Bilder. Die Integration prüft die folgenden Dateien nur, wenn Sie sie in den Gemini Enterprise-Assistenten hochladen:

    • Bilder, die Sie direkt hochladen.
    • Bilder, die in anderen Dateien und Dokumenten enthalten sind, die Sie direkt hochladen.

    Wenn eine Datei oder ein Bild in einem Dokument gegen die konfigurierten Richtlinien verstößt, wird die gesamte Datei oder das gesamte Dokument verworfen und aus der Anfrage ausgeschlossen.

  • Geprüfte Agenten und Interaktionen: Die Prüfung gilt für den Gemini Enterprise-Assistenten, von Mitarbeitern erstellte Agenten (die in der Gemini Enterprise-App mit dem Agent Designer erstellt wurden) und von Google erstellte Agenten. Interaktionen mit benutzerdefinierten Agenten Ihrer Organisation (z. B. ADK, A2A und Dialogflow) werden nicht geprüft.

  • Tokenlimits und Kontingente: Wenn Sie Model Armor mit Gemini Enterprise verwenden, gibt es zwar keine direkten Tokenlimits, aber der Gesamtdurchsatz von Model Armor-Auswertungen wird durch die Systemkontingente von Gemini Enterprise und die Ratenlimits der Model Armor API bestimmt.

  • Service Level Agreement (SLA): Gemini Enterprise bietet ein Service Level Agreement. Wenn Gemini Enterprise für die Verwendung von Model Armor konfiguriert ist, werden blockierte Anfragen nicht als SLA-Verstöße gewertet, unabhängig davon, ob der Modus Fail-Open oder Fail-Closed verwendet wird.

  • Compliance: Sowohl Gemini Enterprise als auch Model Armor bieten verschiedene Compliance-Zertifizierungen. Bei gemeinsamer Verwendung sind die effektiven Compliance-Zertifizierungen die gemeinsame Teilmenge beider Produkte. Prüfen Sie die Compliance-Zertifizierungen für beide Produkte, um sicherzustellen, dass sie Ihren behördlichen Anforderungen entsprechen.

Funktionsweise

Nachdem die Integration konfiguriert wurde, leitet Gemini Enterprise Nutzereingaben und Assistentenausgaben über die Model Armor API zur Prüfung mithilfe der ausgewählten Vorlagen weiter. Gemini Enterprise authentifiziert sich bei Model Armor mit dem Dienst-Agent. Model Armor antwortet basierend auf der in der Vorlage definierten Filterkonfiguration. Gemini Enterprise reagiert darauf, indem es die Anfrage oder Antwort blockiert oder zulässt.

Gemini Enterprise kann beispielsweise eine Anfrage erkennen, die personenidentifizierbare Informationen enthält, und sie zur Prüfung an Model Armor weiterleiten. Wenn die Model Armor-Vorlage so konfiguriert ist, dass personenidentifizierbare Informationen blockiert werden, weist sie Gemini Enterprise an, die Anfrage zu blockieren.

Logging

Model Armor generiert Plattformlogs für Bereinigungsanfragen und deren Antworten in Cloud Logging. Sie benötigen die IAM-Rolle Betrachter privater Logs (roles/logging.privateLogViewer), um die Audit-Logs von Model Armor anzusehen. Weitere Informationen zu den automatisch generierten Audit-Logs finden Sie unter Audit-Logging für Model Armor.

Wenn Sie die Bereinigungsvorgänge protokollieren möchten, legen Sie das Feld templateMetadata.logSanitizeOperations auf true fest. Weitere Informationen finden Sie unter Logging in Vorlagen konfigurieren.

Nächste Schritte