Model Armor in Gemini Enterprise einbinden

Durch die Integration von Model Armor in Gemini Enterprise können Sie Nutzer-Prompts und Antworten Ihrer KI-Agents prüfen und so Risiken wie Prompt Injection, schädliche Inhalte und Lecks sensibler Daten minimieren. Nachdem die Integration eingerichtet wurde, gilt sie für alle Nutzerinteraktionen.

Hinweis

Erstellen Sie eine Model Armor-Vorlage und achten Sie darauf, dass sie sich im selben Google CloudProjekt wie Gemini Enterprise befindet. Der Speicherort der Vorlage und der Speicherort der Gemini Enterprise-Instanz müssen übereinstimmen. Weitere Informationen zu unterstützten Standorten finden Sie unter Model Armor-Standorte und Gemini Enterprise-Standorte.

Erforderliche Rollen

Bevor Sie Model Armor in Gemini Enterprise einbinden, müssen Sie die erforderliche Rolle haben.

Bitten Sie Ihren Administrator, Ihnen die IAM-Rolle Model Armor Admin (roles/modelarmor.admin) für Model Armor-Vorlagen zuzuweisen, um die Berechtigungen zu erhalten, die Sie zum Erstellen und Verwalten von Model Armor-Vorlagen benötigen. Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Sie können die erforderlichen Berechtigungen auch über benutzerdefinierte Rollen oder andere vordefinierte Rollen erhalten.

Integration aktivieren

Damit Gemini Enterprise mit Model Armor aktiviert werden kann, erstellt Ihr Sicherheitsadministrator Richtlinien in Model Armor und Ihr Gemini Enterprise-Administrator wendet diese Richtlinien auf die Gemini Enterprise-Instanz an.

  1. Model Armor-Vorlage erstellen
  2. Model Armor in Gemini Enterprise aktivieren und konfigurieren

Einschränkungen und Überlegungen

Beachten Sie bei der Integration von Model Armor in Gemini Enterprise die folgenden Einschränkungen und Überlegungen:

  • De-Identifizierung und Maskierung: Wenn Model Armor eine Sensitive Data Protection-Vorlage zum Scannen von Prompts oder Antworten verwendet, prüft Model Armor, ob die Inhalte den in der Vorlage definierten Kriterien für den infoType-Detektor entsprechen. Mit Sensitive Data Protection werden Daten zwar anhand der Vorlagenkonfiguration de-identifiziert, aber Model Armor gibt keine de-identifizierten oder maskierten Daten an Gemini Enterprise zurück. Wenn die Inhalte infoType-Erkennungsprogramme aus dem Schutz sensibler Daten auslösen und der Erzwingungstyp INSPECT_AND_BLOCK ist, blockiert Gemini Enterprise die Anfrage oder Antwort, anstatt sie zu anonymisieren.

  • Dokument- und Bildprüfung: Neben Text-Prompts werden auch Dokumente (z. B. PDFs) und Bilder unterstützt. Die Integration prüft die folgenden Dateien nur, wenn Sie sie in den Gemini Enterprise-Assistenten hochladen:

    • Bilder, die Sie direkt hochladen.
    • Bilder in anderen Dateien und Dokumenten, die Sie direkt hochladen.

    Wenn eine Datei oder ein Bild in einem Dokument gegen die konfigurierten Richtlinien verstößt, wird die gesamte Datei oder das gesamte Dokument verworfen und aus der Anfrage ausgeschlossen.

  • Geprüfte KI-Agenten und Interaktionen: Die Prüfung gilt für den Gemini Enterprise-Assistenten, von Mitarbeitern erstellte KI-Agenten (die in der Gemini Enterprise App mit dem Workflow Builder erstellt wurden) und von Google entwickelte KI-Agenten. Interaktionen mit benutzerdefinierten Agents Ihrer Organisation (z. B. ADK, A2A und Dialogflow) werden nicht überprüft.

  • Tokenlimits und ‑kontingente: Wenn Sie Model Armor mit Gemini Enterprise verwenden, gibt es keine Tokenlimits. Der Gesamtdurchsatz von Model Armor-Bewertungen unterliegt jedoch den Gemini Enterprise-Systemkontingenten und den Ratenbegrenzungen der Model Armor API.

  • Service Level Agreement (SLA): Für Gemini Enterprise gilt ein Service Level Agreement. Wenn Gemini Enterprise für die Verwendung von Model Armor konfiguriert ist, werden blockierte Anfragen nicht als SLA-Verstöße gewertet, unabhängig davon, ob der Modus Fail-Open oder Fail-Closed verwendet wird.

  • Compliance: Sowohl Gemini Enterprise als auch Model Armor bieten verschiedene Compliance-Zertifizierungen. Bei gemeinsamer Verwendung sind die effektiven Compliance-Zertifizierungen die gemeinsame Teilmenge beider Produkte. Prüfen Sie die Compliance-Zertifizierungen für beide Produkte, um sicherzustellen, dass sie Ihren behördlichen Anforderungen entsprechen.

Funktionsweise

Nachdem die Integration konfiguriert wurde, leitet Gemini Enterprise Nutzereingaben und Assistentenausgaben zur Überprüfung anhand der ausgewählten Vorlagen über die Model Armor API weiter. Gemini Enterprise authentifiziert sich mit dem Dienst-Agent bei Model Armor. Model Armor reagiert basierend auf der in der Vorlage definierten Filterkonfiguration. Gemini Enterprise blockiert oder lässt die Anfrage oder Antwort entsprechend zu.

Gemini Enterprise kann beispielsweise eine Anfrage mit personenidentifizierbaren Informationen erkennen und zur Überprüfung an Model Armor weiterleiten. Wenn die Model Armor-Vorlage so konfiguriert ist, dass personenidentifizierbare Informationen blockiert werden, wird Gemini Enterprise angewiesen, die Anfrage zu blockieren.

Logging

Model Armor generiert Plattformlogs für Bereinigungsanfragen und deren Antworten in Cloud Logging. Sie benötigen die IAM-Rolle „Betrachter privater Logs“ (roles/logging.privateLogViewer), um die Audit-Logs von Model Armor aufzurufen. Weitere Informationen zu den automatisch generierten Audit-Logs finden Sie unter Audit-Logging für Model Armor.

Wenn Sie die Bereinigungsoperationen protokollieren möchten, legen Sie das Feld templateMetadata.logSanitizeOperations auf true fest. Weitere Informationen finden Sie unter Logging in Vorlagen konfigurieren.

Nächste Schritte