Durch die Integration von Model Armor in Gemini Enterprise können Sie Nutzer-Prompts und Antworten Ihrer KI-Agents prüfen und so Risiken wie Prompt Injection, schädliche Inhalte und Lecks sensibler Daten minimieren. Nachdem die Integration eingerichtet wurde, gilt sie für alle Nutzerinteraktionen.
Hinweise
Erstellen Sie eine Model Armor-Vorlage und achten Sie darauf, dass sie sich im selben Google CloudProjekt wie Gemini Enterprise befindet. Der Speicherort der Vorlage und der Speicherort der Gemini Enterprise-Instanz müssen übereinstimmen. Weitere Informationen zu unterstützten Standorten finden Sie unter Model Armor-Standorte und Gemini Enterprise-Standorte.
Erforderliche Rollen
Bevor Sie Model Armor in Gemini Enterprise einbinden, müssen Sie die erforderliche Rolle haben.
Bitten Sie Ihren Administrator, Ihnen die IAM-Rolle Model Armor Admin (roles/modelarmor.admin) für Model Armor-Vorlagen zuzuweisen, um die Berechtigungen zu erhalten, die Sie zum Erstellen und Verwalten von Model Armor-Vorlagen benötigen.
Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.
Sie können die erforderlichen Berechtigungen auch über benutzerdefinierte Rollen oder andere vordefinierte Rollen erhalten.
Integration aktivieren
Damit Gemini Enterprise mit Model Armor aktiviert werden kann, erstellt Ihr Sicherheitsadministrator Richtlinien in Model Armor und Ihr Gemini Enterprise-Administrator wendet diese Richtlinien auf die Gemini Enterprise-Instanz an.
Funktionsweise
Nachdem die Integration konfiguriert wurde, leitet Gemini Enterprise Nutzereingaben und Assistentenausgaben zur Überprüfung anhand der ausgewählten Vorlagen über die Model Armor API weiter. Gemini Enterprise authentifiziert sich mit dem Service-Agent bei Model Armor. Model Armor reagiert basierend auf der in der Vorlage definierten Filterkonfiguration. Gemini Enterprise blockiert oder lässt die Anfrage oder Antwort entsprechend zu.
Gemini Enterprise kann beispielsweise eine Anfrage mit personenidentifizierbaren Informationen erkennen und zur Überprüfung an Model Armor weiterleiten. Wenn die Model Armor-Vorlage so konfiguriert ist, dass personenidentifizierbare Informationen blockiert werden, wird Gemini Enterprise angewiesen, die Anfrage zu blockieren.
Logging
Model Armor generiert Plattformlogs für Bereinigungsanfragen und deren Antworten in Cloud Logging. Sie benötigen die IAM-Rolle „Betrachter privater Logs“ (roles/logging.privateLogViewer), um die Audit-Logs für Model Armor aufzurufen. Weitere Informationen zu den automatisch generierten Audit-Logs finden Sie unter Model Armor-Audit-Logging.
Wenn Sie die Bereinigungsoperationen protokollieren möchten, legen Sie das Feld templateMetadata.logSanitizeOperations auf true fest. Weitere Informationen finden Sie unter Logging in Vorlagen konfigurieren.