Durch die Integration von Model Armor in Gemini Enterprise können Sie Nutzer-Prompts an und Antworten von Ihren KI-Agents prüfen und so Risiken wie Prompt Injection, schädliche Inhalte und den Verlust sensibler Daten minimieren. Nachdem die Integration eingerichtet wurde, gilt sie für alle Nutzerinteraktionen.
Hinweis
Erstellen Sie eine Model Armor-Vorlage und sorgen Sie dafür, dass sie sich im selben Google Cloud Projekt wie Gemini Enterprise befindet. Der Standort der Vorlage und der Gemini Enterprise-Instanz müssen übereinstimmen. Weitere Informationen zu unterstützten Standorten finden Sie unter Model Armor-Standorte und Gemini Enterprise-Standorte.
Erforderliche Rollen
Bevor Sie Model Armor in Gemini Enterprise einbinden, müssen Sie die erforderliche Rolle haben.
Bitten Sie Ihren Administrator, Ihnen die
Model Armor Admin (roles/modelarmor.admin) IAM-Rolle für Model Armor-Vorlagen zu erteilen, um die Berechtigungen zu erhalten, die
Sie zum Erstellen und Verwalten von Model Armor-Vorlagen benötigen.
Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.
Sie können die erforderlichen Berechtigungen auch über benutzerdefinierte Rollen oder andere vordefinierte Rollen erhalten.
Integration aktivieren
Wenn Sie Gemini Enterprise mit Model Armor aktivieren möchten, erstellt Ihr Sicherheitsadministrator Richtlinien in Model Armor und Ihr Gemini Enterprise-Administrator wendet diese Richtlinien auf die Gemini Enterprise-Instanz an.
- Erstellen Sie eine Model Armor-Vorlage.
- Aktivieren und konfigurieren Sie Model Armor in Gemini Enterprise.
Funktionsweise
Nachdem die Integration konfiguriert wurde, leitet Gemini Enterprise Nutzereingaben und Assistentenausgaben über die Model Armor API zur Prüfung mithilfe der ausgewählten Vorlagen weiter. Gemini Enterprise authentifiziert sich bei Model Armor mit dem Dienst-Agent. Model Armor antwortet basierend auf der in der Vorlage definierten Filterkonfiguration. Gemini Enterprise reagiert darauf, indem es die Anfrage oder Antwort blockiert oder zulässt.
Gemini Enterprise kann beispielsweise eine Anfrage erkennen, die personenbezogene Daten enthält, und sie zur Prüfung an Model Armor weiterleiten. Wenn die Model Armor-Vorlage so konfiguriert ist, dass personenbezogene Daten (PII) blockiert werden, weist sie Gemini Enterprise an, die Anfrage zu blockieren.
Logging
Model Armor generiert Plattformlogs für Bereinigungsanfragen und deren Antworten in Cloud Logging. Sie benötigen die IAM-Rolle Betrachter privater Logs (roles/logging.privateLogViewer), um die Model Armor-Audit-Logs anzusehen. Weitere Informationen zu den
automatisch generierten Audit-Logs finden Sie unter
Audit-Logging für Model Armor.
Wenn Sie die Bereinigungsvorgänge protokollieren möchten, legen Sie das Feld templateMetadata.logSanitizeOperations auf true fest. Weitere Informationen finden Sie unter
Logging in Vorlagen konfigurieren.