Mit AI Protection können Sie Ihre KI-Assets und ‑Workflows schützen, indem Sie Ihre Modelle, Daten und KI-bezogene Infrastruktur überwachen. In diesem Leitfaden wird beschrieben, wie Sie AI Protection konfigurieren.
Hinweise
- Ermitteln Sie Ihre Organisations-ID.
- Damit Sie Rollen erstellen und zuweisen können, benötigen Sie die erforderlichen Berechtigungen, z. B. die Rollen „IAM-Rollenadministrator“ (
roles/iam.roleAdmin) und „Organisationsadministrator“ (roles/resourcemanager.organizationAdmin). Weitere Informationen finden Sie im Index für IAM-Rollen und -Berechtigungen.
Erforderliche Rollen
Nachdem Sie die Schritte unter Vorbereitung ausgeführt haben, folgen Sie der Anleitung in einem der folgenden Abschnitte, um die erforderlichen Rollen für den Zugriff auf AI Protection einzurichten:
Benutzerdefinierte Rollen
Um das Prinzip der geringsten Berechtigung einzuhalten, können Sie benutzerdefinierte IAM-Rollen erstellen, die nur die erforderlichen Berechtigungen für den Betrachter- oder Administratorzugriff gewähren.
In diesem Dokument wird beschrieben, wie Sie benutzerdefinierte Rollen für AI Protection erstellen und zuweisen.
Betrachterzugriff konfigurieren
Mit dem Zugriff als Betrachter kann ein Nutzer das AI Protection-Dashboard und die Daten ansehen. Um den Zuschauerzugriff zu konfigurieren, erstellen Sie eine benutzerdefinierte AIP Viewer-Rolle und weisen sie dann einem Nutzer zu.
Benutzerdefinierte Rolle „AIP Viewer“ erstellen
Erstellen Sie eine benutzerdefinierte Rolle, die alle Berechtigungen enthält, die für den schreibgeschützten Zugriff auf AI Protection erforderlich sind.
Console
- Rufen Sie in der Google Cloud Console die Seite Rollen auf.
- Klicken Sie auf Rolle erstellen.
- Geben Sie im Feld Titel
AIP Viewerein. - Das Feld ID wird automatisch ausgefüllt. Optional können Sie sie in
aip.viewerändern. - Geben Sie im Feld Beschreibung den Text
Grants permissions required to view AIP dashboard and dataein. - Legen Sie die Rollenstartphase auf Allgemeine Verfügbarkeit fest.
- Klicken Sie auf Berechtigungen hinzufügen.
Filtern Sie nach den folgenden Berechtigungen und wählen Sie sie aus:
cloudasset.assets.exportResourcecloudasset.assets.searchAllIamPoliciescloudasset.assets.searchAllResourcescloudasset.assets.searchEnrichmentResourceOwnerscloudasset.othercloudconnections.getcloudasset.othercloudconnections.listcloudsecuritycompliance.controlComplianceSummaries.listcloudsecuritycompliance.frameworkComplianceReports.getdspm.locations.computeAggregationdspm.locations.fetchLineageConnectionsmonitoring.timeSeries.listresourcemanager.organizations.getresourcemanager.projects.getsecuritycentermanagement.securityCommandCenter.getsecuritycenter.assets.groupsecuritycenter.assets.listsecuritycenter.attackpaths.listsecuritycenter.complianceReports.aggregatesecuritycenter.findings.groupsecuritycenter.findings.listsecuritycenter.issues.getsecuritycenter.issues.groupsecuritycenter.issues.listsecuritycenter.issues.listFilterValuessecuritycenter.simulations.getsecuritycenter.sources.getsecuritycenter.sources.listsecuritycenter.userinterfacemetadata.getsecuritycenter.valuedresources.list
Klicken Sie auf Hinzufügen.
Klicken Sie auf Erstellen.
gcloud
- Führen Sie in einem Terminal den folgenden
gcloud-Befehl aus, um die Rolle zu erstellen:
gcloud iam roles create aip.viewer \
--organization=ORGANIZATION_ID \
--title="AIP Viewer" \
--description="Grants permissions required to view AIP dashboard and data." \
--permissions="cloudasset.assets.exportResource,cloudasset.assets.searchAllIamPolicies,cloudasset.assets.searchAllResources,cloudasset.assets.searchEnrichmentResourceOwners,cloudasset.othercloudconnections.get,cloudasset.othercloudconnections.list,cloudsecuritycompliance.controlComplianceSummaries.list,cloudsecuritycompliance.frameworkComplianceReports.get,dspm.locations.computeAggregation,dspm.locations.fetchLineageConnections,monitoring.timeSeries.list,resourcemanager.organizations.get,resourcemanager.projects.get,securitycentermanagement.securityCommandCenter.get,securitycenter.assets.group,securitycenter.assets.list,securitycenter.attackpaths.list,securitycenter.complianceReports.aggregate,securitycenter.findings.group,securitycenter.findings.list,securitycenter.issues.get,securitycenter.issues.group,securitycenter.issues.list,securitycenter.issues.listFilterValues,securitycenter.simulations.get,securitycenter.sources.get,securitycenter.sources.list,securitycenter.userinterfacemetadata.get,securitycenter.valuedresources.list" \
Ersetzen Sie ORGANIZATION_ID durch Ihre Organisations-ID.
Nutzer Lesezugriff gewähren
Nachdem Sie die benutzerdefinierte Rolle AIP Viewer erstellt haben, weisen Sie sie Nutzern zu, die Zugriff als Betrachter benötigen.
Console
- Rufen Sie in der Google Cloud Console die Seite IAM auf.
- Klicken Sie auf Zugriff gewähren.
- Geben Sie im Feld Neue Hauptkonten die E-Mail-Adresse des Nutzers ein.
- Suchen Sie im Drop-down-Menü Rolle auswählen nach der benutzerdefinierten Rolle AIP-Betrachter und wählen Sie sie aus.
- Klicken Sie auf Speichern.
gcloud
- Führen Sie in einem Terminal den folgenden
gcloud-Befehl aus:
gcloud organizations add-iam-policy-binding ORGANIZATION_ID \
--member="user:USER_EMAIL" \
--role="organizations/ORGANIZATION_ID/roles/aip.viewer"
Ersetzen Sie Folgendes:
ORGANIZATION_ID: Ihre Organisations-ID.USER_EMAIL: Die E-Mail-Adresse des Nutzers.
Administratorzugriff konfigurieren
Mit Administratorzugriff kann ein Nutzer KI-Schutzfunktionen verwalten.
Um den Administratorzugriff zu konfigurieren, erstellen Sie zuerst die benutzerdefinierte Rolle AIP Essentials. Weisen Sie einem Nutzer dann diese Rolle und die erforderlichen vordefinierten Rollen zu.
Benutzerdefinierte Rolle für AIP Essentials erstellen
Erstellen Sie eine benutzerdefinierte Rolle, die die erforderlichen Berechtigungen für AI Protection enthält.
Console
- Rufen Sie in der Google Cloud Console die Seite Rollen auf.
- Klicken Sie auf Rolle erstellen.
- Geben Sie im Feld Titel
AIP Essentialsein. - Das Feld ID wird automatisch ausgefüllt. Optional können Sie sie in
aip.essentialsändern. - Geben Sie im Feld Beschreibung den Text
Grants supporting permissions required to view AIP dashboard and dataein. - Legen Sie die Rollenstartphase auf Allgemeine Verfügbarkeit fest.
- Klicken Sie auf Berechtigungen hinzufügen.
Filtern Sie nach den folgenden Berechtigungen und wählen Sie sie aus:
cloudasset.assets.searchEnrichmentResourceOwnerscloudasset.othercloudconnections.getcloudasset.othercloudconnections.listresourcemanager.organizations.getresourcemanager.projects.getsecuritycentermanagement.securityCommandCenter.getsecuritycenter.assets.groupsecuritycenter.assets.listsecuritycenter.attackpaths.listsecuritycenter.complianceReports.aggregatesecuritycenter.findings.groupsecuritycenter.findings.listsecuritycenter.simulations.getsecuritycenter.userinterfacemetadata.getsecuritycenter.valuedresources.list
Klicken Sie auf Hinzufügen.
Klicken Sie auf Erstellen.
gcloud
- Führen Sie in einem Terminal den folgenden
gcloud-Befehl aus, um die Rolle zu erstellen:
gcloud iam roles create aip.essentials \
--organization=ORGANIZATION_ID \
--title="AIP Essentials" \
--description="Grants supporting permissions required to view AIP dashboard and data." \
--permissions="cloudasset.assets.searchEnrichmentResourceOwners,cloudasset.othercloudconnections.get,cloudasset.othercloudconnections.list,resourcemanager.organizations.get,resourcemanager.projects.get,securitycentermanagement.securityCommandCenter.get,securitycenter.assets.group,securitycenter.assets.list,securitycenter.attackpaths.list,securitycenter.complianceReports.aggregate,securitycenter.findings.group,securitycenter.findings.list,securitycenter.simulations.get,securitycenter.userinterfacemetadata.get,securitycenter.valuedresources.list" \
Ersetzen Sie ORGANIZATION_ID durch Ihre Organisations-ID.
Einem Nutzer Administratorzugriff gewähren
Nachdem Sie die benutzerdefinierte Rolle AIP Essentials erstellt haben, weisen Sie sie zusammen mit den erforderlichen vordefinierten Rollen Nutzern zu, die Administratorzugriff benötigen.
Console
- Rufen Sie in der Google Cloud Console die Seite IAM auf.
- Klicken Sie auf Zugriff gewähren.
- Geben Sie im Feld Neue Hauptkonten die E-Mail-Adresse des Nutzers ein.
- Suchen Sie im Drop-down-Menü Rolle auswählen nach den folgenden Rollen und fügen Sie sie hinzu:
DSPM Admin(roles/dspm.admin)Model Armor Admin(roles/modelarmor.admin)Model Armor Floor Settings Admin(roles/modelarmor.floorSettingsAdmin)Cloud Security Compliance Admin(roles/cloudsecuritycompliance.admin)Security Center Findings Viewer(roles/securityCenter.findingsViewer)Monitoring Viewer(roles/monitoring.viewer)Cloud Asset Viewer(roles/cloudasset.viewer)- Die benutzerdefinierte Rolle AIP Essentials, die Sie erstellt haben.
- Klicken Sie auf Speichern.
gcloud
- Führen Sie in einem Terminal die folgenden Befehle für jede Rolle aus:
gcloud organizations add-iam-policy-binding ORGANIZATION_ID \
--member="user:USER_EMAIL" \
--role="roles/dspm.admin"
gcloud organizations add-iam-policy-binding ORGANIZATION_ID \
--member="user:USER_EMAIL" \
--role="roles/modelarmor.admin"
gcloud organizations add-iam-policy-binding ORGANIZATION_ID \
--member="user:USER_EMAIL" \
--role="roles/modelarmor.floorSettingsAdmin"
gcloud organizations add-iam-policy-binding ORGANIZATION_ID \
--member="user:USER_EMAIL" \
--role="roles/cloudsecuritycompliance.admin"
gcloud organizations add-iam-policy-binding ORGANIZATION_ID \
--member="user:USER_EMAIL" \
--role="roles/securityCenter.findingsViewer"
gcloud organizations add-iam-policy-binding ORGANIZATION_ID \
--member="user:USER_EMAIL" \
--role="roles/monitoring.viewer"
gcloud organizations add-iam-policy-binding ORGANIZATION_ID \
--member="user:USER_EMAIL" \
--role="roles/cloudasset.viewer"
gcloud organizations add-iam-policy-binding ORGANIZATION_ID \
--member="user:USER_EMAIL" \
--role="organizations/ORGANIZATION_ID/roles/aip.essentials"
Ersetzen Sie Folgendes:
ORGANIZATION_ID: Ihre Organisations-ID.USER_EMAIL: Die E-Mail-Adresse des Nutzers.
Vordefinierte Rollen
Bitten Sie Ihren Administrator, Ihnen die folgenden IAM-Rollen für Ihre Organisation zuzuweisen, um die Berechtigungen zu erhalten, die Sie zum Konfigurieren von AI Protection und zum Aufrufen von Dashboarddaten benötigen:
-
AI Protection konfigurieren und Dashboarddaten ansehen:
Sicherheitscenter-Administrator (
roles/securitycenter.admin) -
Nur Dashboard-Daten ansehen:
Sicherheitscenter-Admin-Betrachter (
roles/securitycenter.adminViewer)
Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.
Sie können die erforderlichen Berechtigungen auch über benutzerdefinierte Rollen oder andere vordefinierte Rollen erhalten.
Mit den folgenden Google Cloud CLI-Befehlen können Sie einem Nutzer die oben genannten Rollen zuweisen:
Rollen mit der gcloud CLI zuweisen
Führen Sie den folgenden Befehl aus, um einem Nutzer die Rolle „Security Center-Administrator“ zuzuweisen:
gcloud organizations add-iam-policy-binding ORGANIZATION_ID --member=user:USER_EMAIL_ID --role=roles/securitycenter.adminFühren Sie den folgenden Befehl aus, um einem Nutzer die Rolle „Security Center Admin Viewer“ zuzuweisen:
gcloud organizations add-iam-policy-binding ORGANIZATION_ID --member=user:USER_EMAIL_ID --role=roles/securitycenter.adminViewerErsetzen Sie Folgendes:
- ORGANIZATION_ID: die numerische Organisations-ID
- USER_EMAIL_ID: die E-Mail-Adresse des Nutzers, der Zugriff benötigt
Unterstützte Regionen
Eine Liste der Regionen, in denen AI Protection unterstützt wird, finden Sie unter Regionale Endpunkte.
Zugriff für Dienstkonten
Achten Sie darauf, dass Organisationsrichtlinien keine Dienstkonten blockieren, die in den folgenden Abschnitten erwähnt werden.
KI-Schutz einrichten
So aktivieren Sie den KI-Schutz auf Organisationsebene:
Premium
- Wenn Sie Security Command Center in Ihrer Organisation noch nicht aktiviert haben, aktivieren Sie Security Command Center Premium.
- Nachdem Sie die Premium-Stufe von Security Command Center aktiviert haben, richten Sie AI Protection ein, indem Sie auf der Karte „AI Protection“ zu Einstellungen > Einstellungen verwalten gehen.
- Aktivieren Sie die Erkennung der Ressourcen, die Sie mit AI Protection schützen möchten.
- Rufen Sie das Dashboard für KI-Sicherheit auf, indem Sie zu Risikoübersicht > KI-Sicherheit gehen.
Unternehmen
- Wenn Sie Security Command Center in Ihrer Organisation noch nicht aktiviert haben, aktivieren Sie Security Command Center Enterprise.
- Nachdem Sie die Enterprise-Dienststufe von Security Command Center aktiviert haben, richten Sie AI Protection anhand der Anleitung im SCC-Einrichtungsleitfaden ein.
- Maximieren Sie den Zusammenfassungsbereich Sicherheitsfunktionen prüfen.
- Klicken Sie im Bereich KI-Schutz auf Einrichten.
- Folgen Sie der Anleitung, um zu prüfen, ob die erforderlichen und abhängigen Dienste für AI Protection konfiguriert sind. Informationen dazu, was automatisch aktiviert wird und was eine zusätzliche Konfiguration erfordert, finden Sie unter Dienste aktivieren und konfigurieren. Google Cloud
- Aktivieren Sie die Erkennung der Ressourcen, die Sie mit AI Protection schützen möchten.
Google Cloud Dienste aktivieren und konfigurieren
Nachdem Sie Security Command Center Premium oder Enterprise aktiviert haben, aktivieren und konfigurieren Sie zusätzlicheGoogle Cloud -Dienste, um die vollständigen Funktionen von AI Protection zu nutzen.
Die folgenden Dienste werden automatisch aktiviert:
- Agent Engine Threat Detection (Vorschau)
- AI Discovery-Dienst
- Angriffspfadsimulationen
- Cloud-Audit-Logs
- Cloud Monitoring
- Compliance-Manager
- Event Threat Detection
- Verwaltung des Datensicherheitsstatus
- Notebook Security Scanner
- Sensitive Data Protection
Für AI Protection sind die folgenden Dienste erforderlich:
Für einige dieser Dienste ist eine zusätzliche Konfiguration erforderlich, wie in den folgenden Abschnitten beschrieben.
AI Discovery-Dienst konfigurieren
Der AI Discovery-Dienst wird automatisch im Rahmen der Einrichtung von Security Command Center Enterprise aktiviert. Die IAM-Rolle „Monitoring-Betrachter“ (roles/monitoring.viewer) ist vorhanden. Prüfen Sie jedoch, ob sie auf das Dienstkonto der Security Command Center Enterprise-Organisation angewendet wird.
Rufen Sie in der Google Cloud Console die Seite IAM auf.
Klicken Sie auf Zugriff gewähren.
Geben Sie im Feld Neue Hauptkonten das Dienstkonto der Security Command Center Enterprise-Organisation ein. Das Dienstkonto hat das Format
service-org-ORG_ID@security-center-api.gserviceaccount.com. Ersetzen Sie ORG_ID durch Ihre Organisations-ID.Wählen Sie im Feld Rolle auswählen die Option Monitoring-Betrachter aus.
Klicken Sie auf Speichern.
Erweiterte Cloud-Kontrollen für die Datensicherheitsstatus-Verwaltung konfigurieren
Konfigurieren Sie die Verwaltung des Datensicherheitsstatus mit erweiterten Cloud-Kontrollen für Datenzugriff, ‑fluss und ‑schutz. Weitere Informationen finden Sie unter Erweiterte Cloud-Sicherheitsfunktionen für Daten bereitstellen.
Wenn Sie ein benutzerdefiniertes Framework für KI-Arbeitslasten erstellen, sollten Sie die folgenden Cloud-Kontrollen einbeziehen:
- Data Access Governance: Beschränken Sie den Zugriff auf sensible Daten auf bestimmte Hauptkonten wie Nutzer oder Gruppen. Sie geben zulässige Hauptkonten mit der IAM v2-Hauptkonto-ID-Syntax an. Sie können beispielsweise eine Richtlinie erstellen, die nur Mitgliedern von
gdpr-processing-team@example.comden Zugriff auf bestimmte Ressourcen erlaubt. - Data Flow Governance: Beschränken Sie den Datenfluss auf bestimmte Regionen. Sie können beispielsweise eine Richtlinie erstellen, die den Zugriff auf Daten nur aus den USA oder der EU zulässt. Sie geben die zulässigen Ländercodes mit dem Unicode Common Locale Data Repository (CLDR) an.
- Datenschutz (mit CMEK): Ressourcen, die ohne kundenverwaltete Verschlüsselungsschlüssel (Customer-Managed Encryption Keys, CMEK) erstellt wurden, identifizieren und Empfehlungen erhalten. Sie können beispielsweise eine Richtlinie erstellen, um Ressourcen zu erkennen, die ohne CMEK für
storage.googleapis.comundbigquery.googleapis.comerstellt wurden. Mit dieser Richtlinie werden unverschlüsselte Assets erkannt, aber ihre Erstellung wird nicht verhindert.
Model Armor konfigurieren
- Aktivieren Sie den Dienst
modelarmor.googleapis.comfür jedes Projekt, in dem generative KI verwendet wird. Weitere Informationen finden Sie unter Erste Schritte mit Model Armor. - Konfigurieren Sie die folgenden Einstellungen, um Sicherheits- und Schutzmaßnahmen für Prompts und Antworten von Large Language Models (LLMs) festzulegen:
- Model Armor-Vorlagen: Erstellen Sie eine Model Armor-Vorlage. In diesen Vorlagen wird festgelegt, welche Arten von Risiken erkannt werden sollen, z. B. sensible Daten, Prompt-Injections und Jailbreak-Erkennung. Außerdem werden die Mindestschwellenwerte für diese Filter definiert.
- Filter: Model Armor verwendet verschiedene Filter, um Risiken zu erkennen, darunter die Erkennung schädlicher URLs, die Erkennung von Prompt Injection und Jailbreaking sowie die Erkennung sensibler Daten.
- Mindesteinstellungen: Konfigurieren Sie die Mindesteinstellungen auf Projektebene, um den Standardschutz für alle Gemini-Modelle festzulegen.
Notebook Security Scanner konfigurieren
- Aktivieren Sie den Notebook Security Scanner-Dienst für Ihre Organisation. Weitere Informationen finden Sie unter Notebook Security Scanner aktivieren.
- Weisen Sie
notebook-security-scanner-prod@system.gserviceaccount.comin allen Projekten, die Notebooks enthalten, die Rolle „Dataform-Betrachter“ (roles/dataform.viewer) zu.
Schutz sensibler Daten konfigurieren
Aktivieren Sie die dlp.googleapis.com API für Ihr Projekt und konfigurieren Sie Sensitive Data Protection, um nach sensiblen Daten zu suchen.
-
Enable the Data Loss Prevention API.
Roles required to enable APIs
To enable APIs, you need the Service Usage Admin IAM role (
roles/serviceusage.serviceUsageAdmin), which contains theserviceusage.services.enablepermission. Learn how to grant roles. Weisen Sie AI Protection-Nutzern die Rollen
DLP ReaderundDLP Data Profiles Adminzu.Sensitive Data Protection konfigurieren, um nach sensiblen Daten zu suchen.
Optional: Zusätzliche wertvolle Ressourcen konfigurieren
Konfiguration für den Wert von Ressourcen erstellen
Bei der nächsten Angriffspfadsimulation wird die Gruppe hochwertiger Ressourcen abgedeckt und es werden Angriffspfade generiert.
Beschränkungen
Für Umgebungen, für die der Datenstandort aktiviert ist, gelten für AI Protection für die Premium-Stufe von Security Command Center die folgenden Einschränkungen:
- Der KI-Schutz muss manuell aktiviert werden. AI Protection scannt diese Umgebungen erst nach der Aktivierung auf Bedrohungen und bietet erst dann Schutz vor Bedrohungen.
- Sie können nicht auf das AI Security-Dashboard oder die Seite „AI Assets“ zugreifen. Beide sind für diese Umgebungen deaktiviert.
Weitere Informationen zum Datenstandort finden Sie unter Datenstandort planen.
Nächste Schritte
- Übersicht über AI Protection
- Verwaltung des Datensicherheitsstatus
- Model Armor konfigurieren
- Weitere Informationen zu Agent Engine Threat Detection