KI-Sicherheit prüfen

Der KI-Schutz bietet Tools, mit denen Sie das KI-Assetinventar Ihrer Organisation visualisieren, Sicherheitsergebnisse untersuchen und vorgeschlagene Maßnahmen zur Risikominimierung und Bedrohungsabwehr prüfen können. In dieser Anleitung wird beschrieben, wie Sie die KI-Sicherheit mithilfe des Dashboards für KI-Sicherheit und der Seite „Assets“ verwalten.

Hinweis

  • Konfigurieren Sie den KI-Schutz.
  • Gewähren Sie den erforderlichen Nutzern die erforderlichen Rollen für Identitäts- und Zugriffsverwaltung (Identity and Access Management, IAM), damit sie auf das Dashboard für KI-Sicherheit und den Tab Assets > KI-Ressourcen zugreifen können. Weitere Informationen finden Sie unter Erforderliche Rollen.

Dashboard für KI-Sicherheit verwenden

Mit dem Dashboard für KI-Sicherheit können Sie das KI-Assetinventar Ihrer Organisation visualisieren und vorgeschlagene Maßnahmen zur Risikominimierung und Bedrohungsabwehr prüfen.

Auf das Dashboard für KI-Sicherheit zugreifen

Rufen Sie in der Google Cloud Console die Seite Risiko übersicht > KI-Sicherheit auf, um auf das Dashboard für KI-Sicherheit zuzugreifen:

Zu KI-Sicherheit

Weitere Informationen finden Sie unter Dashboard für KI-Sicherheit.

Risikomanagement für KI-Systeme

In diesem Abschnitt werden potenzielle Risiken für Ihre KI-Systeme ermittelt und die größten Risiken in Ihrem KI-Inventar angezeigt.

Wenn Sie eine Visualisierung und Details zu einem bestimmten Problem aufrufen möchten, klicken Sie auf das Problem.

KI-Bedrohungen ansehen

In diesem Abschnitt werden die neuesten Bedrohungen für Ihre KI-Ressourcen hervorgehoben.

In diesem Abschnitt haben Sie folgende Möglichkeiten:

  • Klicken Sie auf Alle ansehen, um alle Bedrohungen für Ihre KI-Ressourcen aufzurufen.
  • Klicken Sie auf die Bedrohung, um detaillierte Informationen zu einer bestimmten Bedrohung aufzurufen.

KI-Inventar visualisieren

In diesem Abschnitt finden Sie eine visuelle Zusammenfassung Ihres KI-Assetinventars, einschließlich Projekten, in denen generative KI verwendet wird, aktiver Modelle von Erstanbietern und Drittanbietern sowie der Datasets, die zum Trainieren von Modellen von Drittanbietern verwendet werden.

In diesem Abschnitt haben Sie folgende Möglichkeiten:

  • Klicken Sie auf einen beliebigen Knoten in der Visualisierung, um Details zu Ihrem Inventar aufzurufen.
  • Wenn Sie eine detaillierte Liste einzelner Assets (z. B. Gemini-Modelle und benutzerdefinierte Modelle) aufrufen möchten, klicken Sie auf die Tooltip-Schaltfläche.
  • Klicken Sie auf das Modell, um Details dazu aufzurufen. In dieser Ansicht werden Details wie die Endpunkte, an denen das Modell gehostet wird, und das Trainingsdataset angezeigt. Wenn Sensitive Data Protection aktiviert ist, wird in der Datasetansicht auch angegeben, ob das Dataset sensible Daten enthält.

Zusammenfassung der Ergebnisse des KI-Frameworks prüfen

In diesem Abschnitt können Sie Ergebnisse bewerten, die von Richtlinien für KI-Sicherheit und Datensicherheit generiert wurden. Er enthält die folgenden Karten:

  • Ergebnisse: In diesem Abschnitt wird eine Zusammenfassung der Ergebnisse angezeigt, die von Richtlinien für KI Sicherheit und Datensicherheit generiert wurden, z. B. Gemini model detected und Gemini model not protected by Model Armor.

    • Klicken Sie auf Alle Ergebnisse ansehen, um alle Ergebnisse aufzurufen.
    • Wenn Sie Ergebnisse für eine bestimmte Kategorie aufrufen möchten, klicken Sie neben dieser Kategorie auf die Anzahl der Ergebnisse.
    • Klicken Sie auf das Ergebnis, um Details zu einem einzelnen Ergebnis aufzurufen.

  • Sensible Daten in Vertex AI-Datasets: Hier wird eine Zusammenfassung der Ergebnisse zu sensiblen Daten in Ihren Datasets angezeigt, die von Sensitive Data Protection gemeldet wurden. Weitere Informationen finden Sie unter Einführung in die Gemini Enterprise Agent Platform.

Model Armor-Ergebnisse prüfen

In diesem Abschnitt wird ein Diagramm mit der Gesamtzahl der von Model Armor gescannten Prompts und Antworten sowie der Anzahl der erkannten Probleme angezeigt. Das Diagramm enthält auch zusammenfassende Statistiken für bestimmte Problemtypen wie Prompt-Injection, Jailbreak-Versuche und Datenpannen.

Bei agentenbasierten Arbeitslasten können Sie Model Armor in Agent Gateway (Vorschau) konfigurieren, um Prompts und Antworten an und von Agenten zu prüfen.

Dieses Diagramm verwendet die Messwerte, die von Model Armor in Cloud Monitoring veröffentlicht werden. Weitere Informationen finden Sie unter Model Armor Übersicht.

KI-Ressourcen prüfen

Neben dem Dashboard für KI-Sicherheit können Sie das KI-Assetinventar Ihrer Organisation auch auf der Seite Assets in der Google Cloud Console prüfen und abfragen. Verwenden Sie dazu den Tab KI-Ressourcen.

Der Tab KI-Ressourcen bietet eine detaillierte, filterbare Ansicht der erkannten KI-Systeme und -Assets, einschließlich der folgenden:

  • Modelle
  • Endpunkte
  • Datenquellen
  • Pipelines
  • Agents (Vorschau)
  • MCP-Server (Model Context Protocol) (Vorschau)
  • Notebooks

Der Tab KI-Ressourcen kann Ihnen bei Folgendem helfen:

  • KI-Inventar verstehen: Hier finden Sie umfassende Listen aktiver KI Assets in Ihrer Organisation, gefiltert nach Projekt, Standort oder Ressourcentyp.
  • Sicherheitsuntersuchungen durchführen: Prüfen Sie die vollständigen Metadaten, den Änderungsverlauf und die zugehörigen IAM-Richtlinien bestimmter KI-Assets.
  • Zugehörige Ergebnisse prüfen: Rufen Sie schnell alle Sicherheitsergebnisse auf, die mit einem bestimmten KI-Asset verknüpft sind, um das Risiko zu bewerten und die erforderlichen Maßnahmen zur Behebung zu ermitteln.

Weitere Informationen zum Aufrufen und Filtern von KI-Assets in der Console finden Sie unter Von Security Command Center überwachte Assets prüfen.

Nächste Schritte