KI-Sicherheit prüfen

KI-Schutz bietet Tools, mit denen Sie das KI-Assetinventar Ihrer Organisation oder Ihres Projekts visualisieren, Sicherheitsergebnisse untersuchen und vorgeschlagene Maßnahmen zur Risikominimierung und Bedrohungsabwehr prüfen können. In dieser Anleitung wird beschrieben, wie Sie die KI-Sicherheit mithilfe des KI-Sicherheitsdashboards und der Seite „Assets“ verwalten.

Die Dienststufe von Security Command Center bestimmt, welche Funktionen im KI-Sicherheitsdashboard und auf dem Tab KI-Ressourcen auf der Seite Assets verfügbar sind. Informationen zu den Funktionen, die mit den einzelnen Dienststufen verfügbar sind, finden Sie unter Übersicht über KI-Schutz.

Hinweis

  • Konfigurieren Sie KI-Schutz.
  • Gewähren Sie den erforderlichen IAM-Rollen (Identity and Access Management) Nutzern Zugriff auf das KI-Sicherheitsdashboard und den Tab Assets > KI-Ressourcen. Weitere Informationen finden Sie unter Erforderliche Rollen.

KI-Sicherheitsdashboard verwenden

Mit dem KI-Sicherheitsdashboard können Sie das KI-Assetinventar Ihrer Organisation oder Ihres Projekts visualisieren und vorgeschlagene Maßnahmen zur Risikominimierung und Bedrohungsabwehr prüfen.

Auf das KI-Sicherheitsdashboard zugreifen

Rufen Sie in der Google Cloud Console die Seite Risiko übersicht > KI-Sicherheit auf, um auf das KI-Sicherheitsdashboard zuzugreifen:

Zu KI-Sicherheit

Weitere Informationen finden Sie unter KI-Sicherheits dashboard.

Risikomanagement für KI-Systeme

In diesem Abschnitt werden potenzielle Risiken für Ihre KI-Systeme ermittelt und die größten Risiken in Ihrem KI-Inventar angezeigt.

Klicken Sie auf das Problem, um eine Visualisierung und Details zu einem bestimmten Problem aufzurufen.

KI-Bedrohungen ansehen

In diesem Abschnitt werden die neuesten Bedrohungen für Ihre KI-Ressourcen hervorgehoben.

Hier haben Sie folgende Möglichkeiten:

  • Klicken Sie auf Alle ansehen, um alle Bedrohungen für Ihre KI-Ressourcen aufzurufen.
  • Klicken Sie auf die Bedrohung, um detaillierte Informationen zu einer bestimmten Bedrohung aufzurufen.

KI-Inventar visualisieren

In diesem Abschnitt finden Sie eine visuelle Zusammenfassung Ihres KI-Assetinventars, einschließlich Projekten, in denen generative KI verwendet wird, aktiver benutzerdefinierter Modelle (und Gemini-Modelle für die Dienststufen „Premium“ und „Enterprise“ (eingestellt)) sowie der Datasets, die zum Trainieren von Modellen von Drittanbietern verwendet werden.

Hier haben Sie folgende Möglichkeiten:

  • Klicken Sie auf einen beliebigen Knoten in der Visualisierung, um Details zu Ihrem Inventar aufzurufen.
  • Klicken Sie auf die Infobox, um eine detaillierte Liste der einzelnen Assets aufzurufen. Diese Liste enthält benutzerdefinierte Modelle oder Gemini-Modelle (verfügbar für die Dienststufen „Premium“ und „Enterprise“ (eingestellt)).
  • Klicken Sie auf das Modell, um Details dazu aufzurufen. In dieser Ansicht werden Details wie die Endpunkte, an denen das Modell gehostet wird, und das Trainingsdataset angezeigt. Wenn Sensitive Data Protection aktiviert ist, wird in der Dataset-Ansicht auch angegeben, ob das Dataset sensible Daten enthält.

Zusammenfassung der Ergebnisse des KI-Frameworks prüfen

In diesem Abschnitt können Sie Ergebnisse bewerten, die von Richtlinien für KI-Sicherheit und Datensicherheit generiert wurden. Er enthält die folgenden Karten:

  • Ergebnisse: In diesem Abschnitt wird eine Zusammenfassung der Ergebnisse angezeigt, die von Richtlinien für KI -Sicherheit und Datensicherheit generiert wurden, z. B. Gemini model detected und Gemini model not protected by Model Armor (Ergebnisse im Zusammenhang mit Gemini-Modellen sind für die Dienststufen „Premium“ und „Enterprise“ (eingestellt) verfügbar).

    • Klicken Sie auf Alle Ergebnisse ansehen, um alle Ergebnisse aufzurufen.
    • Klicken Sie neben der gewünschten Kategorie auf die Anzahl der Ergebnisse, um die Ergebnisse für diese Kategorie aufzurufen.
    • Klicken Sie auf das Ergebnis, um Details dazu aufzurufen.

  • Sensible Daten in Vertex AI-Datasets: Hier wird eine Zusammenfassung der Ergebnisse zu sensiblen Daten in Ihren Datasets angezeigt, wie von Sensitive Data Protection gemeldet. Weitere Informationen finden Sie unter Einführung in die Gemini Enterprise Agent Platform.

Model Armor-Ergebnisse prüfen

In diesem Abschnitt wird ein Diagramm mit der Gesamtzahl der von Model Armor gescannten Prompts und Antworten sowie der Anzahl der erkannten Probleme angezeigt. Das Diagramm enthält auch zusammenfassende Statistiken für bestimmte Problemtypen wie Prompt-Injection, Jailbreak-Versuche und Datenpannen.

Bei agentenbasierten Arbeitslasten können Sie Model Armor in Agent Gateway konfigurieren, um Prompts und Antworten an und von Agenten zu prüfen.

Dieses Diagramm verwendet die Messwerte, die von Model Armor in Cloud Monitoring veröffentlicht werden. Weitere Informationen finden Sie unter Model Armor Übersicht.

Ergebnisse der Sicherheitslückenbewertung der Agent Platform prüfen

Die Ergebnisse der Sicherheitslückenbewertung der Agent Platform enthalten Informationen zum Speicherort und Typ des Secrets, aber nicht den Secret-Wert.

So prüfen Sie die Ergebnisse der Sicherheitslückenbewertung der Agent Platform:

  1. Rufen Sie in der Google Cloud Console die Seite Ergebnisse von Security Command Center auf.

    Zu Ergebnissen

  2. Wählen Sie Ihr Google Cloud Projekt oder Ihre Organisation aus.
  3. Wählen Sie im Bereich Schnellfilter im Unterbereich Klasse die Option Secrets aus. Die Abfrageergebnisse werden aktualisiert und nur übereinstimmende Ergebnisse werden angezeigt.
  4. Klicken Sie in der Spalte Kategorie auf den Namen des Ergebnisses, um die Details eines bestimmten Ergebnisses aufzurufen. Der Detailbereich für das Ergebnis wird geöffnet und der Tab Zusammenfassung wird angezeigt.
  5. Sehen Sie sich auf dem Tab Zusammenfassung im Bereich Wurde erkannt die Beschreibung an und klicken Sie dann auf die folgenden Links, um weitere Details zu erhalten:
    • Dateien: Hier finden Sie Informationen dazu, wo das Secret gefunden wurde.
    • Secret-Details ansehen: Hier sehen Sie den Typ des identifizierten Secrets.

KI-Ressourcen prüfen

Neben dem KI-Sicherheitsdashboard können Sie das KI-Assetinventar Ihrer Organisation oder Ihres Projekts auch auf der Assets Seite in der Google Cloud Console auf dem Tab KI-Ressourcen prüfen und abfragen.

Auf dem Tab KI-Ressourcen finden Sie eine detaillierte, filterbare Ansicht der erkannten KI-Systeme und -Assets, einschließlich:

  • Modelle
  • Endpunkte
  • Datenquellen
  • Pipelines
  • KI-Agenten
  • MCP-Server (Model Context Protocol)
  • Notebooks

Der Tab KI-Ressourcen kann Ihnen bei Folgendem helfen:

  • KI-Inventar verstehen: Hier finden Sie umfassende Listen aktiver KI Assets in Ihrer Organisation oder Ihrem Projekt, gefiltert nach Projekt, Standort oder Ressourcentyp.
  • Sicherheitsuntersuchungen durchführen: Untersuchen Sie die vollständigen Metadaten, den Änderungsverlauf und die zugehörigen IAM-Richtlinien bestimmter KI-Assets.
  • Zugehörige Ergebnisse prüfen: Hier können Sie schnell alle Sicherheitsergebnisse aufrufen, die mit einem bestimmten KI-Asset verknüpft sind, um das Risiko zu bewerten und die erforderlichen Maßnahmen zur Risikominimierung zu ermitteln.

Weitere Informationen zum Aufrufen und Filtern von KI-Assets in der Console finden Sie unter Von Security Command Center überwachte Assets prüfen.

Nächste Schritte