KI-Sicherheit prüfen

Der KI-Schutz bietet Tools, mit denen Sie das KI-Assetinventar Ihrer Organisation visualisieren, Sicherheitsergebnisse untersuchen und vorgeschlagene Maßnahmen zur Risikominimierung und Bedrohungsabwehr prüfen können. In dieser Anleitung wird beschrieben, wie Sie die KI-Sicherheit mithilfe des Dashboards für KI-Sicherheit und der Seite „Assets“ verwalten.

Hinweis

Dashboard für KI-Sicherheit verwenden

Mit dem Dashboard für KI-Sicherheit können Sie das KI-Assetinventar Ihrer Organisation visualisieren und vorgeschlagene Maßnahmen zur Risikominimierung und Bedrohungsabwehr prüfen.

Auf das Dashboard für KI-Sicherheit zugreifen

Rufen Sie in der Google Cloud Console die Seite Risiko übersicht > KI-Sicherheit auf, um auf das Dashboard für KI-Sicherheit zuzugreifen:

Zu KI-Sicherheit

Weitere Informationen finden Sie unter Dashboard für KI-Sicherheit.

Risikomanagement für KI-Systeme

In diesem Abschnitt werden potenzielle Risiken für Ihre KI-Systeme ermittelt und die größten Risiken in Ihrem KI-Inventar angezeigt.

Klicken Sie auf ein Problem, um eine Visualisierung und Details zu diesem Problem aufzurufen.

KI-Bedrohungen ansehen

In diesem Abschnitt werden die neuesten Bedrohungen für Ihre KI-Ressourcen hervorgehoben.

In diesem Abschnitt haben Sie folgende Möglichkeiten:

  • Klicken Sie auf Alle ansehen, um alle Bedrohungen für Ihre KI-Ressourcen aufzurufen.
  • Klicken Sie auf die Bedrohung, um detaillierte Informationen zu einer bestimmten Bedrohung aufzurufen.

KI-Inventar visualisieren

In diesem Abschnitt finden Sie eine visuelle Zusammenfassung Ihres KI-Assetinventars, einschließlich Projekten, in denen generative KI verwendet wird, aktiver Modelle von Drittanbietern und eigenen Modellen sowie der Datasets, die zum Trainieren von Modellen von Drittanbietern verwendet werden.

In diesem Abschnitt haben Sie folgende Möglichkeiten:

  • Klicken Sie auf einen Knoten in der Visualisierung, um Details zu Ihrem Inventar aufzurufen.
  • Klicken Sie auf die Tooltip-Schaltfläche, um eine detaillierte Liste einzelner Assets wie Gemini-Modelle und benutzerdefinierte Modelle aufzurufen.
  • Klicken Sie auf ein Modell, um Details dazu aufzurufen. In dieser Ansicht werden Details wie die Endpunkte, an denen das Modell gehostet wird, und das Trainingsdataset angezeigt. Wenn Sensitive Data Protection aktiviert ist, wird in der Dataset-Ansicht auch angegeben, ob das Dataset sensible Daten enthält.

Zusammenfassung der Ergebnisse des KI-Frameworks prüfen

In diesem Abschnitt können Sie Ergebnisse bewerten, die von Richtlinien für KI-Sicherheit und Datensicherheit generiert wurden. Er enthält die folgenden Karten:

  • Ergebnisse: In diesem Abschnitt wird eine Zusammenfassung der Ergebnisse angezeigt, die von Richtlinien für KI Sicherheit und Datensicherheit generiert wurden, z. B. Gemini model detected und Gemini model not protected by Model Armor.

    • Klicken Sie auf Alle Ergebnisse ansehen, um alle Ergebnisse aufzurufen.
    • Klicken Sie neben einer Kategorie auf die Anzahl der Ergebnisse, um die Ergebnisse für diese Kategorie aufzurufen.
    • Klicken Sie auf ein Ergebnis, um Details dazu aufzurufen.

  • Sensible Daten in Vertex AI-Datasets: Hier wird eine Zusammenfassung der Ergebnisse zu sensiblen Daten in Ihren Datasets angezeigt, die von Sensitive Data Protection gemeldet wurden. Weitere Informationen finden Sie unter Einführung in die Gemini Enterprise Agent Platform.

Model Armor-Ergebnisse prüfen

In diesem Abschnitt wird ein Diagramm mit der Gesamtzahl der Prompts und Antworten angezeigt, die von Model Armor gescannt wurden, sowie die Anzahl der erkannten Probleme. Das Diagramm enthält auch zusammenfassende Statistiken für bestimmte Problemtypen wie Prompt-Injection, Jailbreak-Versuche und Datenpannen.

Bei agentenbasierten Arbeitslasten können Sie Model Armor in Agent Gateway (Vorschau) konfigurieren, um Prompts und Antworten an und von Agenten zu prüfen.

Dieses Diagramm verwendet die Messwerte, die von Model Armor in Cloud Monitoring veröffentlicht werden. Weitere Informationen finden Sie unter Model Armor Übersicht.

KI-Ressourcen prüfen

Neben dem Dashboard für KI-Sicherheit können Sie das KI-Assetinventar Ihrer Organisation auch auf der Seite Assets in der Google Cloud Console prüfen und abfragen. Verwenden Sie dazu den Tab KI-Ressourcen.

Der Tab KI-Ressourcen bietet eine detaillierte, filterbare Ansicht der erkannten KI-Systeme und -Assets, einschließlich:

  • Modelle
  • Endpunkte
  • Datenquellen
  • Pipelines
  • Agents (Vorschau)
  • Model Context Protocol (MCP)-Server (Vorschau)
  • Notebooks

Der Tab KI-Ressourcen kann Ihnen bei Folgendem helfen:

  • KI-Inventar verstehen: Umfassende Listen aktiver KI Assets in Ihrer Organisation aufrufen, gefiltert nach Projekt, Standort oder Ressourcen typ.
  • Sicherheitsuntersuchungen durchführen: Vollständige Metadaten, Änderungsverlauf und zugehörige IAM-Richtlinien bestimmter KI-Assets prüfen.
  • Zugehörige Ergebnisse prüfen: Alle Sicherheitsergebnisse, die mit einem bestimmten KI-Asset verknüpft sind, schnell aufrufen, um das Risiko zu bewerten und die erforderlichen Maßnahmen zur Risikominimierung zu ermitteln.

Weitere Informationen zum Aufrufen und Filtern von KI-Assets in der Console finden Sie unter Von Security Command Center überwachte Assets prüfen.

Nächste Schritte