KI-Sicherheit prüfen

KI-Schutz bietet Tools, mit denen Sie das KI-Assetinventar Ihrer Organisation visualisieren, Sicherheitsergebnisse untersuchen und vorgeschlagene Maßnahmen zur Risikominimierung und Bedrohungsabwehr prüfen können. In dieser Anleitung wird beschrieben, wie Sie die KI-Sicherheit mithilfe des Dashboards für KI-Sicherheit und der Seite „Assets“ verwalten.

Hinweis

  • Konfigurieren Sie KI-Schutz.
  • Gewähren Sie den erforderlichen IAM-Rollen (Identity and Access Management) den Zugriff auf das Dashboard für KI-Sicherheit und den Tab Assets > KI-Ressourcen. Weitere Informationen finden Sie unter Erforderliche Rollen.

Dashboard für KI-Sicherheit verwenden

Mit dem Dashboard für KI-Sicherheit können Sie das KI-Assetinventar Ihrer Organisation visualisieren und vorgeschlagene Maßnahmen zur Risikominimierung und Bedrohungsabwehr prüfen.

Auf das Dashboard für KI-Sicherheit zugreifen

Rufen Sie in der Google Cloud Console die Seite Risiko übersicht > KI-Sicherheit auf, um auf das Dashboard für KI-Sicherheit zuzugreifen:

Zu KI-Sicherheit

Weitere Informationen finden Sie unter Dashboard für KI-Sicherheit.

Risikomanagement für KI-Systeme

In diesem Abschnitt werden potenzielle Risiken für Ihre KI-Systeme ermittelt und die größten Risiken in Ihrem KI-Inventar angezeigt.

Wenn Sie eine Visualisierung und Details zu einem bestimmten Problem aufrufen möchten, klicken Sie auf das Problem.

KI-Bedrohungen ansehen

In diesem Abschnitt werden die neuesten Bedrohungen für Ihre KI-Ressourcen hervorgehoben.

In diesem Abschnitt haben Sie folgende Möglichkeiten:

  • Klicken Sie auf Alle ansehen, um alle Bedrohungen für Ihre KI-Ressourcen aufzurufen.
  • Klicken Sie auf die Bedrohung, um detaillierte Informationen zu einer bestimmten Bedrohung aufzurufen.

KI-Inventar visualisieren

In diesem Abschnitt finden Sie eine visuelle Zusammenfassung Ihres KI-Assetinventars, einschließlich Projekten, in denen generative KI verwendet wird, aktiver Modelle von Erstanbietern und Drittanbietern sowie der Datasets, die zum Trainieren von Modellen von Drittanbietern verwendet werden.

In diesem Abschnitt haben Sie folgende Möglichkeiten:

  • Klicken Sie auf einen beliebigen Knoten in der Visualisierung, um Details zu Ihrem Inventar aufzurufen.
  • Wenn Sie eine detaillierte Liste einzelner Assets (z. B. Gemini-Modelle und benutzerdefinierte Modelle) aufrufen möchten, klicken Sie auf den Tooltip.
  • Klicken Sie auf das Modell, um Details dazu aufzurufen. In dieser Ansicht werden Details wie die Endpunkte, an denen das Modell gehostet wird, und das Trainingsdataset angezeigt. Wenn Sensitive Data Protection aktiviert ist, wird in der Dataset-Ansicht auch angegeben, ob das Dataset sensible Daten enthält.

Zusammenfassung der Ergebnisse des KI-Frameworks prüfen

In diesem Abschnitt können Sie Ergebnisse bewerten, die von Richtlinien für KI-Sicherheit und Datensicherheit generiert wurden. Er enthält die folgenden Karten:

  • Ergebnisse: In diesem Abschnitt wird eine Zusammenfassung der Ergebnisse angezeigt, die von Richtlinien für KI Sicherheit und Datensicherheit generiert wurden, z. B. Gemini model detected und Gemini model not protected by Model Armor.

    • Klicken Sie auf Alle Ergebnisse ansehen, um alle Ergebnisse aufzurufen.
    • Wenn Sie Ergebnisse für eine bestimmte Kategorie aufrufen möchten, klicken Sie neben dieser Kategorie auf die Anzahl der Ergebnisse.
    • Klicken Sie auf das Ergebnis, um Details zu einem einzelnen Ergebnis aufzurufen.

  • Sensible Daten in Vertex AI-Datasets: Hier wird eine Zusammenfassung der Ergebnisse zu sensiblen Daten in Ihren Datasets angezeigt, wie von Sensitive Data Protection gemeldet. Weitere Informationen finden Sie unter Einführung in die Gemini Enterprise Agent Platform.

Model Armor-Ergebnisse prüfen

In diesem Abschnitt wird ein Diagramm mit der Gesamtzahl der von Model Armor gescannten Prompts und Antworten sowie der Anzahl der erkannten Probleme angezeigt. Das Diagramm enthält auch zusammenfassende Statistiken für bestimmte Problemtypen wie Prompt-Injection, Jailbreak-Versuche und Datenpannen.

Bei agentenbasierten Arbeitslasten können Sie Model Armor in Agent Gateway konfigurieren, um Prompts und Antworten an und von Agents zu prüfen.

Dieses Diagramm verwendet die Messwerte, die von Model Armor in Cloud Monitoring veröffentlicht werden. Weitere Informationen finden Sie unter Model Armor Übersicht.

Ergebnisse der Sicherheitslückenbewertung der Agent Platform prüfen

Die Ergebnisse der Sicherheitslückenbewertung der Agent Platform enthalten Informationen zum Speicherort und Typ des Secrets, aber nicht den Secret-Wert.

So prüfen Sie die Ergebnisse der Sicherheitslückenbewertung der Agent Platform:

  1. Rufen Sie in der Google Cloud Console die Seite Ergebnisse von Security Command Center auf.

    Zu Ergebnissen

  2. Wählen Sie Ihr Google Cloud Projekt oder Ihre Organisation aus.
  3. Wählen Sie im Bereich Schnellfilter im Unterbereich Klasse die Option Secrets aus. Die Abfrageergebnisse werden aktualisiert und zeigen nur übereinstimmende Ergebnisse an.
  4. Klicken Sie in der Spalte Kategorie auf den Namen des Ergebnisses, um die Details eines bestimmten Ergebnisses aufzurufen. Der Detailbereich für das Ergebnis wird geöffnet und der Tab Zusammenfassung wird angezeigt.
  5. Sehen Sie sich auf dem Tab Zusammenfassung im Bereich Wurde erkannt die Beschreibung an und klicken Sie dann auf die folgenden Links, um weitere Details zu erhalten:
    • Dateien: Hier finden Sie Informationen dazu, wo das Secret gefunden wurde.
    • Secret-Details ansehen: Hier sehen Sie den Typ des identifizierten Secrets.

KI-Ressourcen prüfen

Neben dem Dashboard für KI-Sicherheit können Sie das KI-Assetinventar Ihrer Organisation auch auf der Seite Assets in der Google Cloud Console prüfen und abfragen. Verwenden Sie dazu den Tab KI-Ressourcen.

Der Tab KI-Ressourcen bietet eine detaillierte, filterbare Ansicht der erkannten KI-Systeme und -Assets, einschließlich:

  • Modelle
  • Endpunkte
  • Datenquellen
  • Pipelines
  • Agents
  • MCP-Server (Model Context Protocol)
  • Notebooks

Der Tab KI-Ressourcen kann Ihnen bei Folgendem helfen:

  • KI-Inventar verstehen: Hier finden Sie umfassende Listen aktiver KI Assets in Ihrer Organisation, gefiltert nach Projekt, Standort oder Ressourcentyp.
  • Sicherheitsuntersuchungen durchführen: Hier können Sie die vollständigen Metadaten, den Änderungsverlauf und die zugehörigen IAM-Richtlinien bestimmter KI-Assets prüfen.
  • Zugehörige Ergebnisse prüfen: Hier können Sie schnell alle Sicherheitsergebnisse aufrufen, die mit einem bestimmten KI-Asset verknüpft sind, um das Risiko zu bewerten und die erforderlichen Maßnahmen zur Risikominimierung zu ermitteln.

Weitere Informationen zum Aufrufen und Filtern von KI-Assets in der Console finden Sie unter Von Security Command Center überwachte Assets prüfen.

Nächste Schritte