Dieses Prinzip in der Sicherheitssäule des Google Cloud Well-Architected Framework enthält Empfehlungen zum Schutz Ihrer KI-Systeme. Diese Empfehlungen entsprechen dem Secure AI Framework (SAIF) von Google, das einen praktischen Ansatz zur Bewältigung der Sicherheits- und Risikoprobleme von KI-Systemen bietet. Das SAIF ist ein konzeptionelles Rahmenwerk, das branchenweite Standards für die verantwortungsbewusste Entwicklung und Bereitstellung von KI-Systemen bieten soll.
Übersicht über die Prinzipien
Damit Ihre KI-Systeme Ihre Sicherheits-, Datenschutz- und Compliance-Anforderungen erfüllen, müssen Sie eine ganzheitliche Strategie verfolgen, die vom ersten Entwurf bis hin zur Bereitstellung und zum Betrieb reicht.
Google nutzt KI, um Sicherheitsmaßnahmen zu verbessern, z. B. um Bedrohungen zu erkennen, Sicherheitsaufgaben zu automatisieren und die Erkennungsfunktionen zu verbessern. Bei kritischen Entscheidungen sind jedoch weiterhin Menschen im Human in the Loop beteiligt.
Google legt Wert auf einen gemeinschaftlichen Ansatz zur Verbesserung der KI-Sicherheit. Dazu arbeiten wir mit Kunden, Branchen und Regierungen zusammen, um die SAIF-Richtlinien zu verbessern und praktische, umsetzbare Ressourcen anzubieten.
Die Empfehlungen zur Umsetzung dieses Prinzips sind in den folgenden Abschnitten zusammengefasst:
Empfehlungen für die sichere Nutzung von KI
Für die sichere Verwendung von KI benötigen Sie sowohl grundlegende Sicherheitskontrollen als auch KI-spezifische Sicherheitskontrollen. Dieser Abschnitt bietet einen Überblick über Empfehlungen, mit denen Sie dafür sorgen können, dass Ihre KI- und ML-Bereitstellungen die Sicherheits-, Datenschutz- und Compliance-Anforderungen Ihrer Organisation erfüllen. Eine Übersicht über Architekturprinzipien und Empfehlungen, die speziell für KI- und ML-Arbeitslasten in Google Cloudgelten, finden Sie im Well-Architected Framework unter KI- und ML-Perspektive.
Klare Ziele und Anforderungen für die KI-Nutzung definieren
Diese Empfehlung ist für die folgenden Schwerpunkte relevant:
- Cloud-Governance, -Risiko und -Compliance
- KI- und ML-Sicherheit
Diese Empfehlung entspricht dem SAIF-Element zur Kontextualisierung von KI-Systemrisiken in den umgebenden Geschäftsprozessen. Wenn Sie KI-Systeme entwerfen und weiterentwickeln, ist es wichtig, Ihre spezifischen Geschäftsziele, Risiken und Compliance-Anforderungen zu kennen.
Daten schützen und Verlust oder Missbrauch verhindern
Diese Empfehlung ist für die folgenden Schwerpunkte relevant:
- Sichere Infrastruktur
- Identitäts- und Zugriffsverwaltung
- Datensicherheit
- Anwendungssicherheit
- KI- und ML-Sicherheit
Diese Empfehlung entspricht den folgenden SAIF-Elementen:
- Bewährte Sicherheitsgrundlagen auf das KI-Ökosystem ausweiten Dieses Element umfasst die Datenerhebung, die Speicherung, die Zugriffssteuerung und den Schutz vor Datenmanipulation.
- Zusammenhänge zwischen Sicherheitsrisiken für KI-Systeme und den damit verbundenen Geschäftsprozessen erkennen Datensicherheit zur Unterstützung von Geschäftszielen und Compliance betonen.
KI-Pipelines schützen und vor Manipulationen bewahren
Diese Empfehlung ist für die folgenden Schwerpunkte relevant:
- Sichere Infrastruktur
- Identitäts- und Zugriffsverwaltung
- Datensicherheit
- Anwendungssicherheit
- KI- und ML-Sicherheit
Diese Empfehlung entspricht den folgenden SAIF-Elementen:
- Bewährte Sicherheitsgrundlagen auf das KI-Ökosystem ausweiten Als wichtiges Element beim Einrichten eines sicheren KI-Systems sollten Sie Ihre Code- und Modellartefakte schützen.
- Anpassen von Kontrollen für schnellere Feedback-Schleifen Da dies für die Aussetzung von Maßnahmen und die Incident Response wichtig ist, sollten Sie Ihre Assets und Pipelineausführungen im Blick behalten.
Anwendungen auf sicheren Systemen mit sicheren Tools und Artefakten bereitstellen
Diese Empfehlung ist für die folgenden Schwerpunkte relevant:
- Sichere Infrastruktur
- Identitäts- und Zugriffsverwaltung
- Datensicherheit
- Anwendungssicherheit
- KI- und ML-Sicherheit
Die Verwendung sicherer Systeme und validierter Tools und Artefakte in KI-basierten Anwendungen entspricht dem SAIF-Element zur Ausweitung starker Sicherheitsgrundlagen auf das KI-Ökosystem und die Lieferkette. Diese Empfehlung kann durch die folgenden Schritte umgesetzt werden:
- Sichere Umgebung für ML-Training und -Bereitstellung implementieren
- Validierte Container-Images verwenden
- SLSA-Richtlinien (Supply Chain Levels for Software Artifacts) anwenden
Eingaben schützen und überwachen
Diese Empfehlung ist für die folgenden Schwerpunkte relevant:
- Logging, Auditing und Monitoring
- Security Operations
- KI- und ML-Sicherheit
Diese Empfehlung entspricht dem SAIF-Element zur Ausweitung der Bedrohungserkennung und -abwehr, damit sich Unternehmen mithilfe von KI vor Bedrohungen schützen können. Um Probleme zu vermeiden, ist es wichtig, Prompts für generative KI-Systeme zu verwalten, Eingaben zu überwachen und den Nutzerzugriff zu steuern.
Empfehlungen für die KI-Governance
Alle Empfehlungen in diesem Abschnitt sind für den folgenden Schwerpunktbereich relevant: Cloud-Governance, -Risiko und -Compliance.
Google Cloud bietet eine Reihe von Tools und Diensten, mit denen Sie verantwortungsbewusste und ethische KI-Systeme erstellen können. Wir bieten auch ein Framework mit Richtlinien, Verfahren und ethischen Überlegungen, das die Entwicklung, Bereitstellung und Nutzung von KI-Systemen unterstützen kann.
Wie in unseren Empfehlungen dargelegt, orientiert sich der Ansatz von Google für die KI-Governance an den folgenden Grundsätzen:
- Fairness
- Transparenz
- Rechenschaftspflicht
- Datenschutz
- Sicherheit
Fairnessindikatoren verwenden
Die Gemini Enterprise Agent Platform kann Verzerrungen während der Datenerhebung oder der Bewertung nach dem Training feststellen. Die Agent Platform bietet Messwerte zur Modellbewertung wie Datenverzerrung und Modellverzerrung, mit denen Sie Ihr Modell auf Verzerrungen prüfen können.
Diese Messwerte beziehen sich auf die Fairness in verschiedenen Kategorien wie Rasse, Geschlecht und Klasse. Die Interpretation statistischer Abweichungen ist jedoch nicht einfach, da Unterschiede zwischen Kategorien nicht unbedingt auf eine Verzerrung oder ein Signal für Schäden zurückzuführen sind.
Explainable AI verwenden
Wenn Sie nachvollziehen möchten, wie Ihre KI-Modelle Entscheidungen treffen, können Sie Erklärbarkeitstechniken wie die Attributzuweisung verwenden. Mithilfe der Erklärbarkeit können Sie potenzielle Verzerrungen identifizieren, die in der Logik des Modells verborgen sein könnten.
Sie können beispielsweise featurebasierte Erklärungen in BigQuery ML und tabellarische Erklärungen in der Agent Platform generieren.
Datenherkunft verfolgen
Verfolgen Sie den Ursprung und die Transformation von Daten, die in Ihren KI-Systemen verwendet werden. So können Sie den Weg der Daten nachvollziehen und potenzielle Quellen für Verzerrungen oder Fehler identifizieren.
Die Datenherkunft ist eine Knowledge Catalog-Funktion, mit der Sie verfolgen können, wie sich Daten durch Ihre Systeme bewegen – woher sie kommen, wohin sie übergeben werden und welche Transformationen auf sie angewendet werden.
Verantwortlichkeit festlegen
Legen Sie klare Verantwortlichkeiten für die Entwicklung, Bereitstellung und Ergebnisse Ihrer KI-Systeme fest.
Verwenden Sie Cloud Logging, um wichtige Ereignisse und Entscheidungen Ihrer KI-Systeme zu protokollieren. Die Logs bieten einen Audit-Trail, mit dem Sie die Leistung des Systems nachvollziehen und Bereiche mit Verbesserungspotenzial identifizieren können.
Verwenden Sie Error Reporting, um Fehler der KI-Systeme systematisch zu analysieren. Diese Analyse kann Muster aufzeigen, die auf zugrunde liegende Verzerrungen oder Bereiche hinweisen, in denen das Modell weiter optimiert werden muss.
Differential Privacy implementieren
Fügen Sie den Daten während des Modelltrainings Rauschen hinzu, um die Identifizierung einzelner Datenpunkte zu erschweren, aber dem Modell dennoch ein effektives Lernen zu ermöglichen. Mit SQL in BigQuery können Sie die Ergebnisse einer Abfrage mit differenziell privaten Aggregationen transformieren.