Dieses Prinzip in der Säule „Sicherheit“ des Google Cloud Well-Architected Framework enthält Empfehlungen zum Schutz Ihrer KI-Systeme. Diese Empfehlungen sind auf das Secure AI Framework (SAIF) von Google abgestimmt, das einen praktischen Ansatz zur Bewältigung der Sicherheits- und Risikoprobleme von KI-Systemen bietet. Das SAIF ist ein konzeptionelles Framework, das branchenweite Standards für die verantwortungsvolle Entwicklung und Bereitstellung von KI bieten soll.
Prinzipübersicht
Damit Ihre KI-Systeme Ihre Sicherheits-, Datenschutz- und Compliance-Anforderungen erfüllen, müssen Sie eine ganzheitliche Strategie verfolgen, die mit dem ersten Design beginnt und sich bis zur Bereitstellung und zum Betrieb erstreckt. Sie können diese ganzheitliche Strategie umsetzen, indem Sie die sechs zentralen Elemente des SAIF anwenden.
Google nutzt KI, um Sicherheitsmaßnahmen zu verbessern, z. B. durch die Erkennung von Bedrohungen, die Automatisierung von Sicherheitsaufgaben und die Verbesserung der Erkennungsfunktionen. Bei wichtigen Entscheidungen werden jedoch weiterhin Menschen einbezogen.
Google setzt auf einen gemeinschaftlichen Ansatz zur Verbesserung der KI-Sicherheit. Dieser Ansatz umfasst die Zusammenarbeit mit Kunden, Branchen und Regierungen, um die SAIF-Richtlinien zu verbessern und praktische, umsetzbare Ressourcen anzubieten.
Die Empfehlungen zur Umsetzung dieses Prinzips sind in den folgenden Abschnitten gruppiert:
Empfehlungen für die sichere Verwendung von KI
Für die sichere Verwendung von KI benötigen Sie sowohl grundlegende Sicherheitskontrollen als auch KI-spezifische Sicherheitskontrollen. In diesem Abschnitt finden Sie eine Übersicht über Empfehlungen, mit denen Sie sicherstellen können, dass Ihre KI- und ML-Bereitstellungen die Sicherheits-, Datenschutz- und Compliance-Anforderungen Ihrer Organisation erfüllen. Eine Übersicht über Architekturprinzipien und Empfehlungen, die speziell für KI und ML-Arbeitslasten in Google CloudGoogle Cloud gelten, finden Sie in der KI- und ML-Perspektive im Well-Architected Framework.
Klare Ziele und Anforderungen für die KI-Nutzung definieren
Diese Empfehlung ist für die folgenden Schwerpunkte relevant:
- Cloud-Governance, ‑Risiko und ‑Compliance
- KI- und ML-Sicherheit
Diese Empfehlung stimmt mit dem SAIF-Element überein, das die Kontextualisierung von KI-Systemrisiken in den umgebenden Geschäftsprozessen betrifft. Wenn Sie KI-Systeme entwickeln und weiterentwickeln, ist es wichtig, dass Sie Ihre spezifischen Geschäftsziele, Risiken und Compliance-Anforderungen kennen.
Daten schützen und Verlust oder Missbrauch verhindern
Diese Empfehlung ist für die folgenden Schwerpunkte relevant:
- Sichere Infrastruktur
- Identitäts- und Zugriffsverwaltung
- Datensicherheit
- Anwendungssicherheit
- KI- und ML-Sicherheit
Diese Empfehlung stimmt mit den folgenden SAIF-Elementen überein:
- Bewährte Sicherheitsgrundlagen auf das KI-Ökosystem ausweiten. Dieses Element umfasst die Datenerhebung, ‑speicherung, ‑zugriffssteuerung und den Schutz vor Datenvergiftung.
- KI-Systemrisiken kontextualisieren. Datensicherheit betonen, um Geschäftsziele und Compliance zu unterstützen.
KI-Pipelines schützen und vor Manipulationen sichern
Diese Empfehlung ist für die folgenden Schwerpunkte relevant:
- Sichere Infrastruktur
- Identitäts- und Zugriffsverwaltung
- Datensicherheit
- Anwendungssicherheit
- KI- und ML-Sicherheit
Diese Empfehlung stimmt mit den folgenden SAIF-Elementen überein:
- Bewährte Sicherheitsgrundlagen auf das KI-Ökosystem ausweiten. Sichern Sie Ihren Code und Ihre Modellartefakte, um ein sicheres KI-System zu schaffen.
- Kontrollen für schnellere Feedbackschleifen anpassen. Verfolgen Sie Ihre Assets und Pipelineausführungen, da dies für die Risikominimierung und die Reaktion auf Vorfälle wichtig ist.
Anwendungen auf sicheren Systemen mit sicheren Tools und Artefakten bereitstellen
Diese Empfehlung ist für die folgenden Schwerpunkte relevant:
- Sichere Infrastruktur
- Identitäts- und Zugriffsverwaltung
- Datensicherheit
- Anwendungssicherheit
- KI- und ML-Sicherheit
Die Verwendung sicherer Systeme und validierter Tools und Artefakte in KI-basierten Anwendungen stimmt mit dem SAIF-Element überein, das die Ausweitung bewährter Sicherheitsgrundlagen auf das KI-Ökosystem und die Lieferkette betrifft. Diese Empfehlung kann durch die folgenden Schritte umgesetzt werden:
- Eine sichere Umgebung für das ML-Training und die ML-Bereitstellung implementieren
- Validierte Container-Images verwenden
- Richtlinien für Supply-chain Levels for Software Artifacts (SLSA) anwenden
Eingaben schützen und überwachen
Diese Empfehlung ist für die folgenden Schwerpunkte relevant:
- Logging, Auditing und Monitoring
- Sicherheitsabläufe
- KI- und ML-Sicherheit
Diese Empfehlung stimmt mit dem SAIF-Element überein, das die Ausweitung der Bedrohungserkennung und ‑abwehr betrifft, damit sich Unternehmen mithilfe von KI vor Bedrohungen schützen können. Um Probleme zu vermeiden, ist es wichtig, Prompts für generative KI-Systeme zu verwalten, Eingaben zu überwachen und den Nutzerzugriff zu steuern.
Empfehlungen für die KI-Governance
Alle Empfehlungen in diesem Abschnitt sind für den folgenden Schwerpunkt relevant: Cloud-Governance, ‑Risiko und ‑Compliance.
Google Cloud Google Cloud bietet eine Vielzahl von Tools und Diensten, mit denen Sie verantwortungsvolle und ethische KI-Systeme entwickeln können. Außerdem bieten wir ein Framework aus Richtlinien, Verfahren und ethischen Überlegungen, das die Entwicklung, Bereitstellung und Nutzung von KI-Systemen unterstützen kann.
Wie in unseren Empfehlungen beschrieben, orientiert sich der Ansatz von Google für die KI-Governance an den folgenden Grundsätzen:
- Fairness
- Transparenz
- Rechenschaftspflicht
- Datenschutz
- Sicherheit
Fairnessindikatoren verwenden
Die Gemini Enterprise Agent Platform kann Verzerrungen während der Datenerfassung oder der Bewertung nach dem Training feststellen. Die Agent Platform bietet Modellbewertungsmesswerte wie Datenverzerrung und Modellverzerrung, mit denen Sie Ihr Modell auf Verzerrungen bewerten können.
Diese Messwerte beziehen sich auf die Fairness in verschiedenen Kategorien wie Rasse, Geschlecht und Klasse. Die Interpretation statistischer Abweichungen ist jedoch nicht einfach, da Unterschiede zwischen Kategorien nicht unbedingt auf Verzerrungen oder Schäden zurückzuführen sein müssen.
Vertex Explainable AI verwenden
Mit Vertex Explainable AI können Sie nachvollziehen, wie die KI-Modelle Entscheidungen treffen. Mit dieser Funktion können Sie potenzielle Verzerrungen erkennen, die in der Logik des Modells verborgen sein könnten.
Diese Funktion zur Erklärbarkeit ist in BigQuery ML und Vertex Explainable AI, die funktionsbasierte Erklärungen bieten, integriert. Sie können die Erklärbarkeit entweder in BigQuery ML ausführen oder Ihr Modell in der Agent Platform registrieren und die Erklärbarkeit in der Agent Platform ausführen.
Datenherkunft verfolgen
Verfolgen Sie die Herkunft und Transformation von Daten, die in Ihren KI-Systemen verwendet werden. So können Sie den Weg der Daten nachvollziehen und potenzielle Quellen für Verzerrungen oder Fehler identifizieren.
Die Datenherkunft ist eine Knowledge Catalog-Funktion, mit der Sie verfolgen können, wie sich Daten durch Ihre Systeme bewegen – woher sie kommen, wohin sie übergeben werden und welche Transformationen auf sie angewendet werden.
Rechenschaftspflicht festlegen
Legen Sie klare Verantwortlichkeiten für die Entwicklung, Bereitstellung und Ergebnisse Ihrer KI-Systeme fest.
Mit Cloud Logging können Sie wichtige Ereignisse und Entscheidungen Ihrer KI-Systeme protokollieren. Die Logs bieten einen Audit-Trail, mit dem Sie die Leistung des Systems nachvollziehen und Bereiche für Verbesserungen identifizieren können.
Mit Error Reporting können Sie Fehler, die von den KI-Systemen gemacht werden, systematisch analysieren. Diese Analyse kann Muster aufdecken, die auf zugrunde liegende Verzerrungen oder Bereiche hinweisen, in denen das Modell weiter verfeinert werden muss.
Differential Privacy implementieren
Fügen Sie während des Modelltrainings, Rauschen zu den Daten hinzu, um die Identifizierung einzelner Datenpunkte zu erschweren, aber dem Modell dennoch zu ermöglichen, effektiv zu lernen. Mit SQL in BigQuery, können Sie die Ergebnisse einer Abfrage mit differenziell privaten Aggregationentransformieren.