Dieser Grundsatz in der Säule „Sicherheit“ des Google Cloud Well-Architected Framework enthält Empfehlungen, mit denen Sie Ihre KI-Systeme schützen können. Diese Empfehlungen sind auf das Secure AI Framework (SAIF) von Google abgestimmt, das einen praktischen Ansatz bietet, um die Sicherheits- und Risikobedenken von KI-Systemen anzugehen. Das SAIF ist ein konzeptionelles Framework, das branchenweite Standards für die verantwortungsbewusste Entwicklung und Bereitstellung von KI bieten soll.
Grundsatzübersicht
Damit Ihre KI-Systeme Ihre Sicherheits-, Datenschutz- und Compliance-Anforderungen erfüllen, müssen Sie eine ganzheitliche Strategie verfolgen, die mit dem ersten Design beginnt und sich bis zur Bereitstellung und zum Betrieb erstreckt. Sie können diese ganzheitliche Strategie umsetzen, indem Sie die sechs Kernelemente des SAIF anwenden.
Google nutzt KI, um Sicherheitsmaßnahmen zu verbessern, z. B. durch die Erkennung von Bedrohungen, die Automatisierung von Sicherheitsaufgaben und die Verbesserung der Erkennungsfunktionen. Bei wichtigen Entscheidungen werden jedoch immer Menschen einbezogen.
Google setzt auf einen kollaborativen Ansatz, um die Sicherheit von KI zu verbessern. Dieser Ansatz umfasst die Zusammenarbeit mit Kunden, Branchen und Regierungen, um die SAIF-Richtlinien zu verbessern und praktische, umsetzbare Ressourcen anzubieten.
Die Empfehlungen zur Umsetzung dieses Grundsatzes sind in den folgenden Abschnitten gruppiert:
Empfehlungen für die sichere Verwendung von KI
Für die sichere Verwendung von KI benötigen Sie sowohl grundlegende Sicherheitskontrollen als auch KI-spezifische Sicherheitskontrollen. In diesem Abschnitt finden Sie eine Übersicht über Empfehlungen, mit denen Sie sicherstellen können, dass Ihre KI- und ML-Bereitstellungen die Sicherheits-, Datenschutz- und Compliance-Anforderungen Ihrer Organisation erfüllen. Eine Übersicht über Architekturprinzipien und Empfehlungen, die speziell für KI und ML-Arbeitslasten gelten Google Cloud, finden Sie in der KI- und ML-Perspektive im Well-Architected Framework.
Klare Ziele und Anforderungen für die KI-Nutzung definieren
Diese Empfehlung ist für die folgenden Schwerpunkte relevant:
- Cloud-Governance, ‑Risiko und ‑Compliance
- KI- und ML-Sicherheit
Diese Empfehlung stimmt mit dem SAIF-Element überein, das die Kontextualisierung von KI-Systemrisiken in den umgebenden Geschäftsprozessen betrifft. Wenn Sie KI-Systeme entwickeln und weiterentwickeln, ist es wichtig, Ihre spezifischen Geschäftsziele, Risiken und Compliance-Anforderungen zu kennen.
Daten schützen und Verlust oder Missbrauch verhindern
Diese Empfehlung ist für die folgenden Schwerpunkte relevant:
- Sichere Infrastruktur
- Identitäts- und Zugriffsverwaltung
- Datensicherheit
- Anwendungssicherheit
- KI- und ML-Sicherheit
Diese Empfehlung stimmt mit den folgenden SAIF-Elementen überein:
- Bewährte Sicherheitsgrundlagen auf das KI-Ökosystem ausweiten. Dieses Element umfasst die Datenerhebung, ‑speicherung, ‑zugriffssteuerung und den Schutz vor Datenvergiftung.
- KI-Systemrisiken kontextualisieren. Datensicherheit betonen, um Geschäftsziele und Compliance zu unterstützen.
KI-Pipelines schützen und vor Manipulationen schützen
Diese Empfehlung ist für die folgenden Schwerpunkte relevant:
- Sichere Infrastruktur
- Identitäts- und Zugriffsverwaltung
- Datensicherheit
- Anwendungssicherheit
- KI- und ML-Sicherheit
Diese Empfehlung stimmt mit den folgenden SAIF-Elementen überein:
- Bewährte Sicherheitsgrundlagen auf das KI-Ökosystem ausweiten. Sichern Sie Ihren Code und Ihre Modellartefakte, um ein sicheres KI-System zu schaffen.
- Kontrollen für schnellere Feedbackschleifen anpassen. Da dies für die Risikominimierung und Incident Response wichtig ist, sollten Sie Ihre Assets und Pipelineausführungen im Blick behalten.
Anwendungen auf sicheren Systemen mit sicheren Tools und Artefakten bereitstellen
Diese Empfehlung ist für die folgenden Schwerpunkte relevant:
- Sichere Infrastruktur
- Identitäts- und Zugriffsverwaltung
- Datensicherheit
- Anwendungssicherheit
- KI- und ML-Sicherheit
Die Verwendung sicherer Systeme und validierter Tools und Artefakte in KI-basierten Anwendungen stimmt mit dem SAIF-Element überein, das die Ausweitung bewährter Sicherheitsgrundlagen auf das KI-Ökosystem und die Lieferkette betrifft. Diese Empfehlung kann durch die folgenden Schritte umgesetzt werden:
- Eine sichere Umgebung für das ML-Training und die ML-Bereitstellung implementieren
- Validierte Container-Images verwenden
- Richtlinien für Supply-chain Levels for Software Artifacts (SLSA) anwenden
Eingaben schützen und überwachen
Diese Empfehlung ist für die folgenden Schwerpunkte relevant:
- Logging, Auditing und Monitoring
- Sicherheitsabläufe
- KI- und ML-Sicherheit
Diese Empfehlung stimmt mit dem SAIF-Element überein, das die Ausweitung der Erkennung und Reaktion betrifft, um KI in das Bedrohungsspektrum eines Unternehmens einzubeziehen. Um Probleme zu vermeiden, ist es wichtig, Prompts für generative KI-Systeme zu verwalten, Eingaben zu überwachen und den Nutzerzugriff zu steuern.
Empfehlungen für die KI-Governance
Alle Empfehlungen in diesem Abschnitt sind für den folgenden Schwerpunkt relevant: Cloud-Governance, ‑Risiko und ‑Compliance.
Google Cloud bietet eine Vielzahl von Tools und Diensten, mit denen Sie verantwortungsbewusste und ethische KI-Systeme entwickeln können. Außerdem bieten wir ein Framework aus Richtlinien, Verfahren und ethischen Überlegungen, das die Entwicklung, Bereitstellung und Nutzung von KI-Systemen unterstützen kann.
Wie in unseren Empfehlungen dargelegt, orientiert sich der Ansatz von Google für die KI-Governance an den folgenden Grundsätzen:
- Fairness
- Transparenz
- Rechenschaftspflicht
- Datenschutz
- Sicherheit
Fairnessindikatoren verwenden
Vertex AI kann Verzerrungen während der Datenerfassung oder der Bewertung nach dem Training feststellen. Vertex AI bietet Modellbewertungsmesswerte wie Datenverzerrung und Modellverzerrung, mit denen Sie Ihr Modell auf Verzerrungen bewerten können.
Diese Messwerte beziehen sich auf die Fairness in verschiedenen Kategorien wie Rasse, Geschlecht und Klasse. Die Interpretation statistischer Abweichungen ist jedoch nicht einfach, da Unterschiede zwischen Kategorien nicht unbedingt auf Verzerrungen oder Schäden zurückzuführen sein müssen.
Vertex Explainable AI verwenden
Mit Vertex Explainable AI können Sie nachvollziehen, wie KI-Modelle Entscheidungen treffen. Mit dieser Funktion können Sie potenzielle Verzerrungen erkennen, die in der Logik des Modells verborgen sein könnten.
Diese Funktion zur Erklärbarkeit ist in BigQuery ML und Vertex AI, integriert und bietet funktionsbasierte Erklärungen. Sie können die Erklärbarkeit entweder in BigQuery ML ausführen oder Ihr Modell registrieren in Vertex AI und die Erklärbarkeit in Vertex AI ausführen.
Datenherkunft verfolgen
Verfolgen Sie die Herkunft und Transformation von Daten, die in Ihren KI-Systemen verwendet werden. So können Sie den Weg der Daten nachvollziehen und potenzielle Quellen für Verzerrungen oder Fehler identifizieren.
Die Datenherkunft ist eine Knowledge Catalog-Funktion, mit der Sie verfolgen können, wie sich Daten durch Ihre Systeme bewegen – woher sie kommen, wohin sie übergeben werden und welche Transformationen auf sie angewendet werden.
Rechenschaftspflicht festlegen
Legen Sie klare Verantwortlichkeiten für die Entwicklung, Bereitstellung und Ergebnisse Ihrer KI-Systeme fest.
Mit Cloud Logging können Sie wichtige Ereignisse und Entscheidungen Ihrer KI-Systeme protokollieren. Die Logs bieten einen Audit-Trail, mit dem Sie die Leistung des Systems nachvollziehen und Bereiche für Verbesserungen identifizieren können.
Mit Error Reporting können Sie Fehler, die von den KI-Systemen gemacht wurden, systematisch analysieren. Diese Analyse kann Muster aufdecken, die auf zugrunde liegende Verzerrungen oder Bereiche hinweisen, in denen das Modell weiter verfeinert werden muss.
Differential Privacy implementieren
Fügen Sie während des Modelltrainings, Rauschen zu den Daten hinzu, um die Identifizierung einzelner Datenpunkte zu erschweren, aber dem Modell dennoch zu ermöglichen, effektiv zu lernen. Mit SQL in BigQuery, können Sie die Ergebnisse einer Abfrage mit differenziell privaten Aggregationentransformieren.