Ce principe du pilier "Sécurité" du Google Cloud Well-Architected Framework fournit des recommandations pour vous aider à sécuriser vos systèmes d'IA. Ces recommandations sont conformes au framework d'IA sécurisé (SAIF), de Google, qui fournit une approche pratique pour répondre aux préoccupations liées à la sécurité et aux risques des systèmes d'IA. Le SAIF est un framework conceptuel qui vise à fournir des normes à l'échelle du secteur pour créer et déployer l'IA de manière responsable.
Présentation du principe
Pour vous assurer que vos systèmes d'IA répondent à vos exigences en matière de sécurité, de confidentialité et de conformité, vous devez adopter une stratégie holistique qui commence par la conception initiale et s'étend au déploiement et aux opérations. Vous pouvez mettre en œuvre cette stratégie holistique en appliquant les six éléments fondamentaux du SAIF.
Google utilise l'IA pour améliorer les mesures de sécurité, par exemple en identifiant les menaces, en automatisant les tâches de sécurité et en améliorant les capacités de détection, tout en laissant les humains prendre les décisions critiques.
Google met l'accent sur une approche collaborative pour faire progresser la sécurité de l'IA. Cette approche implique de collaborer avec les clients, les secteurs et les gouvernements pour améliorer les consignes du SAIF et proposer des ressources pratiques et exploitables.
Les recommandations pour mettre en œuvre ce principe sont regroupées dans les sections suivantes :
Recommandations pour utiliser l'IA de manière sécurisée
Pour utiliser l'IA de manière sécurisée, vous avez besoin de contrôles de sécurité fondamentaux et de contrôles de sécurité spécifiques à l'IA. Cette section présente un aperçu des recommandations permettant de s'assurer que vos déploiements d'IA et de ML répondent aux exigences de sécurité, de confidentialité et de conformité de votre organisation. Pour obtenir une vue d'ensemble des principes et recommandations d'architecture spécifiques aux charges de travail d'IA et de ML dans Google Cloud, consultez la section Perspective sur l'IA et le ML du framework Well-Architected.
Définir des objectifs et des exigences clairs pour l'utilisation de l'IA
Cette recommandation concerne les domaines d'intérêt suivants :
- Gouvernance, risques et conformité dans le cloud
- Sécurité de l'IA et du ML
Cette recommandation est conforme à l'élément du SAIF qui consiste à contextualiser les risques liés aux systèmes d'IA dans les processus métier environnants. Lorsque vous concevez et faites évoluer des systèmes d'IA, il est important de comprendre vos objectifs commerciaux, vos risques et vos exigences de conformité spécifiques.
Sécuriser les données et éviter leur perte ou leur mauvaise gestion
Cette recommandation concerne les domaines d'intérêt suivants :
- Sécurité de l'infrastructure
- Gestion de l'authentification et des accès
- Sécurité des données
- Sécurité des applications
- Sécurité de l'IA et du ML
Cette recommandation est conforme aux éléments suivants du SAIF :
- Développer des bases solides pour la sécurité de l'écosystème d'IA. Cet élément inclut la collecte des données, le stockage, le contrôle des accès et la protection contre l'empoisonnement des données.
- Contextualiser les risques liés aux systèmes d'IA. Mettre l'accent sur la sécurité des données pour soutenir les objectifs commerciaux et la conformité.
Sécuriser les pipelines d'IA et les protéger contre la falsification
Cette recommandation concerne les domaines d'intérêt suivants :
- Sécurité de l'infrastructure
- Gestion de l'authentification et des accès
- Sécurité des données
- Sécurité des applications
- Sécurité de l'IA et du ML
Cette recommandation est conforme aux éléments suivants du SAIF :
- Développer des bases solides pour la sécurité de l'écosystème d'IA. Pour établir un système d'IA sécurisé, sécurisez votre code et vos artefacts de modèle.
- Adapter les commandes pour des boucles de rétroaction plus rapides. Étant donné qu'il est important pour l'atténuation et la réponse aux incidents, suivez vos assets et vos exécutions de pipeline.
Déployer des applications sur des systèmes sécurisés à l'aide d'outils et d'artefacts sécurisés
Cette recommandation concerne les domaines d'intérêt suivants :
- Sécurité de l'infrastructure
- Gestion de l'authentification et des accès
- Sécurité des données
- Sécurité des applications
- Sécurité de l'IA et du ML
L'utilisation de systèmes sécurisés et d'outils et d'artefacts validés dans les applications basées sur l'IA est conforme à l'élément du SAIF qui consiste à étendre des bases solides pour la sécurité de l'écosystème et de la chaîne d'approvisionnement de l'IA. Cette recommandation peut être mise en œuvre en procédant comme suit :
- Mettre en œuvre un environnement sécurisé pour l'entraînement et le déploiement du ML
- Utiliser des images de conteneurs validées
- Appliquer les consignes des niveaux de la chaîne d'approvisionnement pour les artefacts logiciels (SLSA)
Protéger et surveiller les entrées
Cette recommandation concerne les domaines d'intérêt suivants :
- Journalisation, audit et surveillance
- Opérations de sécurité
- Sécurité de l'IA et du ML
Cette recommandation est conforme à l'élément du SAIF qui consiste à étendre la détection et la réponse pour inclure l'IA dans la gestion des menaces d'une entreprise. Pour éviter les problèmes, il est essentiel de gérer les invites pour les systèmes d'IA générative, de surveiller les entrées et de contrôler l'accès des utilisateurs.
Recommandations pour la gouvernance de l'IA
Toutes les recommandations de cette section concernent le domaine d'intérêt suivant : gouvernance, risques et conformité dans le cloud.
Google Cloud propose un ensemble d'outils et de services robustes que vous pouvez utiliser pour créer des systèmes d'IA responsables et éthiques. Nous proposons également un framework de règles, de procédures et de considérations éthiques qui peuvent guider le développement, le déploiement et l'utilisation des systèmes d'IA.
Comme le reflètent nos recommandations, l'approche de Google en matière de gouvernance de l'IA est guidée par les principes suivants :
- Équité
- Transparence
- Responsabilité
- Confidentialité
- Sécurité
Utiliser des indicateurs d'équité
Vertex AI peut détecter les biais lors de la collecte des données ou du processus d'évaluation post-entraînement. Vertex AI provides des métriques d'évaluation de modèle telles que biais des données et biais du modèle pour vous aider à évaluer les biais de votre modèle.
Ces métriques sont liées à l'équité dans différentes catégories telles que la race, le genre et la classe. Toutefois, l'interprétation des écarts statistiques n'est pas un exercice simple, car les différences entre les catégories peuvent ne pas être le résultat d'un biais ou d'un signal de préjudice.
Utiliser Vertex Explainable AI
Pour comprendre comment les modèles d'IA prennent des décisions, utilisez Vertex Explainable AI. Cette fonctionnalité vous aide à identifier les biais potentiels qui peuvent être masqués dans la logique du modèle.
Cette fonctionnalité d'explicabilité est intégrée à BigQuery ML et Vertex AI, qui fournissent des explications basées sur les caractéristiques. Vous pouvez effectuer l'explicabilité dans BigQuery ML ou enregistrer votre modèle dans Vertex AI et effectuer l'explicabilité dans Vertex AI.
Suivre la traçabilité des données
Suivez l'origine et la transformation des données utilisées dans vos systèmes d'IA. Ce suivi vous aide à comprendre le parcours des données et à identifier les sources potentielles de biais ou d'erreurs.
La traçabilité des données est une fonctionnalité de Knowledge Catalog qui vous permet de suivre la façon dont les données transitent par vos systèmes : leur origine, leur destination, et les transformations qui leur sont appliquées.
Établir la responsabilité
Établissez une responsabilité claire pour le développement, le déploiement et les résultats de vos systèmes d'IA.
Utilisez Cloud Logging pour enregistrer les événements clés et les décisions prises par vos systèmes d'IA. Les journaux fournissent une piste d'audit pour vous aider à comprendre les performances du système et à identifier les points à améliorer.
Utilisez Error Reporting pour analyser systématiquement les erreurs commises par les systèmes d'IA. Cette analyse peut révéler des schémas qui indiquent des biais sous-jacents ou des domaines dans lesquels le modèle doit être affiné.
Mettre en œuvre la confidentialité différentielle
Lors de l'entraînement du modèle, ajoutez du bruit aux données afin de rendre difficile l'identification des points de données individuels, mais tout en permettant au modèle d'apprendre efficacement. Avec SQL dans BigQuery, vous pouvez transformer les résultats d'une requête avec des agrégations à confidentialité différentielle .