Ce principe du pilier de sécurité du Google Cloud Well-Architected Framework fournit des recommandations pour vous aider à sécuriser vos systèmes d'IA. Ces recommandations sont conformes au framework d'IA sécurisé (SAIF) de Google, qui fournit une approche pratique pour répondre aux problèmes de sécurité et de risque des systèmes d'IA. Le SAIF est un framework conceptuel qui vise à fournir des normes à l'échelle du secteur pour créer et déployer l'IA de manière responsable.
Présentation du principe
Pour vous assurer que vos systèmes d'IA répondent à vos exigences de sécurité, de confidentialité et de conformité, vous devez adopter une stratégie globale qui commence par la conception initiale et s'étend au déploiement et aux opérations.
Google utilise l'IA pour renforcer les mesures de sécurité, par exemple en identifiant les menaces, en automatisant les tâches de sécurité et en améliorant les capacités de détection, tout en maintenant un human-in-the-loop (avec intervention humaine) pour les décisions critiques.
Google privilégie une approche collaborative pour faire progresser la sécurité de l'IA. Cette approche implique de collaborer avec les clients, les secteurs et les gouvernements pour améliorer les consignes du SAIF et proposer des ressources pratiques et exploitables.
Les recommandations pour mettre en œuvre ce principe sont regroupées dans les sections suivantes :
Recommandations pour utiliser l'IA de manière sécurisée
Pour utiliser l'IA de manière sécurisée, vous avez besoin de contrôles de sécurité de base et de contrôles de sécurité spécifiques à l'IA. Cette section présente les recommandations permettant de s'assurer que vos déploiements d'IA et de ML répondent aux exigences de sécurité, de confidentialité et de conformité de votre organisation. Pour obtenir une présentation des principes et des recommandations d'architecture spécifiques aux charges de travail d'IA et de ML dans Google Cloud, consultez la perspective IA et ML dans le Well-Architected Framework.
Définir des objectifs et des exigences clairs pour l'utilisation de l'IA
Cette recommandation s'applique aux domaines d'intérêt suivants :
- Gouvernance, risques et conformité dans le cloud
- Sécurité de l'IA et du ML
Cette recommandation s'aligne sur l'élément du SAIF concernant la contextualisation des risques liés aux systèmes d'IA dans les processus métier connexes. Lorsque vous concevez et faites évoluer des systèmes d'IA, il est important de comprendre vos objectifs commerciaux, vos risques et vos exigences de conformité spécifiques.
Sécuriser les données et éviter les pertes ou les erreurs de manipulation
Cette recommandation s'applique aux domaines d'intérêt suivants :
- Sécurité de l'infrastructure
- Gestion de l'authentification et des accès
- Sécurité des données
- Sécurité des applications
- Sécurité de l'IA et du ML
Cette recommandation s'aligne sur les éléments SAIF suivants :
- Développer des bases solides pour la sécurité de l'écosystème d'IA Cet élément inclut la collecte, le stockage et le contrôle des accès aux données, ainsi que la protection contre l'empoisonnement des données.
- Contextualisez les risques liés aux systèmes d'IA. Mettre l'accent sur la sécurité des données pour soutenir les objectifs d'entreprise et la conformité
Sécuriser les pipelines d'IA et les protéger contre la falsification
Cette recommandation s'applique aux domaines d'intérêt suivants :
- Sécurité de l'infrastructure
- Gestion de l'authentification et des accès
- Sécurité des données
- Sécurité des applications
- Sécurité de l'IA et du ML
Cette recommandation s'aligne sur les éléments SAIF suivants :
- Développer des bases solides pour la sécurité de l'écosystème d'IA Pour établir un système d'IA sécurisé, il est essentiel de sécuriser votre code et vos artefacts de modèle.
- Adapter les contrôles pour accélérer les boucles de rétroaction Comme cela est important pour la correction et la réponse aux incidents, suivez vos éléments et les exécutions de pipeline.
Déployer des applications sur des systèmes sécurisés à l'aide d'outils et d'artefacts sécurisés
Cette recommandation s'applique aux domaines d'intérêt suivants :
- Sécurité de l'infrastructure
- Gestion de l'authentification et des accès
- Sécurité des données
- Sécurité des applications
- Sécurité de l'IA et du ML
L'utilisation de systèmes sécurisés, d'outils et d'artefacts validés dans les applications basées sur l'IA s'aligne sur l'élément du SAIF concernant le développement de bases solides pour la sécurité de l'écosystème et de la chaîne d'approvisionnement de l'IA. Pour appliquer cette recommandation, procédez comme suit :
- Implémenter un environnement sécurisé pour l'entraînement et le déploiement de ML
- Utiliser des images de conteneurs validées
- Appliquer les consignes SLSA (Supply-chain Levels for Software Artifacts)
Protéger et surveiller les entrées
Cette recommandation s'applique aux domaines d'intérêt suivants :
- Journalisation, audit et surveillance
- Opérations de sécurité
- Sécurité de l'IA et du ML
Cette recommandation s'aligne sur l'élément du SAIF concernant l'extension de la détection et de la réponse pour intégrer l'IA aux stratégies de protection contre les menaces pesant sur les organisations. Pour éviter les problèmes, il est essentiel de gérer les requêtes pour les systèmes d'IA générative, de surveiller les entrées et de contrôler l'accès des utilisateurs.
Recommandations pour la gouvernance de l'IA
Toutes les recommandations de cette section concernent le domaine d'intérêt suivant : gouvernance, risque et conformité dans le cloud.
Google Cloud propose un ensemble d'outils et de services robustes que vous pouvez utiliser pour créer des systèmes d'IA responsables et éthiques. Nous proposons également un framework de règles, de procédures et de considérations éthiques qui peut guider le développement, le déploiement et l'utilisation des systèmes d'IA.
Comme l'indiquent nos recommandations, l'approche de Google en matière de gouvernance de l'IA est guidée par les principes suivants :
- Équité
- Transparence
- Responsabilité
- Confidentialité
- Sécurité
Utiliser des indicateurs d'équité
Gemini Enterprise Agent Platform peut détecter les biais lors de la collecte des données ou du processus d'évaluation post-entraînement. Agent Platform fournit des métriques d'évaluation de modèle telles que le biais dans les données et le biais du modèle pour vous aider à évaluer les biais de votre modèle.
Ces métriques sont liées à l'équité entre différentes catégories telles que l'origine ethnique, le genre et la classe. Toutefois, l'interprétation des écarts statistiques n'est pas un exercice simple, car les différences entre les catégories peuvent ne pas être le résultat d'un biais ou d'un signal de préjudice.
Utiliser l'IA explicable
Pour comprendre comment vos modèles d'IA prennent des décisions, utilisez des techniques d'explicabilité telles que les attributions de caractéristiques. L'explicabilité vous aide à identifier les biais potentiels qui pourraient être cachés dans la logique du modèle.
Par exemple, vous pouvez générer des explications basées sur les caractéristiques dans BigQuery ML et des explications tabulaires dans Agent Platform.
Suivre la traçabilité des données
Suivez l'origine et la transformation des données utilisées dans vos systèmes d'IA. Ce suivi vous aide à comprendre le parcours des données et à identifier les sources potentielles de biais ou d'erreur.
La traçabilité des données est une fonctionnalité de Knowledge Catalog qui vous permet de suivre la façon dont les données transitent par vos systèmes : leur origine, leur destination, et les transformations qui leur sont appliquées.
Établir les responsabilités
Établissez des responsabilités claires pour le développement, le déploiement et les résultats de vos systèmes d'IA.
Utilisez Cloud Logging pour consigner les événements clés et les décisions prises par vos systèmes d'IA. Les journaux fournissent une piste d'audit pour vous aider à comprendre les performances du système et à identifier les points à améliorer.
Utilisez Error Reporting pour analyser systématiquement les erreurs commises par les systèmes d'IA. Cette analyse peut révéler des schémas qui indiquent des biais sous-jacents ou des domaines dans lesquels le modèle doit être affiné.
Implémenter la confidentialité différentielle
Pendant l'entraînement du modèle, ajoutez du bruit aux données afin de rendre difficile l'identification des points de données individuels, tout en permettant au modèle d'apprendre efficacement. Avec SQL dans BigQuery, vous pouvez transformer les résultats d'une requête avec des agrégations différentiellement privées.