Bonnes pratiques pour la sécurité des charges de travail d'IA sur GKE

Ce document fournit des bonnes pratiques aux équipes de plate-forme, aux ingénieurs en sécurité et aux architectes cloud qui déploient des charges de travail d'IA sur Google Kubernetes Engine (GKE). Vous pouvez utiliser GKE pour protéger votre propriété intellectuelle (PI) propriétaire, comme les pondérations de modèles, préserver la réputation de votre marque en filtrant le contenu et améliorer la conformité réglementaire.

Mettez en œuvre ces bonnes pratiques en plus des autres bonnes pratiques de sécurité pour les charges de travail GKE et d'IA, comme les suivantes :

Comprendre vos responsabilités en matière de sécurité

La posture de sécurité de vos charges de travail d'IA dépend de plusieurs couches de votre environnement, comme votre infrastructure Google Cloud et les modèles que vous utilisez. Le tableau suivant décrit ces couches, les personnes responsables de la sécurisation de chaque couche et les responsabilités en matière de sécurité pour cette couche :

intégrée Description Responsabilités
Infrastructure L'infrastructure sous-jacente, telle que les machines virtuelles (VM), les composants réseau et le matériel de stockage sur lesquels s'exécutent vos charges de travail d'IA, Google Cloud possède l'infrastructure et fournit une base de sécurité solide.

Les administrateurs de plate-forme de votre organisation mettent en œuvre des contrôles pour améliorer la sécurité dans les domaines suivants :

  • Protection contre les attaques par injection de prompt
  • Chiffrement des données
  • Authentification et autorisation des utilisateurs et des charges de travail
  • Sécurité des sorties
  • Isolation du matériel et des locataires pour les environnements mutualisés
  • Limitation du débit dans les environnements mutualisés
  • Collecte des journaux et des métriques
Modèle Le modèle, les pondérations du modèle, le pipeline d'entraînement et les propriétés de sécurité. Si vous exécutez des modèles que vous avez entraînés ou affinés, vous êtes responsable de la sécurisation de la couche de modèle. Si vous exécutez des modèles gérés de fournisseurs tiers (tels que Gemini), le fournisseur est responsable de la sécurité du modèle.

Au niveau de la couche de modèle, le propriétaire du modèle est responsable de la sécurité dans les domaines suivants :

  • Intégrité du modèle
  • Protection de la pondération du modèle
  • Propriétés de sécurité des modèles
Application Les requêtes, le code, les instructions système et l'expérience de l'utilisateur final. Les opérateurs d'applications et les administrateurs de plate-forme de votre organisation sont responsables de la sécurité au niveau de la couche Application.

Au niveau de la couche application, les opérateurs d'applications, les développeurs et les administrateurs de plate-forme sont responsables de la sécurité dans les domaines suivants :

  • Protection contre les attaques par injection de prompt
  • Traitement des données d'application
  • Sécurité des contenus au niveau de la couche Application
  • Isolation et bac à sable des charges de travail

Vous appliquez des contrôles pour sécuriser les couches dont vous êtes responsable. Les exemples suivants illustrent les types de déploiement courants pour les clients GKE et les responsabilités de sécurité correspondantes pour ces déploiements :

  • Vous exécutez un modèle géré, tel que Gemini : vous appliquez des contrôles au niveau de l'infrastructure et des applications. Même lorsque vous utilisez un modèle géré doté de filtres de sécurité intégrés, vous êtes toujours responsable des défenses contre l'injection d'instructions nécessaires pour protéger la logique de votre application spécifique.
  • Vous exécutez votre propre modèle : si vous exécutez un modèle affiné, un modèle Open Source ou un modèle que vous avez entraîné, vous êtes responsable de la sécurité à chaque niveau.
  • Vous êtes un fournisseur de services d'IA multilocataire : si vous fournissez des services d'IA à vos propres utilisateurs finaux en exécutant votre modèle sur GKE et en exposant des points de terminaison d'inférence à plusieurs locataires, vous êtes responsable des contrôles supplémentaires. Ces contrôles multitenants incluent l'isolation logique et physique des locataires (tels que les pools de nœuds, les espaces de noms et les règles réseau dédiés), la limitation du débit par locataire et le chiffrement des données des locataires au repos à l'aide de clés de chiffrement gérées par le client (CMEK) distinctes.

Améliorer la sécurité au niveau de l'infrastructure

Au niveau de l'infrastructure, Google Cloud et GKE fournissent une posture de sécurité de base qui implémente divers contrôles de sécurité par défaut. Pour améliorer la sécurité de votre infrastructure pour les charges de travail d'IA, vous configurez des contrôles de sécurité supplémentaires en fonction du type de charges de travail d'IA que vous exécutez et des objectifs de sécurité spécifiques que vous souhaitez atteindre. Les sections suivantes décrivent les produits et services que vous pouvez utiliser pour protéger les différents composants de votre infrastructure d'IA.

Protéger les nœuds GKE

Utilisez les services suivants pour protéger les données sensibles, telles que les charges de travail d'inférence qui traitent les requêtes et les réponses, ou les charges de travail d'entraînement qui accèdent aux modèles propriétaires :

  • Chiffrez les données sensibles en cours d'utilisation avec l'attestation matérielle : exécutez vos charges de travail d'inférence sur les nœuds Confidential Google Kubernetes Engine, en étendant le chiffrement de la mémoire au niveau matériel aux accélérateurs, y compris les GPU et les TPU, en plus des processeurs AMD SEV-SNP ou Intel TDX. Utilisez des nœuds Confidential GKE Node pour les déploiements réglementés et les charges de travail d'inférence sensibles. Les nœuds Confidential GKE Node ne protègent pas les charges de travail contre les failles au niveau de l'application ni contre les utilisateurs autorisés qui ont accès au niveau du nœud.

    Pour les fournisseurs dont les clients ont des exigences d'isolation strictes (comme les charges de travail souveraines), GKE Hypercluster fournit une attestation cryptographique indiquant que même l'opérateur d'infrastructure sous-jacente,Google Cloud, ne peut pas inspecter les données des locataires.

  • Réduisez le risque d'usurpation d'identité des nœuds : exécutez les charges de travail sur des nœuds GKE protégés, qui fournissent des attestations vérifiables de l'intégrité et de l'identité des nœuds. Utilisez des nœuds GKE protégés pour tous les types de charges de travail.

  • Éliminez l'utilisation d'identifiants statiques pour les charges de travail : utilisez la fédération d'identité de charge de travail pour GKE afin d'accéder aux services Google Cloud à partir du code de votre application en utilisant des identifiants fédérés éphémères et en empêchant l'exposition des métadonnées Compute Engine non essentielles aux applications. Utilisez la fédération d'identité de charge de travail pour GKE dans tous les clusters de production, en particulier lorsque vous devez accéder à des données qui se trouvent dans des services en dehors du cluster.

Mettre en œuvre des contrôles réseau

Vous pouvez utiliser les fonctionnalités et produits suivants pour améliorer la sécurité du réseau pour les charges de travail d'IA :

  • Utilisez des plages d'adresses IP d'alias : les clusters de VPC natif utilisent des plages d'adresses IP d'alias pour acheminer le trafic entre les pods au lieu d'utiliser des routes statiques dans le réseau VPC. Utilisez toujours des clusters de VPC natif.

  • Restreignez l'accès réseau aux nœuds : utilisez des nœuds privés pour empêcher le trafic entre vos nœuds et l'Internet public par défaut. Les points de terminaison d'inférence qui doivent être exposés doivent disposer d'un service géré tel que Google Cloud Armor entre les points de terminaison et Internet.

  • Refuser le trafic dans le cluster par défaut : utilisez Kubernetes NetworkPolicies pour refuser le trafic entre les pods, entre les espaces de noms et le trafic de sortie vers Internet. N'autorisez le trafic réseau que pour les applications qui nécessitent un accès spécifique.

  • Ajoutez une protection de périphérie aux points de terminaison Internet : vous pouvez utiliser Google Cloud Armor pour protéger les points de terminaison d'inférence exposés à Internet en implémentant la limitation du débit, la protection contre les attaques DDoS, le contrôle des accès basé sur la géolocalisation et l'atténuation des attaques de couche 7. Si vous disposez d'API d'IA publiques, utilisez Cloud Armor pour gérer les attaques volumétriques et de couche application avant qu'elles n'atteignent votre infrastructure de calcul. Associez Cloud Armor à des nœuds privés pour optimiser la sécurité des points de terminaison d'inférence.

  • Empêchez l'exfiltration de données lors d'une attaque : utilisez VPC Service Controls pour créer un périmètre de sécurité autour de vos ressources Google Cloud . Même si les identifiants sont compromis, les pirates informatiques ne peuvent pas extraire de données en dehors du périmètre. Utilisez VPC Service Controls pour les charges de travail réglementées.

Gérer les identités et les accès

Pour identifier les utilisateurs et contrôler l'accès aux clusters et aux charges de travail, utilisez les mécanismes d'autorisation suivants :

  • Contrôlez l'accès aux ressources Google Cloud  : utilisez les stratégies d'accèsGoogle CloudIdentity and Access Management (IAM) pour contrôler les comptes principaux qui peuvent interagir avec les clusters et les nœuds GKE.

  • Contrôler l'accès aux ressources Kubernetes dans les clusters : utilisez les règles de contrôle des accès basé sur les rôles (RBAC) de Kubernetes pour contrôler ce que les différents principaux peuvent faire avec les ressources de l'API Kubernetes dans chaque cluster.

  • Configurez un accès Zero Trust aux points de terminaison d'inférence et aux interfaces d'administration : utilisez un service tel que Chrome Enterprise Premium pour configurer l'accès des utilisateurs en fonction de l'identité et de la posture de l'appareil plutôt que de la topologie du réseau.

Gérer les clés et les secrets

Conservez toutes vos clés de chiffrement et vos données sensibles, telles que les clés API et les identifiants, en dehors du cluster. Les produits suivants peuvent vous aider à stocker ces ressources :

  • Gérer les clés de chiffrement : utilisez Cloud Key Management Service pour gérer toutes les clés de chiffrement. Vous pouvez également créer des clés de chiffrement gérées par le client (CMEK) dans Cloud KMS pour chiffrer les données avec des clés que vous contrôlez. Cette opération est souvent requise dans les secteurs réglementés.

  • Stocker les données d'application sensibles : utilisez Secret Manager pour stocker les données sensibles utilisées par les charges de travail, telles que les secrets d'application, les clés API et les identifiants. Pour lire ces données à partir des pods, utilisez la fédération d'identité de charge de travail pour GKE afin d'accorder à des identités de charge de travail spécifiques l'accès aux seules ressources dont les pods ont besoin.

Améliorer la sécurité de la chaîne d'approvisionnement

Les services Google Cloud suivants peuvent vous aider à améliorer la sécurité tout au long de la chaîne d'approvisionnement logicielle :

  • Recherchez les failles dans les images de conteneurs : stockez vos images de conteneurs dans des dépôts Artifact Registry pour lesquels l'analyse des failles est activée par défaut. Activez la détection continue des CVE sur chaque image de votre registre.

  • Autoriser uniquement les images vérifiées à atteindre la production : utilisez l'autorisation binaire pour appliquer l'autorisation basée sur des règles des signatures d'images de conteneurs au moment du déploiement. Seules les images attestées sont déployées en production.

  • Configurer la détection de sécurité et la gestion de la posture : utilisez Security Command Center pour afficher les résultats de la détection des menaces et de la gestion de la posture spécifiques à l'IA, comme les points de terminaison Gemini Enterprise Agent Platform mal configurés ou les buckets de données d'entraînement exposés. Security Command Center intègre ces résultats d'IA aux failles Artifact Registry et à l'analyse IAM pour vous offrir une vue complète de votre parc.

  • Suivez les artefacts d'IA : utilisez des outils de nomenclature conçus pour les charges de travail d'IA Kubernetes, tels que k8s-aibom, pour générer des inventaires complets de vos modèles, ensembles de données et frameworks.

Améliorer la sécurité au niveau de la couche de modèle

Si vous exécutez des modèles que vous avez entraînés ou affinés, ou des modèles Open Source que vous avez configurés, vous devez configurer différents contrôles pour améliorer la sécurité du modèle. Si vous exécutez des modèles gérés de fournisseurs tiers, cette couche ne s'applique pas à vous. Les sections suivantes décrivent ce que vous pouvez faire pour améliorer l'intégrité, la confidentialité et la sécurité de vos modèles.

Améliorer l'intégrité du modèle

Améliorez l'intégrité de vos modèles afin de pouvoir détecter toute tentative de falsification avant que le modèle ne soit accessible au niveau d'un point de terminaison d'inférence. Les consignes suivantes peuvent vous aider à améliorer l'intégrité du modèle :

  • Signez vos artefacts de modèle : signez de manière cryptographique les pondérations du modèle avant de les publier dans votre registre. Lorsque vous déployez le modèle, validez la signature à l'aide des attestations d'autorisation binaire. La signature et la vérification des artefacts de votre modèle vous aident à identifier si des modèles ont été falsifiés pendant le stockage ou le transfert, et vous fournissent une chaîne de responsabilité vérifiable pour les modèles de production.
  • Rechercher les modifications post-entraînement : le scanner de modèle d'activation (AMS) Open Source détecte les modèles qui ont été modifiés après l'entraînement (par exemple, pour ajouter des portes dérobées, des perturbations de poids ou des réglages précis non autorisés) en analysant les signatures d'activation du modèle par rapport à une référence. Exécutez un outil d'analyse tel qu'AMS dans votre pipeline CI/CD avant de publier vos modèles dans les registres de production. Pour les modèles à forte valeur ou réglementés, planifiez des analyses AMS périodiques sur les artefacts de production afin de détecter toute falsification survenue après la publication initiale.

Protéger la confidentialité des modèles

Si vous disposez de pondérations de modèle sensibles, telles que des modèles affinés propriétaires, des modèles entraînés sur des données réglementées ou de la propriété intellectuelle concurrentielle, suivez les consignes ci-dessous pour protéger les pondérations :

  • Chiffrez les pondérations au repos : stockez les pondérations dans un stockage d'objets chiffré, comme dans des buckets Cloud Storage, avec un accès IAM limité. Par défaut, Cloud Storage chiffre le contenu client au repos. Vous pouvez également utiliser des CMEK pour chiffrer les données avec des clés que vous contrôlez, ce qui est souvent une exigence dans les secteurs réglementés. Pour en savoir plus, consultez la page Options de chiffrement des données dans la documentation Cloud Storage.

  • Protéger les pondérations en cours d'utilisation : exécutez des modèles sur des nœuds Confidential GKE pour vous assurer que les pondérations sont chiffrées en mémoire pendant l'inférence. Les nœuds Confidential GKE Node peuvent vous aider à protéger votre propriété intellectuelle contre les compromissions au niveau de l'hyperviseur et les accès non autorisés par l'opérateur d'infrastructure. Les nœuds Confidential GKE Node ne protègent pas contre les failles au niveau de l'application ni contre les utilisateurs autorisés ayant accès au niveau du nœud.

  • Contrôler tous les accès aux pondérations : enregistrez tous les accès aux artefacts de modèle dans le stockage. Utilisez des stratégies d'accès IAM pour limiter l'accès à des comptes de service et à des personnes spécifiques ayant un besoin d'accès documenté. Limitez strictement l'accès administratif au cluster, y compris l'accès au shell des conteneurs, l'accès SSH aux VM de nœuds ou le débogage au niveau des nœuds, en utilisant les règles Kubernetes RBAC et Chrome Enterprise Premium. Ces mesures peuvent vous aider à protéger les pondérations de modèle contre les utilisateurs qui disposent d'un accès au niveau du nœud, ce qui n'est pas couvert par les nœuds Confidential GKE.

Améliorer les propriétés de sécurité des modèles

Vous pouvez implémenter différents paramètres de sécurité pour les modèles pendant l'entraînement. Si vous entraînez ou affinez votre propre modèle, investissez dans une formation sur la sécurité adaptée au cas d'utilisation du modèle. Les propriétés de sécurité des modèles incluent le comportement de refus, l'entraînement à l'alignement et la résistance aux jailbreaks. Si vous utilisez un modèle pré-entraîné, choisissez-en un dont les propriétés de sécurité correspondent aux exigences de votre application.

Les développeurs et opérateurs d'applications peuvent implémenter divers contrôles au niveau de l'application pour améliorer la sécurité dans les domaines que le modèle ne peut pas couvrir.

Améliorer la sécurité au niveau de la couche d'application

C'est au niveau de la couche Application que les opérateurs et les développeurs ont le plus de contrôle sur les configurations de sécurité spécifiques à l'IA. Au niveau de la couche application, vous pouvez implémenter des contrôles de sécurité qui protègent les données, créent des requêtes bien formées et protègent les requêtes et les réponses. Ces contrôles sont généralement utiles pour les charges de travail d'inférence, qui gèrent les requêtes, les sessions et les réponses des utilisateurs. Les sections suivantes décrivent différents contrôles, produits et services qui peuvent vous aider à atteindre des objectifs de sécurité spécifiques au niveau de la couche Application.

Se défendre contre les menaces au niveau du contenu

Inspectez tous les prompts et toutes les réponses pour détecter les problèmes de sécurité tels que l'injection de prompts, l'exposition de données sensibles et les contenus nuisibles. Étant donné que les nœuds GKE sont conçus pour ne pas avoir accès au contenu, déployez Model Armor entre votre application et le point de terminaison d'inférence. Model Armor applique des principes spécifiques de gestion et de stockage des données conçus pour améliorer la confidentialité de vos données lors de l'analyse.

Protéger les prompts système

Filtrez les sorties pour détecter les fuites de requêtes et configurez la détection de l'exfiltration de données Model Armor pour identifier les schémas d'extraction. Pour les instructions très sensibles, traitez-les dans une invocation qui ne renvoie pas de texte à l'utilisateur.

Gérer les sessions et le routage

Lorsque vous exposez des points de terminaison d'inférence aux utilisateurs finaux, utilisez GKE Inference Gateway. Inference Gateway étend l'API Gateway pour acheminer le trafic en fonction de métriques et de données spécifiques aux charges de travail d'inférence d'IA. Vous pouvez autoscaler les charges de travail pour répondre à la demande et les intégrer à Model Armor et Apigee pour le filtrage de contenu, l'observabilité au niveau de la session et l'application des quotas.

Améliorer la sécurité des agents d'IA

Si votre charge de travail d'IA est un agent, vous avez besoin de contrôles supplémentaires au niveau de l'application, comme les suivants :

  • Restreignez l'accès aux API Google Cloud  : utilisez Workload Identity Federation for GKE avec des règles d'accès IAM pour limiter les API auxquelles vos pods de charge de travail d'agent peuvent accéder. Utilisez un compte de service Kubernetes dédié pour chaque agent et n'accordez à ce compte que les autorisations IAM dont la charge de travail a besoin.
  • Exécuter du code ou des outils non approuvés dans des bacs à sable : exécutez des agents qui exécutent du code généré ou interagissent avec des outils tiers non vérifiés dans des environnements de bac à sable à l'aide du bac à sable pour les agents. Agent Sandbox utilise un mécanisme d'isolation tel que GKE Sandbox ou Kata Containers pour se protéger contre les échappements de conteneurs.

Configurer l'observabilité et la réponse aux incidents

Collectez des journaux et surveillez différentes métriques pour identifier rapidement les attaques potentielles et limiter l'impact des exploits. Les sections suivantes fournissent des consignes qui peuvent vous aider à améliorer la détection et la réponse.

Collecter des journaux et des métriques

Pour identifier les menaces le plus rapidement possible, implémentez autant de bonnes pratiques d'observabilité que possible parmi les suivantes :

Détecter les menaces spécifiques à l'IA

Configurez des alertes dans Logging et Cloud Monitoring pour détecter diverses menaces spécifiques à l'IA. Les règles d'alerte spécifiques que vous configurez dépendent des types de journaux que vous collectez et des exigences de votre organisation. Pour en savoir plus sur les règles d'alerte disponibles, consultez Comparaison des options d'alerte. Configurez des alertes pour les menaces spécifiques à l'IA, telles que les suivantes :

Menaces et signaux spécifiques à l'IA
Injection de prompt Journaux Model Armor pour la désinfection ou le refus des requêtes
Extraction des prompts système Model Armor et anomalies de succès de cache (hit)
Exposition de données sensibles Journaux de réponse Model Armor
Utilisation abusive des coûts d'inférence Utilisation des jetons au niveau de la session à partir des métriques Inference Gateway
Manipulation de session Vitesse des nouvelles sessions par locataire à partir des métriques Inference Gateway
Empreinte de modèle Modèles de sondage des capacités
Canal auxiliaire de timing Atténuation architecturale (partitionnement du cache)

Établir un processus de réponse aux incidents

La façon dont vous répondez aux différents incidents dépend de la structure de votre organisation et de vos exigences en matière de sécurité. Les consignes suivantes décrivent ce qu'il faut faire lorsque vous détectez des types spécifiques de menaces pour vos charges de travail d'IA :

  • Détections de contenu dans Model Armor : bloquez la requête, documentez l'événement et configurez une alerte pour vous avertir si le taux dépasse un seuil. Configurez une limitation du débit pour les utilisateurs qui ont commis des infractions répétées.

  • Détections d'inférence : limitez les locataires à l'aide d'Inference Gateway. Mettre fin aux sessions en cas d'utilisation abusive confirmée.

  • Corrélation multicouche : une détection Model Armor associée à un schéma d'utilisation abusive de jetons indique une utilisation abusive coordonnée. Définissez des règles de corrélation et identifiez un seuil de confiance au-delà duquel le risque d'alerte de faux positif est faible. Automatisez la fin des sessions qui dépassent ce seuil.

Implémenter la sécurité tout au long du cycle de vie du déploiement

Optimisez la sécurité de vos déploiements d'IA tout au long de leur cycle de vie. Implémentez des contrôles qui protègent une ou plusieurs couches au cours de certaines étapes du cycle de vie. Les sections suivantes fournissent des consignes pour chaque étape du cycle de vie.

Déployer l'infrastructure

Lorsque vous créez ou concevez l'infrastructure qui exécute vos charges de travail d'IA, implémentez autant de contrôles que possible parmi les suivants :

Catégorie
Nœuds GKE
  • Activez Workload Identity Federation for GKE sur tous les clusters de production.
  • Configurez des nœuds Confidential GKE Node pour les charges de travail d'inférence sensibles.
  • Activez les nœuds GKE protégés pour toutes les charges de travail.
Mise en réseau
  • Utilisez des clusters de VPC natif.
  • Activez les nœuds privés.
  • Refusez le trafic du cluster par défaut à l'aide de NetworkPolicies.
  • Créez des périmètres VPC Service Controls pour les charges de travail réglementées.
  • Déployez Model Armor pour les points de terminaison d'inférence.
  • Configurez Inference Gateway pour l'équilibrage de charge et la gestion des sessions.
Gestion de l'authentification et des accès
  • Utilisez Chrome Enterprise Premium pour l'accès administratif humain.
  • Utilisez les règles d'accès IAM et Kubernetes RBAC pour l'autorisation.
Gestion des données sensibles
  • Stockez tous les secrets, tels que les clés API, dans Secret Manager.
  • Stockez vos images de conteneurs dans Artifact Registry et activez l'analyse des failles.
Observabilité
  • Activez Security Command Center.
  • Configurez la journalisation et la surveillance.
  • Définissez un processus de réponse aux incidents.

Exploiter les charges de travail et l'infrastructure

Lorsque vous déployez vos charges de travail d'IA et exécutez un système de production, implémentez autant de contrôles que possible parmi les suivants :

Catégorie
Sécurité des charges de travail
  • Appliquez des règles relatives aux images de conteneurs avec l'autorisation binaire.
  • Signez et validez les artefacts de modèle au moment du déploiement.
  • Exécutez AMS dans le pipeline CI du modèle.
  • Validez toutes les sorties structurées.
  • Isolez les agents qui exécutent du code dans des bacs à sable.
Mise en réseau
  • Réglez les profils Model Armor.
  • Ajustez les paramètres de la passerelle d'inférence.
Protection des données sensibles Utilisez CMEK pour chiffrer les données avec vos propres clés dans les environnements réglementés.
Observabilité
  • Configurer et agréger la journalisation d'audit
  • Générez des inventaires de la chaîne d'approvisionnement par IA.

Gouverner les déploiements à grande échelle

À mesure que votre organisation se développe, implémentez les contrôles suivants pour automatiser la gestion de la sécurité :

  • Configurez des garde-fous au niveau de l'organisation à l'aide du service de règles de l'organisation.
  • Appliquez une règle au moment de l'admission à l'aide des webhooks d'admission Kubernetes.
  • Automatisez la première réponse pour les détections à haute fiabilité.
  • Établissez une corrélation SIEM multicouche et des références comportementales par locataire.

Récapitulatif des bonnes pratiques

Le tableau suivant récapitule les bonnes pratiques recommandées dans ce document :

Sujet
Améliorer la sécurité au niveau de l'infrastructure Protégez les nœuds GKE, implémentez des contrôles réseau, gérez les identités et les accès, gérez les clés et les secrets, et améliorez la sécurité de la chaîne d'approvisionnement.
Améliorer la sécurité au niveau de la couche de modèle Améliorer l'intégrité, protéger la confidentialité et améliorer les propriétés de sécurité des modèles.
Améliorer la sécurité au niveau de la couche d'application Protégez-vous contre les menaces au niveau du contenu, protégez les invites système, gérez les sessions et le routage, et améliorez la sécurité des agents d'IA.
Configurer l'observabilité et la réponse aux incidents Collectez des journaux et des métriques, détectez les menaces spécifiques à l'IA et établissez un processus de réponse aux incidents.
Implémenter la sécurité tout au long du cycle de vie du déploiement Déployez l'infrastructure, exploitez les charges de travail et l'infrastructure, et gérez les déploiements à grande échelle.

Étapes suivantes