Examiner la sécurité de l'IA

La protection de l'IA fournit des outils pour visualiser l'inventaire des assets d'IA de votre organisation, examiner les résultats de sécurité et consulter les mesures d'atténuation proposées pour les risques et les menaces. Ce guide explique comment gérer la sécurité de l'IA à l'aide du tableau de bord AI Security et de la page "Éléments".

Avant de commencer

  • Configurez la protection de l'IA.
  • Attribuez les rôles Identity and Access Management (IAM) requis aux utilisateurs qui accèdent au tableau de bord AI Security et à l'onglet Éléments > Ressources d'IA. Pour en savoir plus, consultez la section Rôles requis.

Utiliser le tableau de bord AI Security

Le tableau de bord AI Security vous permet de visualiser l'inventaire des assets d'IA de votre organisation et de consulter les mesures d'atténuation proposées pour les risques et les menaces.

Accéder au tableau de bord AI Security

Pour accéder au tableau de bord AI Security, ouvrez la page Présentation des risques > Sécurité de l'IA dans la Google Cloud console :

Accéder à la sécurité de l'IA

Pour en savoir plus, consultez Tableau de bord AI Security.

Comprendre la gestion des risques pour les systèmes d'IA

Cette section identifie les risques potentiels pour vos systèmes d'IA et affiche les principaux risques dans votre inventaire d'IA.

Pour afficher une visualisation et des détails sur un problème spécifique, cliquez dessus.

Afficher les menaces liées à l'IA

Cette section met en évidence les menaces les plus récentes pesant sur vos ressources d'IA.

Dans cette section, vous pouvez effectuer les opérations suivantes :

  • Pour afficher toutes les menaces pesant sur vos ressources d'IA, cliquez sur Tout afficher.
  • Pour afficher des informations détaillées sur une menace spécifique, cliquez dessus.

Visualiser votre inventaire d'IA

Cette section fournit un résumé visuel de votre inventaire d'assets d'IA, y compris les projets qui utilisent l'IA générative, les modèles first party et tiers actifs, ainsi que les ensembles de données utilisés pour entraîner les modèles tiers.

Dans cette section, vous pouvez effectuer les opérations suivantes :

  • Pour afficher des détails sur votre inventaire, cliquez sur n'importe quel nœud de la visualisation.
  • Pour afficher une liste détaillée des assets individuels (tels que les modèles Gemini et les modèles personnalisés), cliquez sur l'info-bulle.
  • Pour afficher des détails sur un modèle, cliquez dessus. Cette vue affiche des détails tels que les points de terminaison où le modèle est hébergé et l'ensemble de données d'entraînement. Si Sensitive Data Protection est activé, la vue des ensembles de données indique également si l'ensemble de données contient des données sensibles.

Examiner le résumé des résultats du framework d'IA

Cette section vous aide à évaluer les résultats générés par les règles de sécurité de l'IA et les règles de sécurité des données. Elle comprend les cartes suivantes :

  • Résultats : cette section affiche un résumé des résultats générés par les règles de sécurité de l'IA et les règles de sécurité des données, tels que Gemini model detected et Gemini model not protected by Model Armor.

    • Pour afficher tous les résultats, cliquez sur Afficher tous les résultats.
    • Pour afficher les résultats d'une catégorie spécifique, cliquez sur le nombre de résultats à côté de cette catégorie.
    • Pour afficher les détails d'un résultat individuel, cliquez dessus.

  • Données sensibles dans les ensembles de données Vertex AI : affiche un résumé des résultats liés aux données sensibles dans vos ensembles de données, tels qu'ils sont signalés par Sensitive Data Protection. Pour en savoir plus, consultez Présentation de Gemini Enterprise Agent Platform.

Examiner les résultats Model Armor

Cette section affiche un graphique du nombre total de requêtes et de réponses analysées par Model Armor, ainsi que le nombre de problèmes détectés. Le graphique fournit également des statistiques récapitulatives pour des types de problèmes spécifiques, tels que l'injection de prompt, les tentatives de jailbreak et l'exposition de données sensibles.

Pour les charges de travail agentiques, vous pouvez configurer Model Armor sur Agent Gateway pour analyser les requêtes et les réponses envoyées aux agents et reçues d'eux.

Ce graphique utilise les métriques que Model Armor publie dans Cloud Monitoring. Pour en savoir plus, consultez Présentation de Model Armor.

Examiner les résultats d'Agent Platform Vulnerability Assessment

Les résultats générés par Agent Platform Vulnerability Assessment incluent des informations sur l'emplacement et le type du secret, mais pas sur sa valeur.

Pour examiner les résultats générés par Agent Platform Vulnerability Assessment, procédez comme suit :

  1. Dans la Google Cloud console, accédez à la page Résultats de Security Command Center.

    Accéder aux résultats

  2. Sélectionnez votre Google Cloud projet ou votre organisation.
  3. Dans la section Filtres rapides, dans la sous-section Classe, sélectionnez Secrets. Les résultats de la requête sont mis à jour pour n'afficher que les résultats correspondants.
  4. Pour afficher les détails d'un résultat spécifique, cliquez sur son nom dans la colonne Catégorie. Le panneau de détails du résultat s'ouvre et affiche l'onglet Résumé.
  5. Dans l'onglet Résumé, sous la section A été détecté, consultez la Description, puis cliquez sur les liens suivants pour en savoir plus :
    • Fichiers : affiche des informations sur l'emplacement du secret.
    • Afficher les détails du secret : affiche le type de secret identifié.

Inspecter les ressources d'IA

En plus du tableau de bord AI Security, vous pouvez inspecter et interroger l'inventaire des assets d'IA de votre organisation sur la page Éléments de la Google Cloud console à l'aide de l'onglet Ressources d'IA.

L'onglet Ressources d'IA fournit une vue détaillée et filtrable des systèmes et assets d'IA découverts, y compris les éléments suivants :

  • Modèles
  • Points de terminaison
  • Sources de données
  • Pipelines
  • Agents
  • Serveurs MCP (Model Context Protocol)
  • Notebooks

Vous pouvez utiliser l'onglet Ressources d'IA pour effectuer les opérations suivantes :

  • Comprendre votre inventaire d'IA : affichez des listes complètes des assets d'IA actifs dans votre organisation, filtrées par projet, emplacement ou type de ressource.
  • Effectuer des enquêtes de sécurité : examinez l'ensemble des métadonnées, l'historique des modifications et les stratégies IAM associées d'assets d'IA spécifiques.
  • Examiner les résultats associés : affichez rapidement tous les résultats de sécurité associés à un asset d'IA spécifique pour évaluer son exposition aux risques et déterminer les mesures de correction nécessaires.

Pour en savoir plus sur l'affichage et le filtrage des assets d'IA dans la console, consultez Inspecter les assets surveillés par Security Command Center.

Étape suivante