Examiner la sécurité de l'IA

La protection de l'IA fournit des outils pour visualiser l'inventaire des assets d'IA de votre organisation, examiner les résultats de sécurité et consulter les mesures d'atténuation proposées pour les risques et les menaces. Ce guide explique comment gérer la sécurité de l'IA à l'aide du tableau de bord "AI Security" et de la page "Assets".

Avant de commencer

  • Configurez la protection de l'IA.
  • Attribuez les rôles Identity and Access Management (IAM) requis aux utilisateurs qui accèdent au tableau de bord AI Security et à l'onglet Assets > AI resources (Assets > Ressources d'IA). Pour en savoir plus, consultez la section Rôles requis.

Utiliser le tableau de bord "AI Security"

Le tableau de bord "AI Security" vous permet de visualiser l'inventaire des assets d'IA de votre organisation et de consulter les mesures d'atténuation proposées pour les risques et les menaces.

Accéder au tableau de bord "AI Security"

Pour accéder au tableau de bord "AI Security", ouvrez la page Risk overview > AI security (Présentation des risques > Sécurité de l'IA) dans la console Google Cloud :

Accéder à la sécurité de l'IA

Pour en savoir plus, consultez Tableau de bord "AI Security".

Comprendre la gestion des risques pour les systèmes d'IA

Cette section identifie les risques potentiels pour vos systèmes d'IA et affiche les principaux risques dans votre inventaire d'IA.

Pour afficher une visualisation et des détails sur un problème spécifique, cliquez dessus.

Afficher les menaces liées à l'IA

Cette section met en évidence les menaces les plus récentes pour vos ressources d'IA.

Dans cette section, vous pouvez effectuer les opérations suivantes :

  • Pour afficher toutes les menaces qui pèsent sur vos ressources d'IA, cliquez sur View all (Tout afficher).
  • Pour afficher des informations détaillées sur une menace spécifique, cliquez dessus.

Visualiser votre inventaire d'IA

Cette section fournit un résumé visuel de votre inventaire d'assets d'IA, y compris les projets qui utilisent l'IA générative, les modèles first party et tiers actifs, ainsi que les ensembles de données utilisés pour entraîner les modèles tiers.

Dans cette section, vous pouvez effectuer les opérations suivantes :

  • Pour afficher des détails sur votre inventaire, cliquez sur n'importe quel nœud de la visualisation.
  • Pour afficher une liste détaillée des assets individuels (tels que les modèles Gemini et les modèles personnalisés), cliquez sur l'info-bulle.
  • Pour afficher des détails sur un modèle, cliquez dessus. Cette vue affiche des détails tels que les points de terminaison où le modèle est hébergé et l'ensemble de données d'entraînement. Si Sensitive Data Protection est activé, la vue des ensembles de données indique également si l'ensemble de données contient des données sensibles.

Examiner le résumé des résultats du framework d'IA

Cette section vous aide à évaluer les résultats générés par les règles de sécurité de l'IA et les règles de sécurité des données. Elle comprend les cartes suivantes :

  • Findings (Résultats) : cette section affiche un résumé des résultats générés par les règles de sécurité de l'IA et les règles de sécurité des données, tels que Gemini model detected et Gemini model not protected by Model Armor.

    • Pour afficher tous les résultats, cliquez sur View all findings (Afficher tous les résultats).
    • Pour afficher les résultats d'une catégorie spécifique, cliquez sur le nombre de résultats à côté de cette catégorie.
    • Pour afficher les détails d'un résultat individuel, cliquez dessus.

  • Données sensibles dans les ensembles de données Vertex AI : affiche un résumé des résultats liés aux données sensibles de vos ensembles de données, tels qu'ils sont signalés par Sensitive Data Protection. Pour en savoir plus, consultez Présentation de Gemini Enterprise Agent Platform.

Examiner les résultats de Model Armor

Cette section affiche un graphique du nombre total de requêtes et de réponses analysées par Model Armor, ainsi que le nombre de problèmes détectés. Le graphique fournit également des statistiques récapitulatives pour des types de problèmes spécifiques, tels que l'injection de prompt, les tentatives de jailbreak et l'exposition de données sensibles.

Pour les charges de travail d'agent, vous pouvez configurer Model Armor sur Agent Gateway (aperçu) afin de filtrer les requêtes et les réponses envoyées aux agents et reçues d'eux.

Ce graphique utilise les métriques que Model Armor publie dans Cloud Monitoring. Pour en savoir plus, consultez Présentation de Model Armor.

Inspecter les ressources d'IA

En plus du tableau de bord "AI Security", vous pouvez inspecter et interroger l'inventaire des assets d'IA de votre organisation sur la page Assets (Assets) de la Google Cloud console à l'aide de l'onglet AI resources (Ressources d'IA).

L'onglet AI resources (Ressources d'IA) fournit une vue détaillée et filtrable des systèmes et assets d'IA découverts, y compris les éléments suivants :

  • Modèles
  • Points de terminaison
  • Sources de données
  • Pipelines
  • Agents (aperçu)
  • Serveurs MCP (Model Context Protocol) (aperçu)
  • Notebooks

Vous pouvez utiliser l'onglet AI resources (Ressources d'IA) pour les opérations suivantes :

  • Comprendre votre inventaire d'IA : affichez des listes complètes des assets d'IA actifs dans votre organisation, filtrées par projet, emplacement ou type de ressource.
  • Effectuer des enquêtes de sécurité : examinez l'intégralité des métadonnées, l'historique des modifications et les règles IAM associées à des assets d'IA spécifiques.
  • Examiner les résultats associés : affichez rapidement tous les résultats de sécurité associés à un asset d'IA spécifique pour évaluer son exposition aux risques et déterminer les mesures de correction nécessaires.

Pour en savoir plus sur l'affichage et le filtrage des assets d'IA dans la console, consultez Inspecter les assets surveillés par Security Command Center.

Étape suivante