Examiner la sécurité de l'IA

La protection de l'IA fournit des outils permettant de visualiser l'inventaire des assets d'IA de votre organisation, d'examiner les résultats de sécurité et de passer en revue les mesures d'atténuation proposées pour les risques et les menaces. Ce guide explique comment gérer la sécurité de l'IA à l'aide du tableau de bord "Sécurité de l'IA" et de la page "Actifs".

Avant de commencer

  • Configurez la protection de l'IA.
  • Attribuez les rôles IAM (Identity and Access Management) requis aux utilisateurs qui accèdent au tableau de bord Sécurité de l'IA et à l'onglet Actifs > Ressources d'IA. Pour en savoir plus, consultez la section Rôles requis.

Utiliser le tableau de bord Sécurité de l'IA

Le tableau de bord AI Security vous permet de visualiser l'inventaire des composants d'IA de votre organisation et d'examiner les mesures d'atténuation proposées pour les risques et les menaces.

Accéder au tableau de bord Sécurité de l'IA

Pour accéder au tableau de bord sur la sécurité de l'IA, accédez à la page Présentation des risques> Sécurité de l'IA dans la console Google Cloud  :

Accéder à la sécurité de l'IA

Pour en savoir plus, consultez Tableau de bord de sécurité de l'IA.

Comprendre la gestion des risques pour les systèmes d'IA

Cette section identifie les risques potentiels pour vos systèmes d'IA et affiche les principaux risques de votre inventaire d'IA.

Pour afficher une visualisation et des détails sur un problème spécifique, cliquez dessus.

Afficher les menaces liées à l'IA

Cette section met en évidence les menaces les plus récentes qui pèsent sur vos ressources d'IA.

Dans cette section, vous pouvez effectuer les opérations suivantes :

  • Pour afficher toutes les menaces qui pèsent sur vos ressources d'IA, cliquez sur Tout afficher.
  • Pour afficher des informations détaillées sur une menace spécifique, cliquez dessus.

Visualiser votre inventaire d'IA

Cette section fournit un récapitulatif visuel de votre inventaire d'assets d'IA, y compris les projets qui utilisent l'IA générative, les modèles actifs first party et tiers, ainsi que les ensembles de données utilisés pour entraîner les modèles tiers.

Dans cette section, vous pouvez effectuer les opérations suivantes :

  • Pour afficher des informations détaillées sur votre inventaire, cliquez sur un nœud de la visualisation.
  • Pour afficher la liste détaillée des composants individuels (tels que les modèles Gemini et les modèles personnalisés), cliquez sur l'info-bulle.
  • Pour afficher les détails d'un modèle, cliquez dessus. Cette vue affiche des informations telles que les points de terminaison où le modèle est hébergé et l'ensemble de données d'entraînement. Si Sensitive Data Protection est activé, la vue "Ensembles de données" indique également si l'ensemble de données contient des données sensibles.

Examiner le résumé des conclusions du framework d'IA

Cette section vous aide à évaluer les résultats générés par les règles de sécurité de l'IA et les règles de sécurité des données. Il comprend les fiches suivantes :

  • Résultats : cette section affiche un récapitulatif des résultats générés par les règles de sécurité de l'IA et de sécurité des données, comme Gemini model detected et Gemini model not protected by Model Armor.

    • Pour afficher tous les résultats, cliquez sur Afficher tous les résultats.
    • Pour afficher les résultats d'une catégorie spécifique, cliquez sur le nombre de résultats à côté de cette catégorie.
    • Pour afficher les détails d'un résultat individuel, cliquez dessus.

  • Données sensibles dans les ensembles de données Vertex AI : affiche un récapitulatif des résultats liés aux données sensibles dans vos ensembles de données, tels qu'ils sont signalés par Sensitive Data Protection. Pour en savoir plus, consultez Présentation de Gemini Enterprise Agent Platform.

Examiner les résultats Model Armor

Cette section affiche un graphique du nombre total de requêtes et de réponses analysées par Model Armor, ainsi que le nombre de problèmes détectés. Le graphique fournit également des statistiques récapitulatives pour des types de problèmes spécifiques, tels que l'injection de prompts, les tentatives de jailbreak et l'exposition de données sensibles.

Pour les charges de travail agentiques, vous pouvez configurer Model Armor sur Agent Gateway (aperçu) afin de filtrer les requêtes et les réponses envoyées aux agents et reçues de leur part.

Ce graphique utilise les métriques que Model Armor publie sur Cloud Monitoring. Pour en savoir plus, consultez la présentation de Model Armor.

Inspecter les ressources d'IA

En plus du tableau de bord Sécurité de l'IA, vous pouvez inspecter et interroger l'inventaire des composants d'IA de votre organisation sur la page Composants de la consoleGoogle Cloud à l'aide de l'onglet Ressources d'IA.

L'onglet Ressources d'IA fournit une vue détaillée et filtrable des systèmes et composants d'IA découverts, y compris :

  • Modèles
  • Points de terminaison
  • Sources de données
  • Pipelines
  • Agents (preview)
  • Serveurs MCP (Model Context Protocol) (Preview)
  • Notebooks

L'onglet Ressources d'IA peut vous aider à effectuer les opérations suivantes :

  • Comprendre votre inventaire d'IA : affichez des listes complètes des composants d'IA actifs dans votre organisation, filtrées par projet, emplacement ou type de ressource.
  • Mener des enquêtes sur la sécurité : examinez l'intégralité des métadonnées, de l'historique des modifications et des stratégies IAM associées à des composants d'IA spécifiques.
  • Examiner les résultats associés : affichez rapidement tous les résultats de sécurité associés à un asset d'IA spécifique pour évaluer son exposition aux risques et déterminer les mesures de correction nécessaires.

Pour savoir comment afficher et filtrer les composants d'IA dans la console, consultez Inspecter les composants surveillés par Security Command Center.

Étapes suivantes