Google utilise la technologie IA pour traduire le contenu dans votre langue préférée. Les traductions générées par IA peuvent contenir des erreurs.

Examiner la sécurité de l'IA

La protection de l'IA fournit des outils pour visualiser l'inventaire des assets d'IA de votre organisation ou de votre projet, examiner les résultats de sécurité et consulter les mesures d'atténuation proposées pour les risques et les menaces. Ce guide explique comment gérer la sécurité de l'IA à l'aide du tableau de bord "Sécurité de l'IA" et de la page "Éléments".

Votre niveau de service Security Command Center détermine les fonctionnalités disponibles dans le tableau de bord Sécurité de l'IA et l'onglet Ressources d'IA de la page Éléments. Pour en savoir plus sur les fonctionnalités disponibles avec chaque niveau de service, consultez la présentation d'AI Protection.

Avant de commencer

Configurez la protection de l'IA.
Attribuez les rôles Identity and Access Management (IAM) requis aux utilisateurs qui accèdent au tableau de bord Sécurité de l'IA et à l'onglet Éléments > Ressources d'IA. Pour en savoir plus, consultez la section Rôles requis.

Utiliser le tableau de bord "Sécurité de l'IA"

Le tableau de bord "Sécurité de l'IA" vous permet de visualiser l'inventaire des éléments d'IA de votre organisation ou de votre projet, et de consulter les mesures d'atténuation proposées pour les risques et les menaces.

Accéder au tableau de bord "Sécurité de l'IA"

Pour accéder au tableau de bord "Sécurité de l'IA", ouvrez la page Présentation des risques > Sécurité de l'IA dans la Google Cloud console :

Accéder à la sécurité de l'IA

Pour en savoir plus, consultez Tableau de bord "Sécurité de l'IA".

Comprendre la gestion des risques pour les systèmes d'IA

Cette section identifie les risques potentiels pour vos systèmes d'IA et affiche les principaux risques dans votre inventaire d'IA.

Pour afficher une visualisation et des détails sur un problème spécifique, cliquez dessus.

Afficher les menaces liées à l'IA

Cette section met en évidence les menaces les plus récentes pesant sur vos ressources d'IA.

Dans cette section, vous pouvez effectuer les opérations suivantes :

Pour afficher toutes les menaces pesant sur vos ressources d'IA, cliquez sur Tout afficher.
Pour afficher des informations détaillées sur une menace spécifique, cliquez dessus.

Visualiser votre inventaire d'IA

Cette section fournit un résumé visuel de votre inventaire d'éléments d'IA, y compris les projets qui utilisent l'IA générative, les modèles personnalisés actifs (et les modèles Gemini pour les niveaux de service Premium et Enterprise (obsolètes)), ainsi que les ensembles de données utilisés pour entraîner des modèles tiers.

Dans cette section, vous pouvez effectuer les opérations suivantes :

Pour afficher des informations sur votre inventaire, cliquez sur n'importe quel nœud de la visualisation.
Pour afficher une liste détaillée des éléments individuels, cliquez sur l'info-bulle. Cette liste inclut les modèles personnalisés ou les modèles Gemini (disponibles pour les niveaux de service Premium et Enterprise (obsolètes)).
Pour afficher des informations sur un modèle, cliquez dessus. Cette vue affiche des informations telles que les points de terminaison où le modèle est hébergé et l'ensemble de données d'entraînement. Si Sensitive Data Protection est activé, la vue des ensembles de données indique également si l'ensemble de données contient des données sensibles.

Examiner le résumé des résultats du framework d'IA

Cette section vous aide à évaluer les résultats générés par les règles de sécurité de l'IA et les règles de sécurité des données. Elle comprend les cartes suivantes :

Résultats : cette section affiche un résumé des résultats générés par les règles de sécurité de l'IA et les règles de sécurité des données, tels que Gemini model detected et Gemini model not protected by Model Armor (les résultats liés aux modèles Gemini sont disponibles pour les niveaux de service Premium et Enterprise (obsolètes)).
- Pour afficher tous les résultats, cliquez sur Afficher tous les résultats.
- Pour afficher les résultats d'une catégorie spécifique, cliquez sur le nombre de résultats à côté de cette catégorie.
- Pour afficher les détails d'un résultat individuel, cliquez dessus.
Données sensibles dans les ensembles de données Vertex AI : affiche un résumé des résultats liés aux données sensibles de vos ensembles de données, tels que signalés par Sensitive Data Protection. Pour en savoir plus, consultez la présentation de Gemini Enterprise Agent Platform.

Examiner les résultats de Model Armor

Cette section affiche un graphique du nombre total de requêtes et de réponses analysées par Model Armor, ainsi que le nombre de problèmes détectés. Le graphique fournit également des statistiques récapitulatives pour des types de problèmes spécifiques, tels que l'injection de prompt, les tentatives de jailbreak et l'exposition de données sensibles.

Pour les charges de travail agentiques, vous pouvez configurer Model Armor sur Agent Gateway afin d'analyser les requêtes et les réponses envoyées aux agents et reçues d'eux.

Ce graphique utilise les métriques que Model Armor publie dans Cloud Monitoring. Pour en savoir plus, consultez la présentation de Model Armor overview.

Examiner les résultats d'Agent Platform Vulnerability Assessment

Les résultats générés par Agent Platform Vulnerability Assessment incluent des informations sur l'emplacement et le type du secret, mais pas sa valeur.

Pour examiner les résultats générés par Agent Platform Vulnerability Assessment, procédez comme suit :

Dans la Google Cloud console, accédez à la page Résultats de Security Command Center.

Accéder aux résultats
Sélectionnez votre Google Cloud projet ou votre organisation.
Dans la sous-section Classe de la section Filtres rapides , sélectionnez Secrets. Les résultats de la requête sont mis à jour pour n'afficher que les résultats correspondants.
Pour afficher les détails d'un résultat spécifique, cliquez sur son nom dans la colonne Catégorie. Le panneau de détails du résultat s'ouvre et affiche l'onglet Résumé.
Dans l'onglet Résumé, sous la section A été détecté, consultez la Description, puis cliquez sur les liens suivants pour en savoir plus :
- Fichiers : affiche des informations sur l'emplacement du secret.
- Afficher les détails du secret : affiche le type de secret identifié.

Inspecter les ressources d'IA

En plus du tableau de bord "Sécurité de l'IA", vous pouvez inspecter et interroger l'inventaire des éléments d'IA de votre organisation ou de votre projet sur la page Éléments de la Google Cloud console à l'aide de l'onglet Ressources d'IA.

L'onglet Ressources d'IA fournit une vue détaillée et filtrable des systèmes et éléments d'IA découverts, y compris les éléments suivants :

Modèles
Points de terminaison
Sources de données
Pipelines
Agents
Serveurs MCP (Model Context Protocol)
Notebooks

Vous pouvez utiliser l'onglet Ressources d'IA pour effectuer les opérations suivantes :

Comprendre votre inventaire d'IA : affichez des listes complètes des éléments d'IA actifs dans votre organisation ou votre projet, filtrées par projet, emplacement ou type de ressource.
Effectuer des enquêtes de sécurité : examinez l'intégralité des métadonnées, l'historique des modifications et les règles IAM associées à des éléments d'IA spécifiques.
Examiner les résultats associés : affichez rapidement tous les résultats de sécurité associés à un élément d’IA spécifique pour évaluer son exposition aux risques et déterminer les mesures de correction nécessaires.

Pour en savoir plus sur l'affichage et le filtrage des éléments d'IA dans la console, consultez Inspecter les éléments surveillés par Security Command Center.