Model Armor analyse les prompts et les réponses de vos applications d'IA. Le tableau de bord de surveillance vous fournit les données, les métriques et les visualisations générées à partir de ce processus d'analyse. Utilisez ces insights pour comprendre comment Model Armor protège vos applications d'IA et identifie les tentatives d'injection de prompt ou d'autres activités malveillantes.
Avant de commencer
Rôle requis
Pour obtenir les autorisations nécessaires pour accéder au tableau de bord de surveillance,
demandez à votre administrateur de vous accorder le
rôle IAM Lecteur Monitoring (roles/monitoring.viewer)
sur le projet.
Pour en savoir plus sur l'attribution de rôles, consultez Gérer l'accès aux projets, aux dossiers et aux organisations.
Ce rôle prédéfini contient les autorisations requises pour accéder au tableau de bord de surveillance. Pour connaître les autorisations exactes requises, développez la section Autorisations requises :
Autorisations requises
Les autorisations suivantes sont requises pour accéder au tableau de bord de surveillance :
-
monitoring.monitoredResourceDescriptors.list -
monitoring.metricDescriptors.list
Vous pouvez également obtenir ces autorisations avec des rôles personnalisés ou d'autres rôles prédéfinis.
Afficher le tableau de bord de surveillance
Dans la Google Cloud console, accédez à la page Model Armor.
Vérifiez que vous consultez le projet sur lequel vous avez activé Model Armor.
Accédez à l'onglet Surveillance.
Afficher le nombre d'interactions signalées ou bloquées
Sur le tableau de bord de surveillance, affichez le nombre d'interactions, y compris les interactions signalées et bloquées. Le tableau de bord de surveillance affiche les métriques suivantes :
- Nombre total d'interactions : nombre total de prompts et de réponses analysés par Model Armor.
- Interactions signalées : nombre d'interactions qui ne respectent pas une règle configurée dans votre modèle Model Armor ou vos paramètres de plancher.
- Interactions bloquées : nombre d'interactions bloquées si vous
avez configuré Model Armor en mode
INSPECT_AND_BLOCK. Ces interactions bloquées ne respectent pas les paramètres de plancher ni les modèles.
Surveiller les cas de non-respect de la sécurité des contenus
Dans le graphique Cas de non-respect au fil du temps, surveillez le nombre de cas de non-respect détectés au fil du temps.
Les cas de non-respect détectés sont classés dans les domaines suivants :
- Tous les détecteurs : nombre total de cas de non-respect détectés par tous les détecteurs, y compris les injections de prompt et les jailbreaks, les URL malveillantes, l'IA responsable et les données sensibles.
- IA responsable : cas de non-respect de contenu détectés par les filtres de sécurité, tels que le harcèlement et l'incitation à la haine. Pour obtenir la liste complète des catégories d'IA responsable, consultez Filtre de sécurité d'IA responsable.
- Données sensibles : cas de non-respect de contenu impliquant la présence de types d'informations sensibles ou types d'informations personnalisés que vous définissez. Pour en savoir plus, consultez Sensitive Data Protection.
Pour en savoir plus sur ces détecteurs, consultez Filtres Model Armor.
Appliquer des filtres aux vues
Lorsque vous appliquez ces filtres sur le tableau de bord de surveillance, toutes les vues du tableau de bord de surveillance sont filtrées en fonction des critères que vous sélectionnez.
- Modèles/Paramètres de plancher : filtrez les vues en fonction du modèle ou des paramètres de plancher associés.
- Points d'intégration : filtrez les vues en fonction des intégrations Model Armor.
- Emplacements : filtrez les vues en fonction de l'emplacement où une interaction a été traitée.
- Types d'entrée : filtrez les vues en fonction du type d'entrée évalué : prompt ou réponse.
Inspecter les journaux associés
Pour explorer les entrées de journal liées aux données du tableau de bord de surveillance, activez la journalisation dans vos modèles et paramètres de plancher. Vous devez disposer des rôles IAM requis pour afficher les journaux.
Pour inspecter les journaux de la période sélectionnée, cliquez sur Plus d'options de graphique > Inspecter les journaux associés sur le tableau de bord de surveillance.
Télécharger les données de cas de non-respect dans un fichier PNG ou CSV
Pour télécharger les données de cas de non-respect dans un fichier PNG ou CSV, procédez comme suit :
- Dans la vue Cas de non-respect au fil du temps du tableau de bord de surveillance, sélectionnez la période pour laquelle vous souhaitez télécharger des données.
- Cliquez sur Plus d'options de graphique > Télécharger.
- Cliquez sur Télécharger au format PNG ou Télécharger au format CSV pour télécharger les données dans le format de votre choix.
Étape suivante
- Découvrez la journalisation d'audit Model Armor.
- Configurer la journalisation pour Model Armor
- Résoudre les problèmes liés à Model Armor.