La détection des anomalies d'agents fournit une couche de surveillance et d'audit dynamique basée sur le raisonnement, conçue spécifiquement pour les agents IA d'entreprise autonomes. Contrairement aux outils de sécurité des applications classiques qui se contentent d'analyser le code statique pour détecter les failles ou d'inspecter le trafic réseau au niveau du périmètre, la détection des anomalies des agents évalue les traces de raisonnement en direct, les interactions avec les outils et les flux d'exécution des agents à l'aide de détecteurs intégrés pour détecter les intentions suspectes, les cas de non-respect des règles et les anomalies de comportement.
La détection des anomalies d'agents repose sur un framework d'analyse d'anomalies multicouche qui analyse l'activité des sessions d'agent de manière asynchrone. En ingérant les journaux et les traces d'exécution OpenTelemetry, le service détermine si un agent fonctionne en dehors de ses limites prévues sans introduire de latence d'exécution dans vos workflows agentiques en direct.
Principaux avantages
La détection des anomalies d'agents inclut les fonctionnalités suivantes :
| Avantage ou fonctionnalité | Description |
|---|---|
| Sécurité asynchrone en temps quasi réel | La télémétrie (journaux et traces) est traitée hors bande, ce qui permet de maintenir des temps de réponse rapides de l'agent. Un modèle d'analyse multicouche permet de maintenir la rentabilité grâce à des évaluations en temps quasi réel. |
| Analyse de l'intention basée sur le raisonnement | L'analyse des anomalies raisonne sur les traces signalées pour différencier la logique métier complexe d'une action non autorisée. |
| Détection complète des menaces | Audite les risques de sécurité spécifiques aux agents dès le départ grâce à des détecteurs par défaut qui capturent les modèles de menaces décrits dans le top 10 de l'OWASP pour les menaces de sécurité agentiques, y compris l'utilisation abusive d'outils, l'abus de privilèges, les défaillances d'agents en cascade, les comportements malveillants et l'épuisement des ressources. |
| Intégration à Security Command Center | Les résultats d'anomalies sont affichés directement dans Security Command Center pour centraliser la gestion de la sécurité, la recherche et le suivi des incidents. Pour en savoir plus sur Security Command Center, consultez la présentation de Security Command Center. Remarque : Cette intégration nécessite l'un des niveaux compatibles avec Security Command Center : Standard, Premium ou Enterprise. |
| Intégration à Cloud Monitoring | Les métriques de détection et de couverture sont écrites dans Cloud Monitoring, où vous pouvez les représenter sous forme de graphiques, les ajouter à des tableaux de bord et les utiliser dans des règles d'alerte. Pour en savoir plus, consultez Surveiller les métriques d'anomalie dans Cloud Monitoring. |
Nouveautés
Les fonctionnalités suivantes ont été ajoutées à la fonctionnalité de détection des anomalies d'agents en version preview le 22 octobre 2026 :
- Compatibilité avec ADK sur Google Kubernetes Engine : surveillez les agents créés avec Agent Development Kit (ADK) (version 2.1.0 ou ultérieure) et déployés sur vos clusters GKE (
GKE_WORKLOAD). - Compatibilité avec Cloud Run : surveillez les agents déployés en tant que services Cloud Run (
CLOUD_RUN_SERVICE). En exportant les traces OpenTelemetry vers Cloud Trace et les journaux vers Cloud Logging, les services Cloud Run sont automatiquement détectés et listés sur la page "Paramètres", où vous pouvez les activer pour la détection d'anomalies de l'agent.
Système de détection multicouche
Pour équilibrer la couverture et le coût de l'évaluation, la détection des anomalies d'agent utilise un système de détection multicouche qui analyse les journaux des agents pour identifier et signaler les sessions anormales :
- Couche 1 (détecteurs de ML légers) : des modèles statistiques et de machine learning légers et à grande vitesse identifient les anomalies initiales et les tendances de télémétrie en aval pour sous-échantillonner le trafic de référence.
- Couche 2 (analyse des anomalies) : l'analyse des anomalies évalue les sessions signalées de manière asynchrone pour rendre des verdicts de menace et fournir des explications en langage naturel.
- Couche 3 (analyse au niveau de l'appel) : effectue une exploration approfondie des exécutions d'outils individuels, des états d'exécution et de l'historique des paramètres dans la trace de conversation.
Disponibilité
La détection des anomalies d'agents est disponible pour les agents qui répondent aux critères suivants. Les agents qui répondent aux critères sont automatiquement reconnus comme des agents surveillés par la détection des anomalies d'agents (le service est conscient de l'existence de l'agent, mais rien n'est exécuté sur les journaux de l'agent et aucuns frais ne sont facturés). Vous devez activer explicitement un agent surveillé pour la détection des anomalies d'agent afin que l'analyse active des anomalies s'exécute sur ses journaux et ses traces.
- Environnement d'exécution compatible : déployé sur Agent Runtime (moteur de raisonnement), Cloud Run (
CLOUD_RUN_SERVICE) ou Google Kubernetes Engine (GKE_WORKLOAD). - Version de l'ADK : compilé à l'aide de l'ADK pour Python, version 2.1.0 ou ultérieure.
- Buckets de journalisation et d'observabilité : les deux buckets doivent se trouver au même emplacement que votre champ d'application de détection des anomalies de l'agent (par exemple, l'emplacement multirégional US ou EU). Pour un champ d'application dans l'emplacement multirégional US, ils peuvent également se trouver dans l'emplacement
global(comme le bucket de journalisation_Defaultpar défaut). Pour un champ d'application dans l'emplacement multirégional EU, utilisez un bucket de journalisation dans l'emplacementeu. - Capture de télémétrie : le traçage et la journalisation OpenTelemetry sont activés à l'aide de l'ADK.
- Capture des métadonnées : la télémétrie brute est configurée pour capturer le contenu des entrées de prompt et des sorties de réponse.
- Traçage actif : l'option
enable_tracingn'est pas explicitement définie surfalsedans la configuration ADK. - Autorisations et accès : les comptes de service des scanners régionaux disposent d'autorisations de lecture suffisantes sur les journaux actifs et les buckets d'observabilité. L'Analyse de journaux et l'Analyse de l'observabilité doivent être activées sur le bucket de journaux.
- Flux de données actif : l'agent doit disposer de données actives. Le système ne peut pas vérifier la configuration ni enregistrer un agent qui ne dispose pas de données de télémétrie.
Les agents qui ne répondent pas à ces critères ne sont pas détectables par la détection d'anomalies d'agent et n'apparaissent pas dans la liste des agents surveillés à activer.
Catégories de menaces
La détection des anomalies d'agents surveille en continu les activités des agents et signale les risques dans les catégories clés alignées sur les frameworks de sécurité agentique :
- Utilisation abusive des outils (OWASP ASI02) : détecte quand les outils sont utilisés de manière non sécurisée ou non intentionnelle, par exemple par le biais d'un chaînage d'outils dangereux, d'une manipulation de paramètres ou d'une injection de prompt indirecte.
- Abus de privilèges d'identité (OWASP ASI03) : identifie les actions non autorisées résultant d'une délégation de confiance dynamique, d'une usurpation d'identité, d'une escalade de mémoire ou de failles de type "confused deputy".
- Défaillances en cascade agentiques (OWASP ASI08) : surveille la propagation des défaillances, les boucles d'exécution infinies, les nouvelles tentatives oscillantes et les amplifications des boucles de rétroaction dans les workflows agentiques.
- Agents non autorisés (OWASP ASI10) : signale lorsqu'un agent abandonne son rôle déclaré, contourne les garde-fous de sécurité ou s'écarte des instructions système qui lui ont été attribuées.
- Épuisement des ressources : détecte la surconsommation intentionnelle ou incontrôlée de ressources de calcul, de jetons de LLM ou de bande passante réseau.
Activer la détection des anomalies d'agents
Pour essayer la détection des anomalies d'agents, remplissez le formulaire de demande d'accès à la détection des anomalies d'agents.
Utiliser la détection des anomalies d'agents
Si vous avez déjà activé la détection des anomalies d'agent, consultez Détection des anomalies d'agent pour obtenir des instructions d'utilisation.