La détection des anomalies d'agents fournit une couche de supervision et d'audit dynamique basée sur le raisonnement, conçue spécifiquement pour les agents IA d'entreprise autonomes. Contrairement aux outils de sécurité des applications classiques qui n'analysent que le code statique pour détecter les failles ou inspecter le trafic réseau au périmètre, la détection des anomalies d'agents évalue les traces de raisonnement en direct, les interactions avec les outils et les flux d'exécution des agents pour détecter les intentions suspectes, les violations de règles et les anomalies comportementales.
La détection des anomalies d'agents repose sur un framework d'analyse des anomalies multicouche qui analyse l'activité des sessions d'agent de manière asynchrone. En ingérant les journaux et les traces d'exécution OpenTelemetry, le service détermine si un agent fonctionne en dehors des limites prévues sans introduire de latence d'exécution dans vos workflows d'agent en direct.
Principaux avantages
La détection des anomalies d'agents inclut les fonctionnalités suivantes :
| Avantage ou fonctionnalité | Description |
|---|---|
| Sécurité asynchrone quasiment en temps réel | La télémétrie (journaux et traces) est traitée hors bande, ce qui permet de maintenir des temps de réponse rapides des agents. Un modèle d'analyse multicouche permet de maintenir l'efficacité des coûts avec des évaluations quasiment en temps réel. |
| Analyse des intents basée sur le raisonnement | L'analyse des anomalies raisonne sur les traces signalées pour différencier la logique métier complexe des actions non autorisées. |
| Détection complète des menaces | Audite les risques de sécurité spécifiques aux agents prêts à l'emploi avec des détecteurs par défaut qui capturent les schémas de menaces décrits dans le top 10 de l'OWASP pour les menaces de sécurité agentiques, y compris l'utilisation abusive des outils, l'abus de privilèges, les défaillances en cascade des agents, les comportements malveillants et l'épuisement des ressources. |
| Intégration à Security Command Center | Les résultats d'anomalies sont affichés directement dans Security Command Center pour la gestion centralisée de la sécurité, la recherche et le suivi des incidents. Pour en savoir plus sur Security Command Center, consultez la présentation de Security Command Center. Remarque : Cette intégration nécessite l'un des niveaux compatibles avec Security Command Center : Standard, Premium ou Enterprise. |
Système de détection multicouche
Pour équilibrer la couverture de l'évaluation et les coûts, la détection des anomalies d'agents utilise un système de détection multicouche qui analyse les journaux des agents pour identifier et signaler les sessions anormales :
- Couche 1 (détecteurs ML légers) : les modèles statistiques et de machine learning légers à haute vitesse identifient les valeurs aberrantes initiales et les tendances de télémétrie en aval pour sous-échantillonner le trafic de référence.
- Couche 2 (analyse des anomalies) : l'analyse des anomalies évalue les sessions signalées de manière asynchrone pour générer des verdicts de menace et un raisonnement d'explication en langage naturel.
- Couche 3 (analyse au niveau de l'invocation) : effectue une analyse approfondie des exécutions d'outils individuels, des états d'exécution et des historiques de paramètres dans la trace de conversation.
Disponibilité
La détection des anomalies d'agents est disponible pour les agents qui répondent aux critères suivants. Les agents qui répondent aux critères sont automatiquement reconnus comme des agents surveillés par la détection des anomalies d'agents (le service est conscient de l'existence de l'agent, mais rien n'est exécuté sur les journaux de l'agent et aucun coût n'est généré). Vous devez activer explicitement un agent surveillé pour que la détection des anomalies d'agents exécute une analyse active des anomalies sur ses journaux et ses traces.
- Environnement d'exécution compatible : déployé sur Agent Runtime.
- Version ADK : conçu à l'aide d'Agent Development Kit (ADK) pour Python, version 1.2 ou ultérieure. La version 2.1.0 ou ultérieure est recommandée.
- Buckets de journalisation et d'observabilité de la région des États-Unis : la détection des anomalies d'agents est actuellement disponible pour les buckets États-Unis (multirégional).
- Buckets de journalisation et d'observabilité dans la même région des États-Unis : les buckets de journalisation et d' observabilité se trouvent dans la même région.
- Capture de télémétrie : le traçage et la journalisation OpenTelemetry sont activés à l'aide de l'ADK.
- Capture des métadonnées : la télémétrie brute est configurée pour capturer le contenu des entrées de prompt et des sorties de réponse.
- Traçage actif : le
enable_tracingflag n'est pas explicitement défini surfalsedans la configuration de l'ADK. - Autorisations et accès : les comptes de service des scanners régionaux disposent d'autorisations de lecteur suffisantes sur les journaux actifs et les buckets d'observabilité. L'analyse de journaux et l'analyse d'observabilité doivent être activées pour le bucket de journaux.
- Flux de données actif : l'agent doit disposer de données actives. Le système ne peut pas vérifier la configuration ni enregistrer un agent qui ne dispose pas de données de télémétrie data.
Les agents qui ne répondent pas à ces critères ne sont pas détectables par la détection des anomalies d'agents et n'apparaissent pas dans la liste des agents surveillés à activer.
Catégories de menaces
La détection des anomalies d'agents surveille en permanence les activités des agents et signale les risques dans les principales catégories alignées sur les frameworks de sécurité agentiques :
- Utilisation abusive des outils (OWASP ASI02) : détecte lorsque les outils sont utilisés de manière non sécurisée ou non prévue, par exemple via un chaînage d'outils dangereux, une manipulation de paramètres ou une injection de prompt indirecte.
- Abus de privilèges d'identité (OWASP ASI03) : identifie les actions non autorisées résultant d'une délégation de confiance dynamique, d'une falsification de persona, d'une escalade de mémoire ou de vulnérabilités de type "confused deputy".
- Défaillances en cascade agentiques (OWASP ASI08) : surveille la propagation des erreurs, les boucles d'exécution infinies, les nouvelles tentatives oscillantes et les amplifications de boucles de rétroaction dans les workflows d'agent.
- Agents malveillants (OWASP ASI10) : signale lorsqu'un agent abandonne son rôle déclaré, contourne les garde-fous de sécurité ou s'écarte des instructions système attribuées.
- Épuisement des ressources : détecte la surconsommation intentionnelle ou incontrôlable de calcul, de jetons LLM ou de bande passante réseau.
S'inscrire pour essayer la détection des anomalies d'agents
Pour vous inscrire et essayer la détection des anomalies d'agents, remplissez ce formulaire : Formulaire de demande d'accès à la détection des anomalies d'agents.
Utiliser la détection des anomalies d'agents
Si vous êtes déjà inscrit pour utiliser la détection des anomalies d'agents, consultez la section Détection des anomalies d'agents pour obtenir des instructions d'utilisation.