La detección de anomalías en agentes proporciona una capa de supervisión y auditoría dinámica basada en el razonamiento, diseñada específicamente para agentes de IA empresariales autónomos. A diferencia de las herramientas de seguridad para aplicaciones convencionales que solo analizan el código estático en busca de vulnerabilidades o inspeccionan el tráfico de red en el perímetro, la detección de anomalías de agentes evalúa los seguimientos de razonamiento en vivo, las interacciones de las herramientas y los flujos de ejecución de los agentes con detectores integrados para detectar intenciones sospechosas, incumplimientos de políticas y anomalías de comportamiento.
El núcleo de la detección de anomalías en agentes es un framework de análisis de anomalías de varias capas que analiza la actividad de la sesión del agente de forma asíncrona. Con la transferencia de registros y seguimientos de ejecución de OpenTelemetry, el servicio determina si un agente está operando fuera de sus límites previstos sin introducir latencia de ejecución en tus flujos de trabajo de agentes en vivo.
Ventajas clave
La detección de anomalías en agentes incluye las siguientes funciones:
| Beneficio o función | Descripción |
|---|---|
| Seguridad asíncrona casi en tiempo real | La telemetría (registros y seguimientos) se procesa fuera de banda, lo que mantiene tiempos de respuesta rápidos de los agentes. Un modelo de análisis de varias capas permite mantener la rentabilidad con evaluaciones casi en tiempo real. |
| Análisis de intenciones basado en el razonamiento | El análisis de anomalías razona sobre los seguimientos marcados para diferenciar la lógica empresarial compleja de las acciones no autorizadas. |
| Detección de amenazas integral | Audita los riesgos de seguridad específicos de los agentes de forma inmediata con detectores predeterminados que capturan los patrones de amenazas descritos en el OWASP Top 10 para amenazas de seguridad de agentes, incluidos el uso inadecuado de herramientas, el abuso de privilegios, las fallas de agentes en cascada, los comportamientos no autorizados y el agotamiento de recursos. |
| Integración en Security Command Center | Los hallazgos de anomalías se muestran directamente en Security Command Center para la administración centralizada de la seguridad, la búsqueda y el seguimiento de incidentes. Para obtener información sobre Security Command Center, consulta Descripción general de Security Command Center. Nota: Esta integración requiere uno de los niveles compatibles con Security Command Center: Estándar, Premium o Enterprise. |
| Integración en Cloud Monitoring | Las métricas de detección y cobertura se escriben en Cloud Monitoring, donde puedes graficarlas, agregarlas a paneles y usarlas en políticas de alertas. Para obtener más detalles, consulta Supervisa las métricas de anomalías en Cloud Monitoring. |
Novedades
La siguiente función se agregó a la Detección de anomalías en agentes (versión preliminar) el 2 de noviembre de 2026: compatibilidad con la inscripción automática de agentes, que habilita automáticamente la supervisión de los agentes que cumplen con los requisitos que se descubran en tu proyecto.
Se agregaron las siguientes funciones a la función de versión preliminar de la Detección de anomalías en agentes el 22 de octubre de 2026:
- Compatibilidad con ADK en Google Kubernetes Engine: Supervisa los agentes creados con el
Kit de desarrollo de agentes (ADK) (versión 2.1.0 o posterior) y que se implementaron en tus
clústeres de GKE (
GKE_WORKLOAD). - Compatibilidad con Cloud Run: Supervisa los agentes implementados como servicios de Cloud Run (
CLOUD_RUN_SERVICE). Cuando se exportan seguimientos de OpenTelemetry a Cloud Trace y registros a Cloud Logging, los servicios de Cloud Run se descubren y se enumeran automáticamente en la página Configuración, donde puedes habilitarlos para la detección de anomalías en agentes.
Sistema de detección de varias capas
Para equilibrar la cobertura y el costo de la evaluación, la detección de anomalías de agentes usa un sistema de detección de varias capas que analiza los registros de los agentes para identificar las sesiones anómalas y generar informes sobre ellas:
- Capa 1 (detectores de AA ligeros): Los modelos estadísticos de alta velocidad y de aprendizaje automático ligeros identifican los valores atípicos iniciales y las tendencias de telemetría descendentes para reducir la muestra del tráfico de referencia.
- Capa 2 (Análisis de anomalías): El análisis de anomalías evalúa las sesiones marcadas de forma asíncrona para generar veredictos de amenazas y razonamientos de explicación en lenguaje natural.
- Capa 3 (Análisis a nivel de invocación): Realiza un estudio a fondo de las ejecuciones de herramientas individuales, los estados de ejecución y los historiales de parámetros dentro del seguimiento de la conversación.
Disponibilidad
La detección de anomalías en agentes está disponible para los agentes que cumplen con los siguientes
criterios. La Detección de anomalías en agentes reconoce automáticamente a los agentes que cumplen con los criterios como
agentes supervisados (el servicio
conoce la existencia del agente, pero no se ejecuta nada en sus registros y no
se generan costos, a menos que el agente esté habilitado). Los agentes supervisados se pueden
habilitar para el análisis de anomalías activo, ya sea de forma automática tras el descubrimiento
(cuando la inscripción automática de agentes está habilitada en la
AgentAnomalyDetectionScoperegional) o de forma manual por agente en la
consola deGoogle Cloud o a través de la API.
- Entorno de ejecución compatible: Se implementa en Agent Runtime
(motor de razonamiento), Cloud Run (
CLOUD_RUN_SERVICE) o Google Kubernetes Engine (GKE_WORKLOAD). - Versión de ADK: Se compiló con ADK para Python, versión 2.1.0 o posterior.
- Buckets de registro y observabilidad: Ambos buckets deben estar en la misma
ubicación que el alcance de la Detección de anomalías en agentes (como la
multirregión de EE.UU. o la UE). Para un permiso en la multirregión de EE.UU., también pueden
estar en la ubicación
global(como el bucket de registro predeterminado_Default). Para un permiso en la multirregión de la UE, usa un bucket de registro en la ubicacióneu. - Captura de telemetría: El seguimiento y el registro de OpenTelemetry se habilitan con el ADK.
- Captura de metadatos: La telemetría sin procesar está configurada para capturar el contenido de la entrada de la instrucción y la salida de la respuesta.
- Seguimiento activo: La marca
enable_tracingno se establece de forma explícita enfalseen la configuración del ADK. - Permisos y acceso: Las cuentas de servicio de los escáneres regionales tienen permisos de lectura suficientes sobre los registros activos y los buckets de observabilidad. El bucket de registros debe tener habilitados el Análisis de registros y las Estadísticas de observabilidad.
- Flujo de datos activo: El agente debe tener datos activos; el sistema no puede verificar la configuración ni inscribir un agente que no tenga datos de telemetría.
Los agentes que no cumplen con estos criterios no son detectables por la Detección de anomalías en agentes y no aparecen en la lista de agentes supervisados que se pueden habilitar.
Categorías de amenazas
La detección de anomalías en agentes supervisa continuamente las actividades de los agentes y marca los riesgos en categorías clave alineadas con los frameworks de seguridad agéntica:
- Uso inadecuado de herramientas (OWASP ASI02): Detecta cuando las herramientas se usan de formas no seguras o no deseadas, como a través del encadenamiento de herramientas peligrosas, la manipulación de parámetros o la inyección indirecta de instrucciones.
- Abuso de privilegios de identidad (OWASP ASI03): Identifica acciones no autorizadas que resultan de la delegación de confianza dinámica, la falsificación de identidad, el escalamiento de memoria o las vulnerabilidades de diputado confundido.
- Fallas en cascada de agentes (OWASP ASI08): Supervisa la propagación de fallas, los bucles de ejecución infinitos, los reintentos oscilantes y las amplificaciones de bucles de retroalimentación en los flujos de trabajo de los agentes.
- Agentes no autorizados (OWASP ASI10): Marca cuando un agente abandona su rol declarado, omite las protecciones de seguridad o se desvía de las instrucciones asignadas del sistema.
- Agotamiento de recursos: Detecta el consumo excesivo intencional o descontrolado de procesamiento, tokens de LLM o ancho de banda de red.
Habilita la opción para probar la detección de anomalías en agentes
Para habilitar la detección de anomalías en agentes, completa este formulario: Formulario de solicitud de acceso a la detección de anomalías en agentes.
Usa la detección de anomalías en agentes
Si ya aceptaste usar la detección de anomalías en agentes, consulta Detección de anomalías en agentes para obtener instrucciones de uso.