Panoramica del rilevamento anomalie degli agenti

Rilevamento anomalie degli agenti fornisce un livello di supervisione e controllo dinamico basato sul ragionamento, progettato specificamente per gli agenti AI aziendali autonomi. A differenza dei tradizionali strumenti di sicurezza delle applicazioni che eseguono solo la scansione del codice statico per individuare vulnerabilità o ispezionano il traffico di rete nel perimetro, il rilevamento delle anomalie degli agenti valuta le tracce di ragionamento in tempo reale, le interazioni degli strumenti e i flussi di esecuzione degli agenti utilizzando rilevatori integrati per individuare intenti sospetti, violazioni delle policy e anomalie comportamentali.

Il fulcro del rilevamento anomalie degli agenti è un framework di analisi delle anomalie multilivello che analizza l'attività delle sessioni degli agenti in modo asincrono. Tramite l'acquisizione di log e tracce di esecuzione OpenTelemetry, il servizio determina se un agente sta operando al di fuori dei limiti previsti senza introdurre latenza di esecuzione nei tuoi Agentic Workflows live.

Vantaggi principali

Il rilevamento anomalie degli agenti include le seguenti funzionalità:

Vantaggio o funzionalità Descrizione
Sicurezza asincrona quasi in tempo reale La telemetria (log e tracce) viene elaborata fuori banda, mantenendo tempi di risposta rapidi dell'agente. Un modello di analisi multilivello consente di mantenere l'efficienza dei costi con valutazioni quasi in tempo reale.
Analisi degli intenti basata sul ragionamento L'analisi delle anomalie ragiona sulle tracce segnalate per distinguere la logica di business complessa da un'azione non autorizzata.
Rilevamento completo delle minacce Controlla i rischi per la sicurezza specifici degli agenti in modo predefinito con rilevatori predefiniti che acquisiscono i pattern di minacce descritti nella OWASP Top 10 per le minacce alla sicurezza degli agenti, tra cui l'uso improprio degli strumenti, l'abuso dei privilegi, gli errori degli agenti a cascata, i comportamenti non autorizzati e l'esaurimento delle risorse.
Integrazione con Security Command Center I risultati delle anomalie vengono visualizzati direttamente in Security Command Center per la gestione centralizzata della sicurezza, la ricerca e il monitoraggio degli incidenti. Per informazioni su Security Command Center, consulta Panoramica di Security Command Center. Nota: questa integrazione richiede uno dei livelli supportati da Security Command Center: Standard, Premium o Enterprise.
Integrazione con Cloud Monitoring Le metriche di rilevamento e copertura vengono scritte in Cloud Monitoring, dove puoi tracciarle, aggiungerle alle dashboard e utilizzarle nelle policy di avviso. Per maggiori dettagli, consulta Monitora le metriche delle anomalie in Cloud Monitoring.

Novità

Il 22 ottobre 2026 sono state aggiunte le seguenti funzionalità alla funzionalità di anteprima del rilevamento di anomalie degli agenti:

  • Supporto per ADK su Google Kubernetes Engine: monitora gli agenti creati con Agent Development Kit (ADK) (versione 2.1.0 o successive) ed esegui il deployment sui tuoi cluster GKE (GKE_WORKLOAD).
  • Supporto per Cloud Run: monitora gli agenti di cui è stato eseguito il deployment come servizi Cloud Run (CLOUD_RUN_SERVICE). Esportando le tracce OpenTelemetry in Cloud Trace e i log in Cloud Logging, i servizi Cloud Run vengono rilevati ed elencati automaticamente nella pagina Impostazioni, dove puoi attivarli per il rilevamento delle anomalie degli agenti.

Sistema di rilevamento multilivello

Per bilanciare la copertura della valutazione e i costi, il rilevamento di anomalie degli agenti utilizza un sistema di rilevamento multilivello che analizza i log degli agenti per identificare e segnalare le sessioni anomale:

  • Livello 1 (rilevatori ML leggeri): modelli statistici e di machine learning leggeri ad alta velocità identificano i valori anomali iniziali e le tendenze di telemetria downstream per ridurre il campionamento del traffico di riferimento.
  • Livello 2 (analisi delle anomalie): l'analisi delle anomalie valuta le sessioni contrassegnate in modo asincrono per fornire verdetti sulle minacce e spiegazioni in linguaggio naturale.
  • Livello 3 (analisi a livello di chiamata): esegue un approfondimento delle singole esecuzioni degli strumenti, degli stati di esecuzione e delle cronologie dei parametri all'interno della traccia della conversazione.

Disponibilità

Il rilevamento anomalie degli agenti è disponibile per gli agenti che soddisfano i seguenti criteri. Gli agenti che soddisfano i criteri vengono riconosciuti automaticamente come agenti monitorati dal Rilevamento anomalie degli agenti (il servizio è a conoscenza dell'esistenza dell'agente, ma non viene eseguita alcuna operazione sui log dell'agente e non vengono addebitati costi). Devi abilitare esplicitamente un agente monitorato per il Rilevamento anomalie degli agenti per eseguire l'analisi attiva delle anomalie sui relativi log e tracce.

  • Runtime compatibile: deployment su Agent Runtime (motore di ragionamento), Cloud Run (CLOUD_RUN_SERVICE) o Google Kubernetes Engine (GKE_WORKLOAD).
  • Versione ADK: creato utilizzando ADK per Python, versione 2.1.0 o successive.
  • Bucket di logging e osservabilità: entrambi i bucket devono trovarsi nella stessa località dell'ambito di Agent Anomaly Detection (ad esempio, la località multiregionale US o EU). Per un ambito nella multi-regione degli Stati Uniti, possono anche trovarsi nella località global (ad esempio il bucket di logging _Default predefinito). Per un ambito nella multi-regione UE, utilizza un bucket di log nella località eu.
  • Acquisizione della telemetria: il tracciamento e il logging di OpenTelemetry sono abilitati utilizzando l'ADK.
  • Acquisizione dei metadati: la telemetria non elaborata è configurata per acquisire i contenuti di input dei prompt e di output delle risposte.
  • Tracciamento attivo: il flag enable_tracing non è impostato esplicitamente su false nella configurazione dell'ADK.
  • Autorizzazioni e accesso: i service account degli scanner regionali dispongono di autorizzazioni di lettura sufficienti sui log attivi e sui bucket di osservabilità. Il bucket di log deve avere Analisi dei log e Analisi di osservabilità abilitate.
  • Flusso di dati attivo: l'agente deve avere dati attivi; il sistema non può verificare la configurazione o registrare un agente che non ha dati di telemetria.

Gli agenti che non soddisfano questi criteri non sono rilevabili dal Rilevamento anomalie degli agenti e non vengono visualizzati nell'elenco degli agenti monitorati da attivare.

Categorie di minacce

Il rilevamento anomalie degli agenti monitora continuamente le attività degli agenti e segnala i rischi in categorie chiave allineate ai framework di sicurezza degli agenti:

  • Uso improprio degli strumenti (OWASP ASI02): rileva quando gli strumenti vengono utilizzati in modi non sicuri o non previsti, ad esempio tramite concatenamento di strumenti pericolosi, manipolazione dei parametri o prompt injection indiretta.
  • Abuso dei privilegi di identità (OWASP ASI03): identifica le azioni non autorizzate derivanti da delega di attendibilità dinamica, falsificazione di persona, escalation della memoria o vulnerabilità di tipo Confused Deputy.
  • Agentic cascading failures (OWASP ASI08): monitora la propagazione degli errori, i loop di esecuzione infiniti, i tentativi di ripetizione oscillanti e le amplificazioni dei Feedback Loop negli Agentic Workflows.
  • Agenti canaglia (OWASP ASI10): segnala quando un agente abbandona il ruolo dichiarato, bypassa i sistemi di protezione o devia dalle istruzioni di sistema assegnate.
  • Esaurimento delle risorse: rileva un consumo eccessivo intenzionale o incontrollato di risorse di computing, token LLM o larghezza di banda di rete.

Attiva per provare il rilevamento anomalie degli agenti

Per attivare la funzionalità di rilevamento anomalie degli agenti, compila questo modulo: Modulo di richiesta di accesso al rilevamento anomalie degli agenti.

Utilizza il rilevamento anomalie degli agenti

Se hai già attivato l'utilizzo del rilevamento di anomalie degli agenti, consulta Rilevamento anomalie degli agenti per istruzioni sull'utilizzo.