Panoramica del rilevamento anomalie degli agenti

Il rilevamento anomalie degli agenti fornisce un livello di supervisione e controllo dinamico basato sul ragionamento progettato specificamente per gli agenti AI aziendali autonomi. A differenza degli strumenti di sicurezza delle applicazioni convenzionali che eseguono la scansione solo del codice statico per rilevare le vulnerabilità o ispezionano il traffico di rete nel perimetro, il rilevamento anomalie degli agenti valuta le tracce di ragionamento live, le interazioni degli strumenti e i flussi di esecuzione degli agenti per rilevare intenti sospetti, violazioni delle norme e anomalie comportamentali.

Il cuore del rilevamento anomalie degli agenti è un framework di analisi delle anomalie multilivello che analizza in modo asincrono l'attività della sessione dell'agente. Importando i log e le tracce di esecuzione di OpenTelemetry, il servizio determina se un agente opera al di fuori dei limiti previsti senza introdurre latenza di esecuzione nei flussi di lavoro degli agenti live.

Vantaggi principali

Il rilevamento anomalie degli agenti include le seguenti funzionalità:

Vantaggio o funzionalità Descrizione
Sicurezza asincrona in tempo quasi reale La telemetria (log e tracce) viene elaborata fuori banda, mantenendo tempi di risposta rapidi degli agenti. Un modello di analisi multilivello consente di mantenere l'efficienza dei costi con valutazioni in tempo quasi reale.
Analisi dell'intento basata sul ragionamento L'analisi delle anomalie ragiona sulle tracce contrassegnate per distinguere la logica di business complessa dalle azioni non autorizzate.
Rilevamento completo delle minacce Esegue il controllo dei rischi per la sicurezza specifici degli agenti immediatamente con i rilevatori predefiniti che acquisiscono i pattern di minaccia descritti in OWASP Top 10 per le minacce alla sicurezza degli agenti, tra cui uso improprio degli strumenti, abuso di privilegi, errori degli agenti a cascata, comportamenti non autorizzati ed esaurimento delle risorse.
Integrazione con Security Command Center I risultati delle anomalie vengono visualizzati direttamente in Security Command Center per la gestione centralizzata della sicurezza, la ricerca e il monitoraggio degli incidenti. Per informazioni su Security Command Center, vedi Panoramica di Security Command Center. Nota:questa integrazione richiede uno dei livelli supportati da Security Command Center: Standard, Premium o Enterprise.

Sistema di rilevamento multilivello

Per bilanciare la copertura e il costo della valutazione, il rilevamento anomalie degli agenti utilizza un sistema di rilevamento multilivello che analizza i log degli agenti per identificare e segnalare le sessioni anomale:

  • Livello 1 (rilevatori ML leggeri): i modelli di machine learning statistici e leggeri ad alta velocità identificano i valori anomali iniziali e le tendenze della telemetria downstream per ridurre il campionamento del traffico di base.
  • Livello 2 (analisi delle anomalie): l'analisi delle anomalie valuta in modo asincrono le sessioni contrassegnate per generare verdetti sulle minacce e ragionamenti di spiegazione in linguaggio naturale.
  • Livello 3 (analisi a livello di chiamata): esegue un'analisi approfondita delle singole esecuzioni degli strumenti, degli stati di esecuzione e delle cronologie dei parametri all'interno della traccia della conversazione.

Disponibilità

Il rilevamento anomalie degli agenti è disponibile per gli agenti che soddisfano i seguenti criteri. Gli agenti che soddisfano i criteri vengono riconosciuti automaticamente come agenti monitorati dal rilevamento anomalie degli agenti (il servizio è a conoscenza dell'esistenza dell'agente, ma non viene eseguito nulla sui log dell'agente e non vengono addebitati costi). Devi abilitare esplicitamente un agente monitorato per il rilevamento anomalie degli agenti affinché l'analisi attiva delle anomalie venga eseguita sui relativi log e tracce.

  • Runtime compatibile: deployment su Agent Runtime.
  • Versione ADK: creato utilizzando Agent Development Kit (ADK) per Python, versione 1.2 o successive. È consigliata la versione 2.1.0 o successive.
  • Bucket di logging e osservabilità della regione Stati Uniti: il rilevamento anomalie degli agenti è attualmente disponibile per i bucket US (multi-regione).
  • Bucket di logging e osservabilità nella stessa regione Stati Uniti: i bucket di logging e osservabilità si trovano nella stessa regione.
  • Acquisizione della telemetria: il tracciamento e il logging di OpenTelemetry sono abilitati utilizzando l'ADK.
  • Acquisizione dei metadati: la telemetria non elaborata è configurata per acquisire i contenuti di input dei prompt e output delle risposte.
  • Tracciamento attivo: il flag enable_tracing non è impostato esplicitamente su false nella configurazione ADK.
  • Autorizzazioni e accesso: i service account degli scanner regionali dispongono di autorizzazioni di lettura sufficienti sui bucket di log e osservabilità attivi. Il bucket di log deve avere abilitato Analisi dei log e Analisi dell'osservabilità.
  • Flusso di dati attivo: l'agente deve avere dati attivi; il sistema non può verificare la configurazione o registrare un agente che non ha dati di telemetria data.

Gli agenti che non soddisfano questi criteri non sono rilevabili dal rilevamento anomalie degli agenti e non vengono visualizzati nell'elenco degli agenti monitorati da abilitare.

Categorie di minacce

Il rilevamento anomalie degli agenti monitora continuamente le attività degli agenti e segnala i rischi nelle categorie chiave allineate ai framework di sicurezza degli agenti:

  • Uso improprio degli strumenti (OWASP ASI02): rileva quando gli strumenti vengono utilizzati in modi non sicuri o non previsti, ad esempio tramite concatenamento di strumenti pericolosi, manipolazione dei parametri o inserimento di prompt indiretto.
  • Abuso di privilegi di identità (OWASP ASI03): identifica le azioni non autorizzate derivanti dalla delega dinamica dell'attendibilità, dalla falsificazione della persona, dall'escalation della memoria o dalle vulnerabilità del deputy confuso.
  • Errori a cascata degli agenti (OWASP ASI08): monitora la propagazione degli errori, i loop di esecuzione infiniti, i tentativi oscillanti e le amplificazioni del loop di feedback nei flussi di lavoro degli agenti.
  • Agenti non autorizzati (OWASP ASI10): segnala quando un agente abbandona il ruolo dichiarato , aggira le misure di sicurezza o si discosta dalle istruzioni di sistema assegnate.
  • Esaurimento delle risorse: rileva il consumo eccessivo intenzionale o incontrollato di calcolo, token LLM o larghezza di banda di rete.

Attivare la prova del rilevamento anomalie degli agenti

Per attivare la prova del rilevamento anomalie degli agenti, compila questo modulo: Modulo di richiesta di accesso al rilevamento anomalie degli agenti.

Utilizzare il rilevamento anomalie degli agenti

Se hai già attivato il rilevamento anomalie degli agenti, consulta la pagina Rilevamento anomalie degli agenti per le istruzioni sull'utilizzo.