Panoramica di Agent Gateway per GKE

Quando esegui il deployment di agenti AI autonomi su Google Kubernetes Engine (GKE), questi workload si connettono a risorse esterne come server Model Context Protocol (MCP), API SaaS e altri agenti.

Poiché gli agenti AI determinano i loro percorsi di esecuzione in modo dinamico in base ai prompt degli utenti, le loro dipendenze di rete cambiano in tempo reale. Agent Gateway fornisce un modello di governance centralizzato per proteggere, gestire e monitorare questo traffico dinamico degli agenti.

Questo documento è rivolto ai platform engineer che gestiscono e proteggono l'infrastruttura GKE e agli sviluppatori che creano ed eseguono il deployment di agenti AI su GKE.

Perché utilizzare Agent Gateway?

Agent Gateway per GKE offre un'esperienza utente coerente per la gestione degli agenti autogestiti ospitati su GKE, con l'applicazione centralizzata delle policy di governance e accesso in tutte le interazioni degli agenti nel tuo parco risorse.

  • Applica il contesto semantico: applica i principi Zero Trust. Il gateway va oltre le regole del firewall, tenendo conto del contesto semantico, dell'intent e del contenuto del payload (prompt/risposte) di ogni interazione.
  • Autorizzazione composta: risolvi l'"imperativo dell'identità". I modelli di sicurezza possono gestire autorizzazioni composte, applicando norme che convalidano sia l'identità dell'agente (il codice è attendibile?) sia l'identità dell'utente (la persona dispone dell'autorizzazione?) ogni volta che gli agenti agiscono per conto di un utente.
  • Guardrail AI: per proteggere i workload da prompt injection, jailbreak ed esfiltrazione di dati, il gateway si integra conGoogle Cloud Model Armor. Utilizzando le associazioni di estensioni, puoi collegare i template di sanitizzazione delle richieste e delle risposte ai gateway per valutare i payload prima che raggiungano gli agenti o i target esterni.
  • Crittografia automatizzata: il gateway utilizza il proxy GKE Ambient senza sidecar e altri servizi di networking per automatizzare gli handshake mTLS, la terminazione TLS e l'ispezione tra i gateway e i workload degli agenti, senza richiedere modifiche al codice o gestione personalizzata dei certificati.
  • Osservabilità immediata: gli agenti regolati mostrano automaticamente una telemetria completa, tra cui il tracciamento delle sessioni con tracce a cascata interattive che mostrano i percorsi di esecuzione, le analisi dello stack, gli attributi e gli input e gli output passo passo.

Concetti fondamentali

La comprensione dei seguenti concetti e prodotti è fondamentale per lavorare con Agent Gateway su GKE:

  • Proxy GKE Ambient: un piano dati del mesh di servizi senza sidecar che semplifica il networking di GKE. Lo utilizzi per automatizzare il mutual TLS (mTLS) e intercettare il traffico degli agenti in uscita.
  • Secure Web Proxy (SWP): un proxy di forwarding trasparente utilizzato per applicare policy di sicurezza ed eseguire l'ispezione TLS sul traffico in uscita degli agenti.
  • Gateway GKE: l'implementazione GKE dell'API Gateway di Kubernetes, utilizzata per eseguire il provisioning dei bilanciatori del carico delle applicazioni per il traffico client-to-agent in entrata.
  • Model Armor: un servizio di sicurezza AI utilizzato per sanificare i prompt in entrata e le risposte in uscita per proteggere da prompt injection ed esfiltrazione di dati.
  • Identity-Aware Proxy (IAP): un servizio che stabilisce un livello di autorizzazione centrale, utilizzato qui per applicare le policy di accesso per il traffico in uscita tramite Secure Web Proxy.
  • Agent Identity: l'ID SPIFFE sicuro e associato al workload assegnato ai tuoi agenti, utilizzato per l'autenticazione e controllo dell'accesso.
  • Agent Registry: la directory centrale per tutti gli agenti, i server Model Context Protocol (MCP) e gli strumenti approvati nella tua organizzazione.
  • Binding dell'estensione: il meccanismo utilizzato per collegare estensioni personalizzabili di autorizzazione e sicurezza dei contenuti (come Model Armor) all'Agent Gateway per valutare i payload.

Come funziona

Puoi comporre Agent Gateway con i servizi di networking Google Cloud per proteggere flussi di interazione agentici specifici nei pattern di traffico in entrata e in uscita.

  • In uscita (da agente a ovunque): instrada in modo sicuro le richieste in uscita degli agenti a servizi, strumenti e altri agenti esterni. Configura il proxy GKE Ambient per intercettare e reindirizzare il traffico tramite un Secure Web Proxy (SWP)Google Cloud . SWP applica le policy di sicurezza, esegue l'ispezione TLS e ti consente di delegare le decisioni di accesso aGoogle Cloud Identity-Aware Proxy (IAP) o alle estensioni personalizzate.
  • In entrata (da client ad agente o server MCP): gestisci il modo in cui i client esterni e i servizi ospitati da Google interagiscono con i tuoi agenti autogestiti in un cluster GKE. Esegui il provisioning dei bilanciatori del carico delle applicazioni Google Cloudstandard (gateway GKE) e utilizzi le risorse personalizzate di Kubernetes per applicare misure di protezione complete. Utilizza GCPAuthzPolicy per applicare i controlli RBAC per l'identità, i metadati e lo strumento MCP e GCPExtensionBinding per la valutazione del payload e i guardrail delegati (come Model Armor).

Versioni e regioni supportate

Il cluster deve eseguire GKE versione 1.37.2-gke.1042000 o successiva, disponibile nel canale di rilascio rapido.

Inoltre, puoi utilizzare Agent Gateway per GKE solo nelle seguenti regioni:

  • europe-west1
  • us-central1

Quando utilizzare Agent Gateway

Utilizza Agent Gateway se esegui il deployment di agenti AI autogestiti su cluster GKE e devi eseguire una delle seguenti operazioni:

  • Proteggi e gestisci il modo in cui i tuoi agenti interagiscono con gli utenti, altri agenti e strumenti e servizi esterni.
  • Mantieni una security posture rigorosa senza rallentare i tuoi sviluppatori.
  • Monitora le prestazioni, il comportamento e l'integrità degli agenti.
  • Automatizza attività di networking complesse, tra cui mutual TLS (mTLS) e ispezione TLS.
  • Applica misure di salvaguardia specifiche per l'AI, come la sanitizzazione dei prompt.

Prerequisiti e requisiti

Prima di configurare la governance del traffico in entrata o in uscita, completa i seguenti prerequisiti:

  1. Abilita le API richieste:

    gcloud services enable \
        agentregistry.googleapis.com \
        certificatemanager.googleapis.com \
        gkehub.googleapis.com \
        iap.googleapis.com \
        modelarmor.googleapis.com \
        networksecurity.googleapis.com \
        networkservices.googleapis.com \
        privateca.googleapis.com \
        serviceextensions.googleapis.com
    
  2. Crea un nuovo cluster GKE configurato per Ambient Networking. Il cluster deve eseguire GKE 1.37.2-gke.1042000 o versioni successive, disponibile nel canale di rilascio rapido.

    Per creare un cluster Standard con tutte le funzionalità richieste abilitate, esegui questo comando:

    gcloud beta container clusters create CLUSTER_NAME \
        --machine-type=e2-standard-4 \
        --enable-ambient-networking \
        --enable-dataplane-v2 \
        --enable-fleet \
        --gateway-api=standard \
        --location=LOCATION \
        --release-channel=rapid \
        --workload-pool=PROJECT_ID.svc.id.goog
    

    Sostituisci quanto segue:

    • CLUSTER_NAME: il nome del tuo cluster.
    • LOCATION: la regione o la zona del tuo cluster.
    • PROJECT_ID: il tuo ID progetto Google Cloud .
  3. Configura kubectl per comunicare con il tuo cluster:

    gcloud container clusters get-credentials CLUSTER_NAME \
        --location=LOCATION
    

    Sostituisci quanto segue:

    • CLUSTER_NAME: il nome del tuo cluster.
    • LOCATION: la regione o la zona del tuo cluster.

Passaggi successivi