Panoramica di AI Protection

AI Protection ti aiuta a gestire la security posture dei tuoi workload AI fornendo una visualizzazione della sicurezza dell'AI nel tuo Google Cloud ambiente, e aiutandoti a rilevare le minacce e mitigare i rischi per il tuo inventario di AI. Questo documento fornisce una panoramica di AI Protection, inclusi i suoi vantaggi e diversi concetti chiave.

AI Protection è disponibile con le attivazioni di Security Command Center a livello di organizzazione e di progetto.

Quando attivi Security Command Center a livello di organizzazione, la dashboard Sicurezza AI e le visualizzazioni Sicurezza AI nelle pagine della console mostrano i dati aggregati di tutti i progetti e le risorse all'interno dell'organizzazione.

Quando attivi Security Command Center a livello di progetto, la dashboard Sicurezza AI e le visualizzazioni nelle pagine della console mostrano i dati relativi alle risorse del progetto selezionato.

Funzionalità di AI Protection

AI Protection ti aiuta a gestire le minacce e i rischi per i componenti dei tuoi sistemi di AI. Il livello di servizio determina le funzionalità disponibili, tra cui:

  • Valuta l'inventario degli asset AI: comprendi i tuoi sistemi AI e asset.
  • Identifica le vulnerabilità (livelli di servizio Premium ed Enterprise (ritirati)): identifica le vulnerabilità del software (CVE) e i secret in testo normale nei workload agentici di cui è stato eseguito il deployment con Agent Runtime.
  • Identifica i rischi (livelli di servizio Premium ed Enterprise (ritirati)): identifica i rischi e il loro impatto sull'ecosistema in base alla simulazione del percorso di attacco e alle regole del grafico di sicurezza predefinite, con agenti e server MCP come risorse di alto valore.
  • Rileva gli agenti con privilegi eccessivi: rileva gli agenti di Agent Runtime a cui sono state concesse autorizzazioni eccessive.
  • Gestisci la conformità: verifica in modo proattivo che gli asset AI nei tuoi deployment rispettino gli standard di sicurezza pertinenti. Il livello di servizio Standard include i risultati di sicurezza di base con Security Essentials, mentre i livelli di servizio Premium ed Enterprise includono la conformità avanzata del framework.
  • Rileva e gestisci le minacce: rileva e rispondi in modo tempestivo alle potenziali minacce ai tuoi sistemi e asset AI.

Casi d'uso di AI Protection

AI Protection aiuta le organizzazioni a migliorare la propria sicurezza identificando e mitigando le minacce e i rischi correlati ai sistemi di AI e ai dati sensibili. I seguenti casi d'uso sono esempi di come AI Protection può essere utilizzato in diverse organizzazioni:

  • Istituto di servizi finanziari: dati finanziari dei clienti

    Un grande istituto di servizi finanziari utilizza modelli di AI che elaborano dati finanziari sensibili.

    • Sfida: l'elaborazione di dati finanziari altamente sensibili con modelli di AI comporta diversi rischi, tra cui il rischio di violazioni dei dati, l'esfiltrazione dei dati durante l'addestramento o l'inferenza e le vulnerabilità nell'infrastruttura di AI sottostante.
    • Caso d'uso: AI Protection monitora continuamente i workflow di AI per rilevare attività sospette, rileva l'accesso non autorizzato ai dati e il comportamento anomalo dei modelli, esegue la classificazione dei dati sensibili e aiuta a migliorare la conformità a normative come PCI DSS e GDPR.

  • Fornitore di servizi sanitari: privacy e conformità dei pazienti

    Un importante fornitore di servizi sanitari gestisce le cartelle cliniche elettroniche e utilizza l'AI per la diagnostica e la pianificazione del trattamento, gestendo i dati sanitari protetti (PHI).

    • Sfida: i dati PHI analizzati dai modelli di AI sono soggetti a normative rigorose come la HIPAA. I rischi includono l'esposizione accidentale dei dati PHI a causa di configurazioni errate o attacchi dannosi che prendono di mira i sistemi di AI per i dati dei pazienti.
    • Caso d'uso: AI Protection identifica e invia avvisi in caso di potenziali violazioni della HIPAA, rileva l'accesso non autorizzato ai dati PHI da parte di modelli o utenti, segnala i servizi di AI vulnerabili e potenzialmente configurati in modo errato e monitora le perdite di dati.

  • Azienda di produzione e robotica: proprietà intellettuale proprietaria

    Un'azienda di produzione specializzata in robotica e automazione avanzate si affida fortemente all'AI per ottimizzare le linee di produzione e il controllo robotico, con una proprietà intellettuale (PI) vitale incorporata nei suoi algoritmi di AI e nei dati di produzione.

    • Sfida: gli algoritmi di AI proprietari e i dati operativi sensibili sono vulnerabili al furto da parte di minacce interne o avversari esterni, il che potrebbe portare a uno svantaggio competitivo o a un'interruzione operativa.
    • Caso d'uso: AI Protection monitora l'accesso non autorizzato ai modelli di AI e ai repository di codice, rileva i tentativi di esfiltrazione dei modelli addestrati e i pattern di accesso ai dati insoliti e segnala le vulnerabilità negli ambienti di sviluppo di AI per impedire il furto di proprietà intellettuale.

Servizi di rilevamento in AI Protection

La sezione seguente descrive le regole e i servizi di rilevamento che creano risultati quando abiliti AI Protection. Sia il livello di servizio Security Command Center sia l'ambito di attivazione (a livello di organizzazione o di progetto) determinano i servizi di rilevamento supportati da Security Command Center e i risultati creati. Security Command Center abilita automaticamente alcuni servizi di rilevamento, ma devi configurare manualmente gli altri. Per ulteriori informazioni, consulta Configurare AI Protection.

Servizio AI Discovery

Si tratta di un servizio integrato che utilizza i dati di Cloud Monitoring per scoprire i modelli di AI e determinare se Model Armor protegge i modelli. Nel livello di servizio Standard AI Discovery non supporta il rilevamento dei modelli Gemini.

Per informazioni sui risultati creati da questo servizio, consulta Risultati del servizio AI Discovery.

Framework di Compliance Manager

AI Protection utilizza i framework di Compliance Manager di cui Security Command Center esegue automaticamente il deployment in modalità di rilevamento.

Framework integrati di Compliance Manager

AI Protection include i seguenti framework. Quando abiliti AI Protection, Security Command Center abilita automaticamente questi framework nella tua organizzazione o nel tuo progetto.

A seconda del livello di servizio, puoi configurare framework e controlli cloud aggiuntivi di Compliance Manager. Per ulteriori informazioni su Compliance Manager, consulta Compliance Manager.

Framework personalizzati di Compliance Manager

Puoi creare framework personalizzati copiando i framework integrati disponibili nel tuo livello di servizio.

  • Personalizzazione: puoi aggiungere o rimuovere i controlli cloud nei framework personalizzati in base alle tue policy di sicurezza.
  • Applicazione mirata: puoi applicare framework personalizzati a organizzazioni, cartelle o progetti specifici. Ad esempio, puoi applicare controlli giurisdizionali specifici a cartelle specifiche per assicurarti che i dati rimangano all'interno di una determinata regione geografica.
  • Limitazione: non puoi assegnare framework di AI Protection alle applicazioni.

Regole di Event Threat Detection per gli asset di Gemini Enterprise Agent Platform

Event Threat Detection rileva diverse potenziali minacce che coinvolgono gli asset di Gemini Enterprise Agent Platform, come attività anomale del account di servizio, modifiche delle autorizzazioni sensibili e abuso dell'identità agentica.

Le categorie di risultati che si applicano agli asset AI includono le seguenti:

  • Persistenza: Nuovo metodo API AI
  • Persistenza: Nuova area geografica per il servizio AI
  • Escalation dei privilegi: Simulazione anomala dell'identità del service account per l'attività di amministrazione AI
  • Escalation dei privilegi: Simulatore anomalo dell'identità di un service account per l'accesso ai dati AI
  • Escalation dei privilegi: Delega anomala del service account con più passaggi per l'attività di amministrazione AI
  • Escalation dei privilegi: Delega anomala del service account con più passaggi per l'accesso ai dati AI
  • Escalation dei privilegi: Simulatore anomalo dell'identità del service account per l'attività di amministrazione AI
  • Accesso iniziale: Attività dell'account di servizio inattivo nel servizio AI
  • Persistenza: IAM Anomalous Grant to Agentic Identity
  • Accesso alle credenziali: Agentic Identity Credential Used Outside of Google Cloud
  • Persistenza: Autorizzazione AI sensibile aggiunta al ruolo personalizzato
  • Persistenza: Ruolo sensibile concesso dall'agente AI
  • Persistenza: Ruolo sensibile concesso all'agente AI esterno
  • Evasione delle difese: Ruolo TokenCreator a livello di progetto concesso all'agente AI
  • Evasione delle difese: Ruolo TokenCreator a livello di cartella concesso all'agente AI
  • Evasione delle difese: Ruolo TokenCreator a livello di organizzazione concesso all'agente AI

Per un elenco completo dei risultati di Event Threat Detection che si applicano agli asset AI, consulta Panoramica di Event Threat Detection.

Rilevamento delle minacce di Agent Platform per Agent Runtime

Il rilevamento delle minacce di Agent Platform (anteprima) fornisce il rilevamento delle minacce di runtime per gli agenti di cui è stato eseguito il deployment in Agent Runtime. Monitora gli agenti in esecuzione per rilevare potenziali attacchi e genera risultati in Security Command Center.

Il rilevamento delle minacce di Agent Platform genera risultati per Agent Runtime, incluse le seguenti categorie:

  • Comando e controllo: Strumento di steganografia rilevato
  • Accesso alle credenziali: Find Google Cloud Credentials
  • Accesso alle credenziali: Ricognizione chiave GPG
  • Accesso alle credenziali: Cerca chiavi private o password
  • Evasione delle difese: Riga di comando file ELF Base64
  • Evasione delle difese: Script Python con codifica Base64 eseguito
  • Evasione delle difese: Script shell con codifica Base64 eseguito
  • Evasione delle difese: Avvia strumento di compilazione codice nel container
  • Esecuzione: Esecuzione del codice remoto Netcat nel container
  • Esecuzione: Possibile esecuzione di comandi arbitrari tramite CUPS (CVE-2024-47177)
  • Esecuzione: Possibile esecuzione di comando remoto rilevata
  • Esecuzione: Esecuzione del programma con ambiente proxy HTTP non consentito
  • Esecuzione: Rilevata reverse shell Socat
  • Esecuzione: Oggetto condiviso OpenSSL sospetto caricato
  • Esfiltrazione: Avvia strumenti di copia file remoti nel container
  • Impatto: Rileva cmdline dannose
  • Impatto: Rimuovi dati collettivi dal disco
  • Impatto: Attività sospetta di cryptomining mediante il protocollo Stratum
  • Escalation dei privilegi: Abuso di sudo per l'escalation dei privilegi (CVE-2019-14287)
  • Escalation dei privilegi: Vulnerabilità di escalation dei privilegi locali di Polkit (CVE-2021-4034)
  • Escalation dei privilegi: Potenziale escalation dei privilegi sudo (CVE-2021-3156)
  • Esecuzione: Python dannoso eseguito
  • Esecuzione: Container escape
  • Esecuzione: Esecuzione dello strumento di attacco Kubernetes
  • Esecuzione: Esecuzione degli strumenti di ricognizione locale
  • Impatto: Script dannoso eseguito
  • Impatto: Rilevato URL dannoso
  • Esecuzione: Shell secondaria imprevista

Scopri di più sul rilevamento delle minacce di Agent Platform.

Valutazione di vulnerabilità per Agent Platform

La valutazione di vulnerabilità per Agent Platform (anteprima) identifica le vulnerabilità e i secret in testo non crittografato, come credenziali, chiavi, token di accesso o certificati, nelle immagini container di Gemini Enterprise Agent Platform.

Per ulteriori informazioni, consulta Valutazione di vulnerabilità per Agent Platform in "Servizi di rilevamento".

Notebook Security Scanner

Notebook Security Scanner (anteprima) esegue la scansione dei notebook Colab Enterprise per rilevare le vulnerabilità nei pacchetti Python.

Per informazioni, consulta Notebook Security Scanner in "Servizi di rilevamento".

Sensitive Data Protection

Il servizio di rilevamento di Sensitive Data Protection è un servizio completamente gestito Google Cloud che ti aiuta a scoprire, classificare e proteggere i tuoi dati sensibili. Puoi utilizzare Sensitive Data Protection per determinare se stai archiviando dati sensibili o informazioni che consentono l'identificazione personale (PII).

Per ulteriori informazioni, consulta Risultati di Sensitive Data Protection in "Servizi di rilevamento".

Model Armor

Dopo aver abilitato Model Armor e averlo configurato per l'integrazione con uno o più componenti correlati all'AI, puoi esaminare i risultati di Model Armor in Security Command Center.

Nel livello di servizio Standard di Security Command Center, AI Protection non supporta i modelli Gemini.

Per configurare Model Armor, consulta Creare e gestire i modelli.

Risk Engine

Risk Engine è una funzionalità di Security Command Center che valuta l'esposizione al rischio dei deployment cloud, assegna punteggi di esposizione all'attacco ai risultati delle vulnerabilità e alle risorse di alto valore e schematizza i percorsi che un potenziale attaccante potrebbe intraprendere per raggiungere le risorse di alto valore.

Per ulteriori informazioni, consulta Risk Engine in "Servizi di rilevamento".

Risorse supportate in AI Protection

AI Protection rileva gli asset utilizzando i seguenti meccanismi:

  • Asset AI dichiarativi: asset monitorati dagli strumenti di gestione del ciclo di vita dell'AI (come Gemini Enterprise Agent Platform).
  • Asset AI inferiti: asset per uso generico (come asset di calcolo e di archiviazione) che elaborano dati o workload AI.
  • Modello come servizio (solo API): asset che effettuano chiamate programmatiche a modelli di AI di prima o terza parte.

Questa sezione definisce l'inventario e gli asset AI supportati che AI Protection può contribuire a proteggere.

  • App Gemini Enterprise e Agent Search: sono sistemi di AI in grado di percepire il proprio ambiente, prendere decisioni e intraprendere azioni per raggiungere obiettivi specifici.
  • Endpoint: i workload delle applicazioni AI vanno da strumenti interni volti a migliorare la produttività dei dipendenti a soluzioni rivolte ai consumatori progettate per migliorare l'esperienza utente e promuovere l'attività. Alcuni esempi sono agenti AI, assistenti virtuali, chatbot di AI conversazionale e consigli personalizzati. AI Protection li identifica come endpoint di Agent Platform nella scheda Risorse AI della pagina Asset.
  • Origini dati: le origini dati supportate includono tabelle BigQuery, Cloud Storage, set di dati di Agent Platform, e datastore di Gemini Enterprise.
  • Modelli: AI Protection identifica i modelli di AI come modelli di AI di base, modelli di AI ottimizzati, modelli di AI di prima parte standard e modelli di AI personalizzati. Di seguito trovi alcuni esempi.
  • Asset AI: gli asset AI contribuiscono alle pipeline di operazioni di machine learning e vengono utilizzati dai workload AI. I tipi di asset AI includono i seguenti:
  • Server Model Context Protocol (MCP): AI Protection identifica i server MCP catalogati in Agent Registry. Per utilizzare questa funzionalità, devi configurare l'API App Hub in ogni progetto che ospita un server MCP.

Impatto delle modifiche del livello di servizio

Se esegui il downgrade del livello di servizio da Premium o Enterprise a Standard, il downgrade influisce sulle funzionalità di AI Protection come segue:

  • Servizi di rilevamento: Security Command Center disabilita i servizi di rilevamento e i framework di Compliance Manager non supportati dal livello Standard. Per ulteriori informazioni, consulta Gestire i livelli di servizio in Compliance Manager.
  • Funzionalità di indagine: perdi l'accesso alle funzionalità di indagine avanzate, come le simulazioni del percorso di attacco per gli asset AI, la valutazione delle vulnerabilità degli agenti, e il rilevamento degli agenti con privilegi eccessivi.
  • I risultati diventano inattivi: i risultati creati dai framework di Compliance Manager non supportati nel livello Standard diventano inattivi. Per ulteriori informazioni, consulta Gestire i livelli di servizio in Compliance Manager.

Se esegui l'upgrade al livello Premium o Enterprise, Security Command Center ripristina le funzionalità avanzate, ma non recupera automaticamente i deployment dei framework rimossi durante il downgrade. Devi eseguire di nuovo il deployment dei framework manualmente.

Passaggi successivi