Panoramica di AI Protection

AI Protection ti aiuta a gestire la security posture dei tuoi workload di AI nel tuo ambiente Google Cloud . Puoi utilizzarlo per ottenere visibilità sul tuo inventario di AI, rilevare le minacce e mitigare i rischi per i tuoi sistemi di AI.

AI Protection è disponibile con le attivazioni di Security Command Center a livello di organizzazione e di progetto. In base all'ambito di attivazione, la dashboard AI Security nella console Google Cloud mostra i dati aggregati di tutti i progetti e le risorse o i dati del progetto selezionato.

Funzionalità di AI Protection

AI Protection ti aiuta a gestire le minacce e i rischi per i componenti dei tuoi sistemi di AI. Il livello di servizio determina le funzionalità disponibili, che includono:

  • Valuta l'inventario degli asset AI: comprendi i tuoi sistemi e asset AI.
  • Identifica le vulnerabilità (livelli di servizio Premium ed Enterprise (obsoleto)): identifica le vulnerabilità del software (CVE) e i secret in testo non crittografato nei workload degli agenti di cui è stato eseguito il deployment con Agent Runtime.
  • Identifica i rischi (livelli di servizio Premium ed Enterprise (ritirato)): identifica i rischi e il loro impatto sull'ecosistema in base alla simulazione del percorso di attacco e alle regole predefinite del grafico di sicurezza, con agenti e server MCP come risorse di alto valore.
  • Rileva agenti con privilegi eccessivi: rileva gli agenti Agent Runtime a cui sono state concesse autorizzazioni eccessive.
  • Gestisci la conformità: verifica in modo proattivo che gli asset AI nei tuoi deployment rispettino gli standard di sicurezza pertinenti. Il livello di servizio Standard include risultati di sicurezza di base con Security Essentials, mentre i livelli di servizio Premium ed Enterprise includono la conformità avanzata ai framework.
  • Rileva e gestisci le minacce: rileva e rispondi alle potenziali minacce ai tuoi sistemi e asset di AI in modo tempestivo.

Casi d'uso di AI Protection

AI Protection aiuta le organizzazioni a migliorare la propria sicurezza identificando e mitigando le minacce e i rischi correlati ai sistemi di AI e ai dati sensibili. I seguenti casi d'uso sono esempi di come AI Protection può essere utilizzato in diverse organizzazioni:

  • Istituto di servizi finanziari: dati finanziari dei clienti

    Un grande istituto di servizi finanziari utilizza modelli di AI che elaborano dati finanziari sensibili.

    • Sfida: l'elaborazione di dati finanziari altamente sensibili con modelli di AI comporta diversi rischi, tra cui il rischio di violazioni dei dati, l'esfiltrazione dei dati durante l'addestramento o l'inferenza e le vulnerabilità nell'infrastruttura di AI sottostante.
    • Caso d'uso: AI Protection monitora continuamente i workflow di AI per rilevare attività sospette, lavora per rilevare l'accesso non autorizzato ai dati e il comportamento anomalo dei modelli, esegue la classificazione dei dati sensibili e aiuta a migliorare la conformità a normative come PCI DSS e GDPR.

  • Fornitore di servizi sanitari: privacy e conformità dei pazienti

    Un importante fornitore di servizi sanitari gestisce i riepiloghi salute elettronici e utilizza l'AI per la diagnostica e la pianificazione dei trattamenti, gestendo dati sanitari protetti (PHI).

    • Sfida: i PHI analizzati dai modelli di AI sono soggetti a normative rigorose come l'HIPAA. I rischi includono l'esposizione accidentale di PHI tramite configurazioni errate o attacchi dannosi che prendono di mira i sistemi di AI per i dati dei pazienti.
    • Caso d'uso: AI Protection identifica e segnala potenziali violazioni della normativa HIPAA, rileva l'accesso non autorizzato alle PHI da parte di modelli o utenti, segnala servizi di AI vulnerabili e potenzialmente configurati in modo errato e monitora la fuga di dati.

  • Azienda di produzione e robotica: proprietà intellettuale proprietaria

    Un'azienda manifatturiera specializzata in robotica avanzata e automazione si affida molto all'AI per ottimizzare le linee di produzione e il controllo robotico, con proprietà intellettuale (PI) vitale incorporata nei suoi algoritmi AI e nei dati di produzione.

    • Sfida: gli algoritmi di AI proprietari e i dati operativi sensibili sono vulnerabili al furto da parte di minacce interne o avversari esterni, il che potrebbe portare a uno svantaggio competitivo o a un'interruzione operativa.
    • Caso d'uso: AI Protection monitora l'accesso non autorizzato ai modelli di AI e ai repository di codice, rileva i tentativi di esfiltrazione dei modelli addestrati e i pattern di accesso ai dati insoliti e segnala le vulnerabilità negli ambienti di sviluppo dell'AI per prevenire il furto di IP.

Servizi di rilevamento in AI Protection

La sezione seguente descrive le regole e i servizi di rilevamento che creano risultati quando attivi AI Protection. Sia il livello di servizio di Security Command Center sia l'ambito di attivazione (a livello di organizzazione o di progetto) determinano i servizi di rilevamento supportati da Security Command Center e i risultati creati. Security Command Center attiva automaticamente alcuni servizi di rilevamento, ma devi configurarne altri manualmente. Per saperne di più, consulta Configura AI Protection.

Servizio AI Discovery

Si tratta di un servizio integrato che utilizza i dati di Cloud Monitoring per rilevare i modelli di AI e determinare se Model Armor li protegge. Nel livello di servizio Standard, AI Discovery non supporta il rilevamento dei modelli Gemini.

Per informazioni sui risultati creati da questo servizio, consulta Risultati del servizio AI Discovery.

Framework di Compliance Manager

AI Protection utilizza i framework di Compliance Manager che Security Command Center esegue automaticamente in modalità di rilevamento.

Framework integrati di Compliance Manager

AI Protection include i seguenti framework. Quando abiliti AI Protection, Security Command Center abilita automaticamente questi framework nella tua organizzazione o nel tuo progetto.

A seconda del livello di servizio, puoi configurare framework e controlli cloud aggiuntivi di Compliance Manager. Per saperne di più su Compliance Manager, consulta Compliance Manager.

Framework personalizzati di Compliance Manager

Puoi creare framework personalizzati creando copie dei framework integrati disponibili nel tuo livello di servizio.

  • Personalizzazione: puoi aggiungere o rimuovere i controlli cloud nei tuoi framework personalizzati in modo che corrispondano alle tue policy di sicurezza.
  • Applicazione mirata: puoi applicare framework personalizzati a organizzazioni, cartelle o progetti specifici. Ad esempio, puoi applicare controlli giurisdizionali specifici a cartelle specifiche per garantire che i dati rimangano all'interno di una determinata regione geografica.
  • Limitazione: non puoi assegnare framework di AI Protection alle applicazioni.

Regole di Event Threat Detection per gli asset di Gemini Enterprise Agent Platform

Event Threat Detection rileva diverse potenziali minacce che coinvolgono gli asset della piattaforma Gemini Enterprise Agent, come attività anomale dei account di servizio, modifiche alle autorizzazioni sensibili e abuso dell'identità degli agenti.

Le categorie di risultati che si applicano agli asset AI includono:

  • Persistenza: Nuovo metodo API AI
  • Persistenza: nuova area geografica per il servizio AI
  • Escalation dei privilegi: simulazione anomala dell'identità del service account per l'attività di amministrazione AI
  • Escalation dei privilegi: simulatore anomalo dell'identità di un service account per l'accesso ai dati AI
  • Escalation dei privilegi: delega anomala del service account con più passaggi per l'attività di amministrazione AI
  • Escalation dei privilegi: delega anomala del service account con più passaggi per l'accesso ai dati AI
  • Escalation dei privilegi: simulatore anomalo dell'identità del service account per l'attività di amministrazione AI
  • Accesso iniziale: attività del service account inattivo nel servizio AI
  • Persistenza: IAM Anomalous Grant to Agentic Identity
  • Accesso alle credenziali: credenziale di identità dell'agente utilizzata al di fuori di Google Cloud
  • Persistenza: autorizzazione AI sensibile aggiunta al ruolo personalizzato
  • Persistenza: ruolo sensibile concesso dall'agente AI
  • Persistenza: ruolo sensibile concesso all'agente AI esterno
  • Persistenza: accesso esterno concesso alle app API Discovery Engine
  • Impatto: importazione di documenti dell'API Discovery Engine di Gemini da parte di un utente esterno
  • Impatto: importazione di documenti dell'API Discovery Engine di Gemini da una risorsa esterna
  • Impatto: violazione del perimetro VPC per l'importazione di documenti dell'API Discovery Engine di Gemini
  • Evasione della difesa: ruolo TokenCreator a livello di progetto concesso all'agente AI
  • Evasione della difesa: ruolo Token Creator a livello di cartella concesso all'agente AI
  • Evasione della difesa: ruolo TokenCreator a livello di organizzazione concesso all'agente AI

Per un elenco completo dei risultati di Event Threat Detection che si applicano agli asset AI, consulta Panoramica di Event Threat Detection.

Agent Platform Threat Detection per Agent Runtime

Agent Platform Threat Detection (anteprima) fornisce il rilevamento delle minacce in runtime per gli agenti di cui è stato eseguito il deployment in Agent Runtime. Monitora gli agenti in esecuzione per rilevare potenziali attacchi e genera risultati in Security Command Center.

Agent Platform Threat Detection genera risultati per Agent Runtime, incluse le seguenti categorie:

  • Comando e controllo: Strumento di steganografia rilevato
  • Accesso alle credenziali: trova Google Cloud Credenziali
  • Accesso alle credenziali: Ricognizione chiave GPG
  • Accesso alle credenziali: Cerca chiavi private o password
  • Elusione delle difese: Riga di comando file ELF Base64
  • Elusione delle difese: Script Python con codifica Base64 eseguito
  • Elusione delle difese: Script shell con codifica Base64 eseguito
  • Evasione delle difese: Avvia strumento di compilazione codice nel container
  • Esecuzione: esecuzione di codice remoto Netcat nel container
  • Esecuzione: possibile esecuzione di comandi arbitrari tramite CUPS (CVE-2024-47177)
  • Esecuzione: Possibile esecuzione di comando remoto rilevata
  • Esecuzione: Esecuzione del programma con ambiente proxy HTTP non consentito
  • Esecuzione: Rilevata reverse shell Socat
  • Esecuzione: Oggetto condiviso OpenSSL sospetto caricato
  • Esfiltrazione: Avvia strumenti di copia file remoti nel container
  • Impatto: Rileva cmdline dannose
  • Impatto: rimuovi i dati collettivi dal disco
  • Impatto: attività sospetta di cryptomining mediante il protocollo Stratum
  • Escalation dei privilegi: abuso di sudo per l'escalation dei privilegi (CVE-2019-14287)
  • Escalation dei privilegi: vulnerabilità di escalation dei privilegi locali di Polkit (CVE-2021-4034)
  • Escalation dei privilegi: Potenziale escalation dei privilegi sudo (CVE-2021-3156)
  • Esecuzione: Python dannoso eseguito
  • Esecuzione: container escape
  • Esecuzione: Esecuzione dello strumento di attacco Kubernetes
  • Esecuzione: Esecuzione degli strumenti di ricognizione locale
  • Impatto: script dannoso eseguito
  • Impatto: rilevato URL dannoso
  • Esecuzione: shell secondaria imprevista

Scopri di più su Agent Platform Threat Detection.

Valutazione di vulnerabilità per Agent Platform

Agent Platform Vulnerability Assessment (anteprima) identifica le vulnerabilità e i secret in testo non crittografato, come credenziali, chiavi, token di accesso o certificati, nelle immagini container di Gemini Enterprise Agent Platform.

Per saperne di più, consulta Agent Platform Vulnerability Assessment in "Servizi di rilevamento".

Notebook Security Scanner

Notebook Security Scanner (anteprima) scansiona i notebook Colab Enterprise per rilevare le vulnerabilità nei pacchetti Python.

Per informazioni, consulta Notebook Security Scanner in "Servizi di rilevamento".

Sensitive Data Protection

Il servizio di rilevamento di Sensitive Data Protection è un servizio completamente gestito Google Cloud che ti aiuta a scoprire, classificare e proteggere i tuoi dati sensibili. Puoi utilizzare Sensitive Data Protection per determinare se stai archiviando informazioni sensibili o che consentono l'identificazione personale (PII).

Per saperne di più, consulta Risultati di Sensitive Data Protection in "Servizi di rilevamento".

Model Armor

Dopo aver attivato Model Armor e averlo configurato per l'integrazione con uno o più componenti correlati all'AI, puoi esaminare i risultati di Model Armor in Security Command Center.

Nel livello di servizio Security Command Center Standard, AI Protection non supporta i modelli Gemini.

Per configurare Model Armor, consulta Crea e gestisci i template.

Risk Engine

Il motore di rischio è una funzionalità di Security Command Center che valuta l'esposizione al rischio dei tuoi deployment cloud, assegna punteggi di esposizione agli attacchi ai risultati delle vulnerabilità e alle tue risorse di alto valore e traccia i percorsi che un potenziale utente malintenzionato potrebbe seguire per raggiungere le tue risorse di alto valore.

Per saperne di più, consulta Risk Engine in "Servizi di rilevamento".

Risorse supportate in AI Protection

AI Protection rileva gli asset utilizzando i seguenti meccanismi:

  • Asset AI dichiarativi: asset monitorati dagli strumenti di gestione del ciclo di vita dell'AI (come Gemini Enterprise Agent Platform).
  • Asset AI dedotti: asset per uso generico (come asset di computing e archiviazione) che elaborano dati o workload AI.
  • Model-as-a-Service (solo API): asset che effettuano chiamate programmatiche a modelli di AI proprietari o di terze parti.

Questa sezione definisce l'inventario e gli asset AI supportati che AI Protection può contribuire a proteggere.

  • App Gemini Enterprise e Agent Search: si tratta di sistemi di AI in grado di percepire il proprio ambiente, prendere decisioni e intraprendere azioni per raggiungere obiettivi specifici.
  • Endpoint: i workload delle applicazioni di AI spaziano dagli strumenti interni volti a migliorare la produttività dei dipendenti alle soluzioni rivolte ai consumatori progettate per migliorare l'esperienza utente e promuovere il business. Alcuni esempi sono gli agenti AI, gli assistenti virtuali, i chatbot AI conversazionali e i suggerimenti personalizzati. AI Protection li identifica come endpoint di Agent Platform nella scheda Risorse AI della pagina Asset.
  • Origini dati: le origini dati supportate includono tabelle BigQuery, Cloud Storage, set di dati Agent Platform e datastore Gemini Enterprise.
  • Modelli: AI Protection identifica i modelli di AI come modelli di AI di base, modelli di AI ottimizzati, modelli di AI proprietari standard e modelli di AI personalizzati. Alcuni esempi sono:
  • Asset AI: gli asset AI contribuiscono alle pipeline delle operazioni di machine learning e vengono utilizzati dai workload AI. I tipi di asset AI includono:
  • Server Model Context Protocol (MCP): AI Protection identifica i server MCP catalogati in Agent Registry. Per utilizzare questa funzionalità, devi configurare l'API App Hub in ogni progetto che ospita un server MCP.

Impatto delle modifiche al livello di servizio

Se esegui il downgrade del livello di servizio da Premium o Enterprise a Standard, il downgrade influisce sulle funzionalità di AI Protection come segue:

  • Servizi di rilevamento: Security Command Center disabilita i servizi di rilevamento e i framework di Compliance Manager non supportati dal livello Standard. Per saperne di più, consulta Gestisci i livelli di servizio gestito in Compliance Manager.
  • Funzionalità di indagine: perdi l'accesso alle funzionalità di indagine avanzate, come le simulazioni dei percorsi di attacco per gli asset AI, la valutazione delle vulnerabilità degli agenti e il rilevamento degli agenti con privilegi eccessivi.
  • I risultati diventano inattivi: i risultati creati dai framework di Compliance Manager non supportati nel livello Standard diventano inattivi. Per saperne di più, consulta Gestisci i livelli di servizio gestito in Compliance Manager.

Se esegui nuovamente l'upgrade al livello Premium o Enterprise, Security Command Center ripristina le funzionalità avanzate, ma non recupera automaticamente i deployment del framework rimossi durante il downgrade. Devi rifare il deployment dei framework manualmente.

Passaggi successivi