Esaminare la sicurezza dell'AI

Livelli di servizio Standard, Premium ed Enterprise (ritirati)

Il livello di servizio Security Command Center Enterprise verrà chiuso il 21 maggio 2027. Se la tua organizzazione utilizza il livello di servizio Enterprise, verrà eseguito automaticamente il passaggio al livello di servizio Premium a partire dal 21 maggio 2027. Contatta il tuo rappresentante dell'account o uno specialista delle vendite diGoogle Cloud se hai domande.

AI Protection fornisce strumenti per visualizzare l'inventario degli asset AI della tua organizzazione o del tuo progetto, analizzare i risultati di sicurezza e rivedere le mitigazioni proposte per rischi e minacce. Questa guida descrive come gestire la sicurezza dell'AI utilizzando la dashboard AI Security e la pagina Asset.

Il livello di servizio di Security Command Center determina le funzionalità disponibili nella dashboard AI Security e nella scheda Risorse AI della pagina Asset. Per informazioni sulle funzionalità disponibili con ogni service tier, consulta la sezione Panoramica di AI Protection.

Prima di iniziare

• Configura AI Protection.
• Concedi i ruoli Identity and Access Management (IAM) richiesti agli utenti che accedono al dashboard AI Security e alla scheda Risorse AI > Asset. Per saperne di più, consulta Ruoli obbligatori.

Utilizzare la dashboard AI Security

La dashboard AI Security ti consente di visualizzare l'inventario degli asset AI della tua organizzazione o del tuo progetto e di esaminare le mitigazioni proposte per rischi e minacce.

Accedere alla dashboard per la sicurezza dell'AI

Per accedere alla dashboard AI Security, nella console Google Cloud , vai alla pagina Panoramica dei rischi > AI Security:

Vai a Sicurezza dell'AI

Nota: per visualizzare la dashboard, devi disporre di uno dei ruoli IAM nella sezione Ruoli obbligatori.

Per maggiori informazioni, consulta la dashboard per la sicurezza dell'AI.

Comprendere la gestione dei rischi per i sistemi di AI

Questa sezione identifica i potenziali rischi per i tuoi sistemi di AI, mostrando i principali rischi nel tuo inventario di AI.

Per visualizzare una visualizzazione e i dettagli di un problema specifico, fai clic sul problema.

Visualizzare le minacce AI

Questa sezione evidenzia le minacce più recenti alle tue risorse AI.

In questa sezione puoi:

• Per visualizzare tutte le minacce alle tue risorse AI, fai clic su Visualizza tutto.
• Per visualizzare informazioni dettagliate su una minaccia specifica, fai clic sulla minaccia.

Visualizzare l'inventario AI

Questa sezione fornisce un riepilogo visivo dell'inventario delle risorse AI, inclusi i progetti che utilizzano l'AI generativa, i modelli personalizzati attivi (e i modelli Gemini per i livelli di servizio Premium ed Enterprise (ritirati)) e i set di dati utilizzati per addestrare i modelli di terze parti.

In questa sezione puoi:

• Per visualizzare i dettagli dell'inventario, fai clic su un nodo qualsiasi della visualizzazione.
• Per visualizzare un elenco dettagliato dei singoli asset, fai clic sul tooltip. Questo elenco include modelli personalizzati o modelli Gemini (disponibili per i livelli di servizio Premium ed Enterprise (deprecato)).
• Per visualizzare i dettagli di un modello, fai clic sul modello. Questa visualizzazione mostra dettagli come gli endpoint in cui è ospitato il modello e il set di dati di addestramento. Se Sensitive Data Protection è abilitato, la visualizzazione dei set di dati indica anche se il set di dati contiene dati sensibili.

Esaminare il riepilogo dei risultati del framework AI

Questa sezione ti aiuta a valutare i risultati generati dalle policy di sicurezza dell'AI e dalle policy di sicurezza dei dati. Include le seguenti schede:

• Risultati: questa sezione mostra un riepilogo dei risultati generati dalle policy di sicurezza dell'AI e dalle policy di sicurezza dei dati, ad esempio Gemini model detected e Gemini model not protected by Model Armor (i risultati relativi ai modelli Gemini sono disponibili per i livelli di servizio Premium ed Enterprise (ritirati)).

  • Per visualizzare tutti i risultati, fai clic su Visualizza tutti i risultati.
  • Per visualizzare i risultati per una categoria specifica, fai clic sul conteggio dei risultati accanto alla categoria.
  • Per visualizzare i dettagli di un singolo risultato, fai clic sul risultato.

• Dati sensibili nei set di dati Vertex AI: mostra un riepilogo dei risultati relativi ai dati sensibili nei tuoi set di dati, come segnalato da Sensitive Data Protection. Per saperne di più, vedi Introduzione a Gemini Enterprise Agent Platform.

Esaminare i risultati di Model Armor

Questa sezione mostra un grafico del numero totale di prompt e risposte scansionati da Model Armor, insieme al numero di problemi rilevati. Il grafico fornisce anche statistiche di riepilogo per tipi di problemi specifici, come prompt injection, tentativi di jailbreak ed esposizione di dati sensibili.

Per i workload agentici, puoi configurare Model Armor su Agent Gateway per filtrare prompt e risposte da e verso gli agenti.

Questo grafico utilizza le metriche pubblicate da Model Armor in Cloud Monitoring. Per saperne di più, consulta la panoramica di Model Armor.

Esaminare i risultati della valutazione di vulnerabilità di Agent Platform

Anteprima

Questa funzionalità è soggetta ai "Termini dell'offerta pre-GA" nella sezione dei Termini di servizio generali dei Termini specifici dei servizi. Le funzionalità pre-GA sono disponibili "così come sono" e potrebbero avere un supporto limitato. Per ulteriori informazioni, consulta le descrizioni della fase di lancio.

I risultati generati dalla valutazione delle vulnerabilità di Agent Platform includono informazioni sulla posizione e sul tipo di secret, ma non il valore del secret.

Per esaminare i risultati generati dalla valutazione di vulnerabilità di Agent Platform:

1. Nella console Google Cloud , vai alla pagina Risultati di Security Command Center.

   Vai a Risultati

2. Seleziona il tuo progetto o la tua organizzazione. Google Cloud
3. Nella sezione Filtri rapidi, nella sottosezione Classe, seleziona Secrets. I risultati della query vengono aggiornati per mostrare solo i risultati corrispondenti.
4. Per visualizzare i dettagli di un risultato specifico, fai clic sul nome del risultato nella colonna Categoria. Si apre il riquadro dei dettagli del risultato e viene visualizzata la scheda Riepilogo.
5. Nella scheda Riepilogo, nella sezione È stato rilevato, visualizza la Descrizione, quindi fai clic sui seguenti link per ulteriori dettagli:
   • File: visualizza informazioni sulla posizione in cui è stato trovato il secret.
   • Visualizza dettagli del secret: visualizza il tipo di secret identificato.

Esaminare le risorse AI

Oltre alla dashboard AI Security, puoi ispezionare ed eseguire query sull'inventario degli asset AI della tua organizzazione o del tuo progetto nella pagina Asset della consoleGoogle Cloud utilizzando la scheda Risorse AI.

La scheda Risorse AI fornisce una visualizzazione dettagliata e filtrabile dei sistemi e degli asset AI rilevati, tra cui:

• Modelli
• Endpoint
• Origini dati
• Pipeline
• Agenti
• Server Model Context Protocol (MCP)
• Notebook

Puoi utilizzare la scheda Risorse AI per:

• Comprendi il tuo inventario AI: visualizza elenchi completi di asset AI attivi nella tua organizzazione o nel tuo progetto, filtrati per progetto, posizione o tipo di risorsa.
• Esegui indagini sulla sicurezza: esamina i metadati completi, la cronologia delle modifiche e i criteri IAM associati di risorse AI specifiche.
• Esamina i risultati correlati: visualizza rapidamente tutti i risultati di sicurezza associati a una risorsa AI specifica per valutare la sua esposizione al rischio e determinare i passaggi di correzione necessari.

Per saperne di più sulla visualizzazione e sul filtraggio degli asset AI nella console, consulta Esaminare gli asset monitorati da Security Command Center.

Passaggi successivi

• Scopri di più su AI Protection.
• Configura AI Protection.
• Valuta il rischio utilizzando la dashboard per la sicurezza dell'AI.