Esaminare la sicurezza dell'AI

AI Protection fornisce strumenti per visualizzare l'inventario degli asset AI della tua organizzazione, esaminare i risultati di sicurezza e rivedere le mitigazioni proposte per rischi e minacce. Questa guida descrive come gestire la sicurezza dell'AI utilizzando la dashboard Sicurezza AI e la pagina Asset.

Prima di iniziare

  • Configura AI Protection.
  • Concedi i ruoli IAM (Identity and Access Management) richiesti agli utenti che accedono alla dashboard Sicurezza AI e alla scheda Asset > Risorse AI. Per saperne di più, vedi Ruoli richiesti.

Utilizzare la dashboard Sicurezza AI

La dashboard Sicurezza AI ti consente di visualizzare l'inventario degli asset AI della tua organizzazione e di esaminare le mitigazioni proposte per rischi e minacce.

Accedere alla dashboard Sicurezza AI

Per accedere alla dashboard Sicurezza AI, nella Google Cloud console, vai alla pagina Panoramica dei rischi > Sicurezza AI:

Vai a Sicurezza AI

Per saperne di più, vedi Dashboard Sicurezza AI.

Comprendere la gestione dei rischi per i sistemi di AI

Questa sezione identifica i potenziali rischi per i tuoi sistemi di AI, mostrando i principali rischi nel tuo inventario di AI.

Per visualizzare una visualizzazione e i dettagli di un problema specifico, fai clic sul problema.

Visualizzare le minacce AI

Questa sezione evidenzia le minacce più recenti alle tue risorse AI.

In questa sezione puoi:

  • Per visualizzare tutte le minacce alle tue risorse AI, fai clic su Visualizza tutto.
  • Per visualizzare informazioni dettagliate su una minaccia specifica, fai clic sulla minaccia.

Visualizzare l'inventario di AI

Questa sezione fornisce un riepilogo visivo dell'inventario degli asset AI, inclusi i progetti che utilizzano l'AI generativa, i modelli proprietari e di terze parti attivi e i set di dati utilizzati per addestrare i modelli di terze parti.

In questa sezione puoi:

  • Per visualizzare i dettagli dell'inventario, fai clic su un nodo qualsiasi nella visualizzazione.
  • Per visualizzare un elenco dettagliato dei singoli asset (come i modelli Gemini e i modelli personalizzati), fai clic sul suggerimento.
  • Per visualizzare i dettagli di un modello, fai clic sul modello. Questa visualizzazione mostra dettagli come gli endpoint in cui è ospitato il modello e il set di dati di addestramento. Se Sensitive Data Protection è abilitato, la visualizzazione dei set di dati indica anche se il set di dati contiene dati sensibili.

Esaminare il riepilogo dei risultati del framework AI

Questa sezione ti aiuta a valutare i risultati generati dalle policy di sicurezza dell'AI e dalle policy di sicurezza dei dati. Include le seguenti schede:

  • Risultati: questa sezione mostra un riepilogo dei risultati generati dalle policy di sicurezza dell'AI e dalle policy di sicurezza dei dati, ad esempio Gemini model detected e Gemini model not protected by Model Armor.

    • Per visualizzare tutti i risultati, fai clic su Visualizza tutti i risultati.
    • Per visualizzare i risultati per una categoria specifica, fai clic sul conteggio dei risultati accanto a quella categoria.
    • Per visualizzare i dettagli di un singolo risultato, fai clic sul risultato.

  • Dati sensibili nei set di dati Vertex AI: mostra un riepilogo dei risultati relativi ai dati sensibili nei set di dati, come riportato da Sensitive Data Protection. Per saperne di più, vedi Introduzione a Gemini Enterprise Agent Platform.

Esaminare i risultati di Model Armor

Questa sezione mostra un grafico del numero totale di prompt e risposte scansionati da Model Armor insieme al numero di problemi rilevati. Il grafico fornisce anche statistiche di riepilogo per tipi di problemi specifici, come prompt injection, tentativi di jailbreak ed esposizione di dati sensibili.

Per i workload agentici, puoi configurare Model Armor su Agent Gateway (anteprima) per schermare i prompt e le risposte da e verso gli agenti.

Questo grafico utilizza le metriche pubblicate da Model Armor in Cloud Monitoring. Per saperne di più, vedi Panoramica di Model Armor.

Ispezionare le risorse AI

Oltre alla dashboard Sicurezza AI, puoi ispezionare ed eseguire query sull'inventario degli asset AI della tua organizzazione nella pagina Asset della Google Cloud console utilizzando la scheda Risorse AI.

La scheda Risorse AI fornisce una visualizzazione dettagliata e filtrabile dei sistemi e degli asset AI rilevati, tra cui:

  • Modelli
  • Endpoint
  • Origini dati
  • Pipeline
  • Agenti (anteprima)
  • Server Model Context Protocol (MCP) (anteprima)
  • Notebooks

Puoi utilizzare la scheda Risorse AI per:

  • Comprendere l'inventario di AI: visualizza elenchi completi di asset AI attivi nella tua organizzazione, filtrati per progetto, località o tipo di risorsa.
  • Eseguire indagini sulla sicurezza: esamina i metadati completi, la cronologia delle modifiche e le policy IAM associate di asset AI specifici.
  • Esaminare i risultati correlati: visualizza rapidamente tutti i risultati di sicurezza associati a un asset AI specifico per valutarne l'esposizione al rischio e determinare i passaggi di correzione necessari.

Per saperne di più sulla visualizzazione e sul filtraggio degli asset AI nella console, vedi Ispezionare gli asset monitorati da Security Command Center.

Passaggi successivi