Esaminare la sicurezza dell'AI

AI Protection fornisce strumenti per visualizzare l'inventario degli asset AI della tua organizzazione, esaminare i risultati di sicurezza e rivedere le mitigazioni proposte per rischi e minacce. Questa guida descrive come gestire la sicurezza dell'AI utilizzando la dashboard per la sicurezza dell'AI e la pagina Asset.

Prima di iniziare

  • Configura AI Protection.
  • Concedi i ruoli Identity and Access Management (IAM) richiesti agli utenti che accedono al dashboard AI Security e alla scheda Asset > Risorse AI. Per maggiori informazioni, vedi Ruoli obbligatori.

Utilizzare la dashboard AI Security

La dashboard Sicurezza AI ti consente di visualizzare l'inventario degli asset AI della tua organizzazione e di esaminare le mitigazioni proposte per rischi e minacce.

Accedere alla dashboard AI Security

Per accedere alla dashboard di sicurezza dell'AI, nella console Google Cloud , vai alla pagina Panoramica dei rischi > Sicurezza dell'AI:

Vai a Sicurezza dell'AI

Per saperne di più, consulta la dashboard AI Security.

Comprendere la gestione dei rischi per i sistemi di AI

Questa sezione identifica i potenziali rischi per i tuoi sistemi di AI, mostrando i principali rischi nel tuo inventario di AI.

Per visualizzare una visualizzazione e i dettagli di un problema specifico, fai clic sul problema.

Visualizzare le minacce AI

Questa sezione evidenzia le minacce più recenti alle tue risorse AI.

In questa sezione puoi:

  • Per visualizzare tutte le minacce alle tue risorse AI, fai clic su Visualizza tutto.
  • Per visualizzare informazioni dettagliate su una minaccia specifica, fai clic sulla minaccia.

Visualizzare l'inventario AI

Questa sezione fornisce un riepilogo visivo dell'inventario delle risorse AI, inclusi i progetti che utilizzano l'AI generativa, i modelli proprietari e di terze parti attivi e i set di dati utilizzati per addestrare i modelli di terze parti.

In questa sezione puoi:

  • Per visualizzare i dettagli dell'inventario, fai clic su un nodo qualsiasi nella visualizzazione.
  • Per visualizzare un elenco dettagliato delle singole risorse (come i modelli Gemini e i modelli personalizzati), fai clic sulla descrizione comando.
  • Per visualizzare i dettagli di un modello, fai clic sul modello. Questa visualizzazione mostra dettagli come gli endpoint in cui è ospitato il modello e il set di dati di addestramento. Se Sensitive Data Protection è abilitato, la visualizzazione dei set di dati indica anche se il set di dati contiene dati sensibili.

Esaminare il riepilogo dei risultati del framework AI

Questa sezione ti aiuta a valutare i risultati generati dalle policy di sicurezza dell'AI e dalle policy di sicurezza dei dati. Include le seguenti schede:

  • Risultati: questa sezione mostra un riepilogo dei risultati generati dalle policy di sicurezza dell'AI e dalle policy di sicurezza dei dati, ad esempio Gemini model detected e Gemini model not protected by Model Armor.

    • Per visualizzare tutti i risultati, fai clic su Visualizza tutti i risultati.
    • Per visualizzare i risultati per una categoria specifica, fai clic sul conteggio dei risultati accanto alla categoria.
    • Per visualizzare i dettagli di un singolo risultato, fai clic sul risultato.

  • Dati sensibili nei set di dati Vertex AI: mostra un riepilogo dei risultati relativi ai dati sensibili nei tuoi set di dati, come segnalato da Sensitive Data Protection. Per saperne di più, vedi Introduzione a Gemini Enterprise Agent Platform.

Esaminare i risultati di Model Armor

Questa sezione mostra un grafico del numero totale di prompt e risposte scansionati da Model Armor, nonché il numero di problemi rilevati. Il grafico fornisce anche statistiche di riepilogo per tipi di problemi specifici, ad esempio prompt injection, tentativi di jailbreak ed esposizione di dati sensibili.

Per i carichi di lavoro agentici, puoi configurare Model Armor su Agent Gateway (anteprima) per filtrare prompt e risposte da e verso gli agenti.

Questo grafico utilizza le metriche pubblicate da Model Armor in Cloud Monitoring. Per saperne di più, consulta la panoramica di Model Armor.

Esaminare le risorse AI

Oltre alla dashboard AI Security, puoi esaminare ed eseguire query sull'inventario degli asset AI della tua organizzazione nella pagina Asset della consoleGoogle Cloud utilizzando la scheda Risorse AI.

La scheda Risorse AI fornisce una visualizzazione dettagliata e filtrabile dei sistemi e degli asset AI rilevati, tra cui:

  • Modelli
  • Endpoint
  • Origini dati
  • Pipeline
  • Agenti (anteprima)
  • Server Model Context Protocol (MCP) (anteprima)
  • Notebook

Puoi utilizzare la scheda Risorse AI per:

  • Comprendere l'inventario dell'AI: visualizza elenchi completi di asset AI attivi nella tua organizzazione, filtrati per progetto, posizione o tipo di risorsa.
  • Esegui indagini sulla sicurezza: esamina i metadati completi, la cronologia delle modifiche e i criteri IAM associati di risorse AI specifiche.
  • Esamina i risultati correlati: visualizza rapidamente tutti i risultati di sicurezza associati a una risorsa AI specifica per valutare la sua esposizione al rischio e determinare i passaggi di correzione necessari.

Per saperne di più sulla visualizzazione e sul filtraggio degli asset AI nella console, vedi Esaminare gli asset monitorati da Security Command Center.

Passaggi successivi