Questo principio del pilastro della sicurezza del Well-Architected Framework diGoogle Cloud fornisce consigli per aiutarti a proteggere i tuoi sistemi di AI. Questi consigli sono in linea con il Secure AI Framework (SAIF) di Google, che fornisce un approccio pratico per affrontare i problemi di sicurezza e rischio dei sistemi di AI. SAIF è un framework concettuale che mira a fornire standard di settore per la creazione e l'implementazione dell'AI in modo responsabile.
Panoramica del principio
Per garantire che i tuoi sistemi di AI soddisfino i requisiti di sicurezza, privacy e conformità, devi adottare una strategia olistica che inizia con la progettazione iniziale e si estende al deployment e alle operazioni.
Google utilizza l'AI per migliorare le misure di sicurezza, ad esempio identificando le minacce, automatizzando le attività di sicurezza e migliorando le capacità di rilevamento, mantenendo al contempo il controllo human-in-the-loop per le decisioni critiche.
Google sottolinea l'importanza di un approccio collaborativo per migliorare la sicurezza dell'AI. Questo approccio prevede la collaborazione con clienti, settori e governi per migliorare le linee guida del SAIF e offrire risorse pratiche e attuabili.
I suggerimenti per implementare questo principio sono raggruppati nelle seguenti sezioni:
Suggerimenti per utilizzare l'AI in modo sicuro
Per utilizzare l'AI in modo sicuro, sono necessari sia controlli di sicurezza di base sia controlli di sicurezza specifici per l'AI. Questa sezione fornisce una panoramica dei suggerimenti per garantire che i deployment di AI e ML soddisfino i requisiti di sicurezza, privacy e conformità della tua organizzazione. Per una panoramica dei principi e dei suggerimenti di architettura specifici per i workload di AI e ML in Google Cloud, consulta la prospettiva di AI e ML nel Well-Architected Framework.
Definisci obiettivi e requisiti chiari per l'utilizzo dell'AI
Questo suggerimento è pertinente alle seguenti aree di interesse:
- Governance, rischio e conformità del cloud
- Sicurezza di AI e ML
Questo suggerimento è in linea con l'elemento del SAIF relativo alla contestualizzazione dei rischi dei sistemi di AI nei processi aziendali correlati. Quando progetti e sviluppi sistemi di AI, è importante comprendere gli obiettivi commerciali, i rischi e i requisiti di conformità specifici.
Proteggi i dati e previeni la perdita o la gestione errata
Questo suggerimento è pertinente alle seguenti aree di interesse:
- Sicurezza dell'infrastruttura
- Gestione di identità e accessi
- Sicurezza dei dati
- Sicurezza delle applicazioni
- Sicurezza di AI e ML
Questo suggerimento è in linea con i seguenti elementi del SAIF:
- Applica le solide basi per la sicurezza anche all'ecosistema AI. Questo elemento include la raccolta dei dati, l'archiviazione, controllo dell'accesso e la protezione dal data poisoning.
- Contestualizza i rischi dei sistemi di AI. Enfatizza la sicurezza dei dati per supportare gli scopi commerciali e la conformità.
Mantieni le pipeline di AI sicure e robuste contro le manomissioni
Questo suggerimento è pertinente alle seguenti aree di interesse:
- Sicurezza dell'infrastruttura
- Gestione di identità e accessi
- Sicurezza dei dati
- Sicurezza delle applicazioni
- Sicurezza di AI e ML
Questo suggerimento è in linea con i seguenti elementi del SAIF:
- Applica le solide basi per la sicurezza anche all'ecosistema AI. Come elemento chiave per la creazione di un sistema di AI sicuro, proteggi il codice e gli artefatti del modello.
- Adatta i controlli per cicli di feedback più rapidi. Poiché è importante per la mitigazione e la risposta agli incidenti, monitora gli asset e le esecuzioni della pipeline.
Esegui il deployment delle app su sistemi sicuri utilizzando strumenti e artefatti sicuri
Questo suggerimento è pertinente alle seguenti aree di interesse:
- Sicurezza dell'infrastruttura
- Gestione di identità e accessi
- Sicurezza dei dati
- Sicurezza delle applicazioni
- Sicurezza di AI e ML
L'utilizzo di sistemi sicuri e di strumenti e artefatti convalidati nelle applicazioni basate sull'AI è in linea con l'elemento del SAIF relativo all'espansione di solide basi di sicurezza all'ecosistema e alla catena di fornitura dell'AI. Questo suggerimento può essere applicato seguendo questi passaggi:
- Implementa un ambiente sicuro per l'addestramento e il deployment del ML
- Utilizza immagini container convalidate
- Applica le linee guida di Supply-chain Levels for Software Artifacts (SLSA)
Proteggi e monitora gli input
Questo suggerimento è pertinente alle seguenti aree di interesse:
- Logging, controllo e monitoraggio
- Operazioni di sicurezza
- Sicurezza di AI e ML
Questo suggerimento è in linea con l'elemento del SAIF relativo all'estensione del rilevamento e della risposta per includere l'AI nell'universo delle minacce di un'organizzazione. Per evitare problemi, è fondamentale gestire i prompt per i sistemi di AI generativa, monitorare gli input e controllare l'accesso degli utenti.
Suggerimenti per la governance dell'AI
Tutti i suggerimenti di questa sezione sono pertinenti alla seguente area di interesse: governance, rischio e conformità del cloud.
Google Cloud offre un solido insieme di strumenti e servizi che puoi utilizzare per creare sistemi di AI responsabili ed etici. Offriamo anche un framework di policy, procedure e considerazioni etiche che possono guidare lo sviluppo, il deployment e l'utilizzo dei sistemi di AI.
Come si evince dai nostri consigli, l'approccio di Google alla governance dell'AI è guidato dai seguenti principi:
- Equità
- Trasparenza
- Responsabilità
- Privacy
- Sicurezza
Utilizza Fairness Indicators
Gemini Enterprise Agent Platform può rilevare i bias durante la raccolta dei dati o il processo di valutazione post-addestramento. Agent Platform fornisce metriche di valutazione del modello come bias dei dati e bias del modello per aiutarti a valutare il bias del modello.
Queste metriche sono correlate all'equità in diverse categorie come etnia, genere e classe. Tuttavia, l'interpretazione delle deviazioni statistiche non è un esercizio semplice, perché le differenze tra le categorie potrebbero non essere il risultato di un bias o un segnale di danno.
Utilizza l'AI spiegabile
Per capire in che modo i tuoi modelli di AI prendono decisioni, utilizza tecniche di spiegabilità come le attribuzioni delle caratteristiche. La spiegabilità ti aiuta a identificare potenziali bias che potrebbero essere nascosti nella logica del modello.
Ad esempio, puoi generare spiegazioni basate sulle caratteristiche in BigQuery ML e spiegazioni tabulari in Agent Platform.
Monitora la derivazione dei dati
Monitora l'origine e la trasformazione dei dati utilizzati nei tuoi sistemi di AI. Questo monitoraggio ti aiuta a comprendere il percorso dei dati e a identificare potenziali fonti di bias o errori.
La derivazione dei dati è una funzionalità di Knowledge Catalog che consente di monitorare il modo in cui i dati vengono trasferiti nei sistemi: da dove provengono, dove vengono inviati e a quali trasformazioni sono sottoposti.
Stabilisci le responsabilità
Stabilisci responsabilità chiare per lo sviluppo, l'implementazione e i risultati dei tuoi sistemi di AI.
Utilizza Cloud Logging per registrare gli eventi chiave e le decisioni prese dai tuoi sistemi di AI. I log forniscono una traccia di audit per aiutarti a capire il rendimento del sistema e identificare le aree di miglioramento.
Utilizza Error Reporting per analizzare sistematicamente gli errori commessi dai sistemi di AI. Questa analisi può rivelare pattern che indicano bias di fondo o aree in cui il modello deve essere perfezionato ulteriormente.
Implementa la privacy differenziale
Durante l'addestramento del modello, aggiungi rumore ai dati per rendere difficile l'identificazione dei singoli punti dati, ma consenti comunque al modello di apprendere in modo efficace. Con SQL in BigQuery, puoi trasformare i risultati di una query con aggregazioni con privacy differenziale.