Questo documento descrive due architetture di riferimento che ti aiutano a creare una piattaforma di apprendimento federato su Google Cloud utilizzando Google Kubernetes Engine (GKE). Le architetture di riferimento e le risorse associate descritte in questo documento supportano quanto segue:
- Apprendimento federato cross-silo
- Apprendimento federato cross-device, basato sull'architettura cross-silo
I destinatari di questo documento sono i cloud architect e gli ingegneri AI e ML che vogliono implementare casi d'uso di apprendimento federato suGoogle Cloud. È destinato anche ai decisori che stanno valutando se implementare l'apprendimento federato su Google Cloud.
Architettura
I diagrammi in questa sezione mostrano un'architettura cross-silo e un'architettura cross-device per l'apprendimento federato. Per scoprire le diverse applicazioni di queste architetture, consulta Casi d'uso.
Architettura cross-silo
Il seguente diagramma mostra un'architettura che supporta il federated learning tra silos:
Il diagramma precedente mostra un esempio semplificato di un'architettura cross-silo. Nel diagramma, tutte le risorse si trovano nello stesso progetto in un'organizzazione Google Cloud. Queste risorse includono il modello client locale, il modello client globale e i relativi workload di apprendimento federato.
Questa architettura di riferimento può essere modificata per supportare diverse configurazioni per i silos di dati. I membri del consorzio possono ospitare i propri silos di dati nei seguenti modi:
- Su Google Cloud, nella stessa organizzazione Google Cloud e nello stesso progetto Google Cloud.
- Su Google Cloud, nella stessa organizzazione Google Cloud , in progettiGoogle Cloud diversi.
- Su Google Cloud, in Google Cloud organizzazioni diverse.
- In ambienti privati on-premise o in altri cloud pubblici.
Per collaborare, i membri partecipanti devono stabilire canali di comunicazione sicuri tra i loro ambienti. Per ulteriori informazioni sul ruolo dei membri partecipanti all'attività di apprendimento federato, su come collaborano e su cosa condividono tra loro, consulta Casi d'uso.
L'architettura include i seguenti componenti:
- Una rete Virtual Private Cloud (VPC) e una subnet.
- Un cluster GKE privato che ti consente di:
- Isola i nodi del cluster da internet.
- Limita l'esposizione a internet dei nodi del cluster e del control plane creando un cluster GKE privato con reti autorizzate.
- Utilizza nodi del cluster schermati che utilizzano un'immagine del sistema operativo con protezione avanzata.
- Abilita Dataplane V2 per un networking Kubernetes ottimizzato.
- Node pool GKE dedicati: crei un pool di nodi dedicato per ospitare esclusivamente app e risorse dei tenant. I nodi hanno taint per garantire che solo i workload del tenant siano pianificati sui nodi del tenant. Le altre risorse del cluster sono ospitate nel pool di nodi principale.
Crittografia dei dati (abilitata per impostazione predefinita):
- Dati at-rest.
- Dati in transito.
- Secret del cluster a livello di applicazione.
Crittografia dei dati in uso, attivando facoltativamente i nodi Confidential Google Kubernetes Engine.
Regole firewall VPC che applicano quanto segue:
- Regole di base che si applicano a tutti i nodi del cluster.
- Regole aggiuntive che si applicano solo ai nodi nel pool di nodi tenant. Queste regole firewall limitano il traffico in entrata e in uscita dai nodi tenant.
Cloud NAT per consentire il traffico in uscita verso internet.
Record Cloud DNS per abilitare l'accesso privato Google in modo che le app all'interno del cluster possano accedere alle API di Google senza passare per internet.
Service account che sono i seguenti:
- Un account di servizio dedicato per i nodi nel pool di nodi del tenant.
- Un account di servizio dedicato per le app tenant da utilizzare con la federazione delle identità per i workload.
Supporto per l'utilizzo di Google Gruppi per controllo dell'accesso basato su ruoli (RBAC) di Kubernetes.
Un repository Git per archiviare i descrittori di configurazione.
Un repository Artifact Registry per archiviare le immagini container.
Config Sync e Policy Controller per eseguire il deployment di configurazione e policy.
Gateway Cloud Service Mesh per consentire in modo selettivo il traffico in entrata e in uscita del cluster.
Bucket Cloud Storage per archiviare i pesi dei modelli globali e locali.
Accesso ad altre API di Google e Google Cloud . Ad esempio, un workload di addestramento potrebbe dover accedere ai dati di addestramento archiviati in Cloud Storage, BigQuery o Cloud SQL.
Architettura cross-device
Il seguente diagramma mostra un'architettura che supporta l'apprendimento federato cross-device:

L'architettura cross-device precedente si basa sull'architettura cross-silo con l'aggiunta dei seguenti componenti:
- Un servizio Cloud Run che simula i dispositivi che si connettono al server
- Un Certificate Authority Service che crea certificati privati per l'esecuzione del server e dei client
- Un Vertex AI TensorBoard per visualizzare il risultato dell'addestramento
- Un bucket Cloud Storage per archiviare il modello consolidato
- Il cluster GKE privato che utilizza nodi riservati come pool principale per proteggere i dati in uso
L'architettura cross-device utilizza componenti del progetto Federated Compute Platform (FCP) open source. Questo progetto include quanto segue:
- Codice client per comunicare con un server ed eseguire attività sui dispositivi
- Un protocollo per la comunicazione client-server
- Punti di connessione con TensorFlow Federated per semplificare la definizione dei calcoli federati
Il deployment dei componenti FCP mostrati nel diagramma precedente può essere eseguito come un insieme di microservizi. Questi componenti eseguono le seguenti operazioni:
- Aggregatore: questo job legge i gradienti del dispositivo e calcola il risultato aggregato con la privacy differenziale.
- Collector: questo job viene eseguito periodicamente per eseguire query sulle attività attive e sui gradienti criptati. Queste informazioni determinano l'inizio dell'aggregazione.
- Caricatore di modelli: questo job ascolta gli eventi e pubblica i risultati in modo che i dispositivi possano scaricare i modelli aggiornati.
- Assegnazione delle attività: questo servizio frontend distribuisce le attività di addestramento ai dispositivi.
- Gestione delle attività: questo job gestisce le attività.
- Pianificatore di attività: questo job viene eseguito periodicamente o viene attivato da eventi specifici.
Prodotti utilizzati
Le architetture di riferimento per entrambi i casi d'uso dell'apprendimento federato utilizzano i seguenti componenti Google Cloud :
- Google Cloud Kubernetes Engine (GKE): GKE fornisce la piattaforma di base per il federated learning.
- TensorFlow Federated (TFF): TFF fornisce un framework open source per il machine learning e altri calcoli su dati decentralizzati.
GKE fornisce inoltre le seguenti funzionalità alla tua piattaforma di apprendimento federato:
- Hosting del coordinatore dell'apprendimento federato: il coordinatore dell'apprendimento federato è responsabile della gestione del processo di apprendimento federato. Questa gestione include attività come la distribuzione del modello globale ai partecipanti, l'aggregazione degli aggiornamenti dei partecipanti e l'aggiornamento del modello globale. GKE può essere utilizzato per ospitare il coordinatore dell'apprendimento federato in modo altamente affidabile e scalabile.
- Hosting dei partecipanti all'apprendimento federato: i partecipanti all'apprendimento federato sono responsabili dell'addestramento del modello globale sui propri dati locali. GKE può essere utilizzato per ospitare i partecipanti all'apprendimento federato in modo sicuro e isolato. Questo approccio può contribuire a garantire che i dati dei partecipanti vengano conservati localmente.
- Fornire un canale di comunicazione sicuro e scalabile: i partecipanti all'apprendimento federato devono essere in grado di comunicare con il coordinatore dell'apprendimento federato in modo sicuro e scalabile. GKE può essere utilizzato per fornire un canale di comunicazione sicuro e scalabile tra i partecipanti e il coordinatore.
- Gestione del ciclo di vita dei deployment di apprendimento federato: GKE può essere utilizzato per gestire il ciclo di vita dei deployment di apprendimento federato. Questa gestione include attività come il provisioning delle risorse, il deployment della piattaforma di apprendimento federato e il monitoraggio delle prestazioni della piattaforma di apprendimento federato.
Oltre a questi vantaggi, GKE offre anche una serie di funzionalità che possono essere utili per i deployment di apprendimento federato, ad esempio:
- Cluster regionali: GKE ti consente di creare cluster regionali, aiutandoti a migliorare le prestazioni dei deployment di apprendimento federato riducendo la latenza tra i partecipanti e il coordinatore.
- Policy di rete: GKE ti consente di creare policy di rete, contribuendo a migliorare la sicurezza dei deployment di apprendimento federato controllando il flusso di traffico tra i partecipanti e il coordinatore.
- Bilanciamento del carico: GKE offre una serie di opzioni di bilanciamento del carico, contribuendo a migliorare la scalabilità dei deployment di apprendimento federato distribuendo il traffico tra i partecipanti e il coordinatore.
TFF offre le seguenti funzionalità per facilitare l'implementazione di casi d'uso di apprendimento federato:
- La possibilità di esprimere in modo dichiarativo i calcoli federati, ovvero un insieme di passaggi di elaborazione eseguiti su un server e un insieme di client. Questi calcoli possono essere implementati in diversi ambienti di runtime.
- Gli aggregatori personalizzati possono essere creati utilizzando TFF open source.
- Supporto di una serie di algoritmi di apprendimento federato, tra cui:
- Media federata:
un algoritmo che calcola la media dei parametri del modello dei client partecipanti. È particolarmente adatto per i casi d'uso in cui i dati sono relativamente omogenei e il modello non è troppo complesso. I casi d'uso tipici sono i seguenti:
- Suggerimenti personalizzati: un'azienda può utilizzare la media federata per addestrare un modello che suggerisce prodotti agli utenti in base alla loro cronologia acquisti.
- Rilevamento di attività fraudolente: un consorzio di banche può utilizzare la media federata per addestrare un modello che rileva le transazioni fraudolente.
- Diagnosi medica: un gruppo di ospedali può utilizzare la media federata per addestrare un modello che diagnostica il cancro.
- Discesa stocastica del gradiente federata (FedSGD): un algoritmo che utilizza la discesa stocastica del gradiente per aggiornare i parametri del modello. È adatto per i casi d'uso in cui i dati sono eterogenei e il modello è complesso. I casi d'uso tipici sono i seguenti:
- Elaborazione del linguaggio naturale: un'azienda può utilizzare FedSGD per addestrare un modello che migliora l'accuratezza del riconoscimento vocale.
- Riconoscimento delle immagini: un'azienda può utilizzare FedSGD per addestrare un modello in grado di identificare gli oggetti nelle immagini.
- Manutenzione predittiva: un'azienda può utilizzare FedSGD per addestrare un modello che prevede quando è probabile che una macchina si guasti.
- Federated Adam:
un algoritmo che utilizza l'ottimizzatore Adam per aggiornare i parametri del modello.
I casi d'uso tipici sono i seguenti:
- Sistemi di suggerimenti: un'azienda può utilizzare l'algoritmo Adam federato per addestrare un modello che consiglia prodotti agli utenti in base alla loro cronologia acquisti.
- Ranking: un'azienda può utilizzare l'algoritmo Adam federato per addestrare un modello che classifica i risultati di ricerca.
- Previsione della percentuale di clic: un'azienda può utilizzare Adam federato per addestrare un modello che prevede la probabilità che un utente faccia clic su un annuncio pubblicitario.
- Media federata:
un algoritmo che calcola la media dei parametri del modello dei client partecipanti. È particolarmente adatto per i casi d'uso in cui i dati sono relativamente omogenei e il modello non è troppo complesso. I casi d'uso tipici sono i seguenti:
Casi d'uso
Questa sezione descrive i casi d'uso per i quali le architetture cross-silo e cross-device sono scelte appropriate per la tua piattaforma di apprendimento federato.
L'apprendimento federato è un'impostazione di machine learning in cui molti client addestrano un modello in modo collaborativo. Questo processo è guidato da un coordinatore centrale e i dati di addestramento rimangono decentralizzati.
Nel paradigma dell'apprendimento federato, i client scaricano un modello globale e lo migliorano addestrandolo localmente sui propri dati. Poi, ogni client invia gli aggiornamenti del modello calcolati al server centrale, dove vengono aggregati e viene generata una nuova iterazione del modello globale. In queste architetture di riferimento, i workload di addestramento del modello vengono eseguiti su GKE.
L'apprendimento federato incarna il principio di privacy della minimizzazione dei dati, limitando i dati raccolti in ogni fase del calcolo, limitando l'accesso ai dati ed elaborando e poi eliminando i dati il prima possibile. Inoltre, l'impostazione del problema dell'apprendimento federato è compatibile con altre tecniche di tutela della privacy, come l'utilizzo della privacy differenziale (DP) per migliorare l'anonimizzazione del modello e garantire che il modello finale non memorizzi i dati dei singoli utenti.
A seconda del caso d'uso, l'addestramento dei modelli con l'apprendimento federato può offrire ulteriori vantaggi:
- Conformità: in alcuni casi, le normative potrebbero limitare il modo in cui i dati possono essere utilizzati o condivisi. L'apprendimento federato potrebbe essere utilizzato per rispettare queste normative.
- Efficienza della comunicazione: in alcuni casi, è più efficiente addestrare un modello su dati distribuiti anziché centralizzare i dati. Ad esempio, i set di dati su cui deve essere addestrato il modello sono troppo grandi per essere spostati centralmente.
- Rendere i dati accessibili: l'apprendimento federato consente alle organizzazioni di mantenere i dati di addestramento decentralizzati in silos di dati per utente o per organizzazione.
- Maggiore accuratezza del modello: l'addestramento su dati utente reali (garantendo al contempo la privacy) anziché su dati sintetici (a volte definiti dati proxy) spesso si traduce in una maggiore accuratezza del modello.
Esistono diversi tipi di apprendimento federato, che si distinguono per l'origine dei dati e per il luogo in cui vengono eseguiti i calcoli locali. Le architetture di questo documento si concentrano su due tipi di apprendimento federato: cross-silo e cross-device. Altri tipi di apprendimento federato non rientrano nell'ambito di questo documento.
L'apprendimento federato è ulteriormente classificato in base alla modalità di partizionamento dei set di dati, che può essere la seguente:
- Apprendimento federato orizzontale (HFL): set di dati con le stesse caratteristiche (colonne), ma con campioni diversi (righe). Ad esempio, più ospedali potrebbero avere cartelle cliniche con gli stessi parametri medici, ma con popolazioni di pazienti diverse.
- Apprendimento federato verticale (VFL): set di dati con gli stessi esempi (righe), ma con caratteristiche diverse (colonne). Ad esempio, una banca e un'azienda di e-commerce potrebbero avere dati dei clienti con persone sovrapposte, ma informazioni finanziarie e di acquisto diverse.
- Federated Transfer Learning (FTL): sovrapposizione parziale sia degli esempi che delle caratteristiche tra i set di dati. Ad esempio, due ospedali potrebbero avere cartelle cliniche di pazienti con alcuni individui sovrapposti e alcuni parametri medici condivisi, ma anche caratteristiche uniche in ogni set di dati.
Il calcolo federato cross-silo è quello in cui i membri partecipanti sono organizzazioni o aziende. In pratica, il numero di membri è solitamente ridotto (ad esempio, entro i cento membri). Il calcolo cross-silo viene in genere utilizzato in scenari in cui le organizzazioni partecipanti hanno set di dati diversi, ma vogliono addestrare un modello condiviso o analizzare i risultati aggregati senza condividere i propri dati non elaborati tra loro. Ad esempio, i membri partecipanti possono avere i propri ambienti in organizzazioni Google Cloud diverse, ad esempio quando rappresentano soggetti giuridici diversi, o nella stessa organizzazioneGoogle Cloud , ad esempio quando rappresentano reparti diversi dello stesso soggetto giuridico.
I membri partecipanti potrebbero non essere in grado di considerare i workload degli altri come entità attendibili. Ad esempio, un membro partecipante potrebbe non avere accesso al codice sorgente di un workload di addestramento che riceve da una terza parte, come il coordinatore. Poiché non può accedere a questo codice sorgente, il membro partecipante non può garantire che il workload sia completamente attendibile.
Per evitare che un workload non attendibile acceda ai tuoi dati o alle tue risorse senza autorizzazione, ti consigliamo di:
- Esegui il deployment di workload non attendibili in un ambiente isolato.
- Concedi ai workload non attendibili solo i diritti di accesso e le autorizzazioni strettamente necessari per completare i round di addestramento assegnati al workload.
Per aiutarti a isolare i workload potenzialmente non attendibili, queste architetture di riferimento implementano controlli di sicurezza, come la configurazione di spazi dei nomi Kubernetes isolati, in cui ogni spazio dei nomi ha un pool di nodi GKE dedicato. La comunicazione tra spazi dei nomi e il traffico in entrata e in uscita del cluster sono vietati per impostazione predefinita, a meno che non esegui l'override esplicito di questa impostazione.
Di seguito sono riportati alcuni esempi di casi d'uso per l'apprendimento federato cross-silo:
- Rilevamento delle frodi: l'apprendimento federato può essere utilizzato per addestrare un modello di rilevamento delle frodi su dati distribuiti in più organizzazioni. Ad esempio, un consorzio di banche potrebbe utilizzare l'apprendimento federato per addestrare un modello che rileva le transazioni fraudolente.
- Diagnosi medica: l'apprendimento federato può essere utilizzato per addestrare un modello di diagnosi medica su dati distribuiti in più ospedali. Ad esempio, un gruppo di ospedali potrebbe utilizzare l'apprendimento federato per addestrare un modello che diagnostica il cancro.
L'apprendimento federato cross-device è un tipo di calcolo federato in cui i membri partecipanti sono dispositivi degli utenti finali, come cellulari, veicoli o dispositivi IoT. Il numero di membri può raggiungere una scala di milioni o addirittura decine di milioni.
Il processo per l'apprendimento federato cross-device è simile a quello dell'apprendimento federato cross-silo. Tuttavia, richiede anche di adattare l'architettura di riferimento per tenere conto di alcuni dei fattori aggiuntivi che devi considerare quando hai a che fare con migliaia o milioni di dispositivi. Devi eseguire il deployment dei workload amministrativi per gestire gli scenari che si verificano nei casi d'uso di apprendimento federato cross-device. Ad esempio, la necessità di coordinare un sottoinsieme di client che parteciperanno alla fase di addestramento. L'architettura cross-device offre questa funzionalità consentendoti di eseguire il deployment dei servizi FCP. Questi servizi hanno workload con punti di connessione con TFF. TFF viene utilizzato per scrivere il codice che gestisce questo coordinamento.
Di seguito sono riportati alcuni esempi di casi d'uso per l'apprendimento federato cross-device:
- Suggerimenti personalizzati: puoi utilizzare il federated learning cross-device per addestrare un modello di suggerimenti personalizzati su dati distribuiti su più dispositivi. Ad esempio, un'azienda potrebbe utilizzare l'apprendimento federato per addestrare un modello che consiglia prodotti agli utenti in base alla loro cronologia acquisti.
- Elaborazione del linguaggio naturale: l'apprendimento federato può essere utilizzato per addestrare un modello di elaborazione del linguaggio naturale su dati distribuiti su più dispositivi. Ad esempio, un'azienda potrebbe utilizzare l'apprendimento federato per addestrare un modello che migliora l'accuratezza del riconoscimento vocale.
- Previsione delle esigenze di manutenzione dei veicoli: l'apprendimento federato può essere utilizzato per addestrare un modello che prevede quando è probabile che un veicolo abbia bisogno di manutenzione. Questo modello potrebbe essere addestrato su dati raccolti da più veicoli. Questo approccio consente al modello di apprendere dalle esperienze di tutti i veicoli, senza compromettere la privacy di ogni singolo veicolo.
La tabella seguente riassume le funzionalità delle architetture cross-silo e cross-device e mostra come classificare il tipo di scenario di apprendimento federato applicabile al tuo caso d'uso.
| Funzionalità | Calcoli federati cross-silo | Calcoli federati cross-device |
|---|---|---|
| Dimensioni della popolazione | In genere di piccole dimensioni (ad esempio, entro cento dispositivi) | Scalabile fino a migliaia, milioni o centinaia di milioni di dispositivi |
| Membri partecipanti | Organizzazioni o aziende | Dispositivi mobili, dispositivi edge, veicoli |
| Partizionamento dei dati più comune | HFL, VFL, FTL | HFL |
| Sensibilità dei dati | Dati sensibili che i partecipanti non vogliono condividere tra loro in formato non elaborato | Dati troppo sensibili per essere condivisi con un server centrale |
| Disponibilità dei dati | I partecipanti sono quasi sempre disponibili | Solo una parte dei partecipanti è disponibile in un determinato momento |
| Esempi di casi d'uso | Rilevamento di frodi, diagnosi medica, previsioni finanziarie | Monitoraggio dell'attività fisica, riconoscimento vocale, classificazione delle immagini |
Considerazioni sulla progettazione
Questa sezione fornisce indicazioni per aiutarti a utilizzare questa architettura di riferimento per sviluppare una o più architetture che soddisfino i tuoi requisiti specifici di sicurezza, affidabilità, efficienza operativa, costi e prestazioni.
Considerazioni sulla progettazione dell'architettura cross-silo
Per implementare un'architettura di apprendimento federato cross-silo inGoogle Cloud, devi implementare i seguenti prerequisiti minimi, che sono spiegati in maggiore dettaglio nelle sezioni seguenti:
- Crea un consorzio di apprendimento federato.
- Determina il modello di collaborazione per il consorzio di apprendimento federato da implementare.
- Determina le responsabilità delle organizzazioni partecipanti.
Oltre a questi prerequisiti, il proprietario della federazione deve intraprendere altre azioni che non rientrano nell'ambito di questo documento, ad esempio:
- Gestire il consorzio di apprendimento federato.
- Progettare e implementare un modello di collaborazione.
- Preparare, gestire e utilizzare i dati di addestramento del modello e il modello che il proprietario della federazione intende addestrare.
- Crea, containerizza e orchestra i workflow di apprendimento federato.
- Esegui il deployment e gestisci i workload di apprendimento federato.
- Configura i canali di comunicazione per consentire alle organizzazioni partecipanti di trasferire i dati in modo sicuro.
Crea un consorzio di apprendimento federato
Un consorzio di apprendimento federato è il gruppo di organizzazioni che partecipano a un'iniziativa di apprendimento federato cross-silo. Le organizzazioni del consorzio condividono solo i parametri dei modelli di ML, che puoi criptare per aumentare la privacy. Se il consorzio di federated learning lo consente, le organizzazioni possono anche aggregare dati che non contengono informazioni che consentono l'identificazione personale (PII).
Determina un modello di collaborazione per il consorzio di apprendimento federato
Il consorzio di apprendimento federato può implementare diversi modelli di collaborazione, come i seguenti:
- Un modello centralizzato composto da una singola organizzazione di coordinamento, chiamata proprietario della federazione o orchestratore, e da un insieme di organizzazioni partecipanti o proprietari dei dati.
- Un modello decentralizzato composto da organizzazioni che si coordinano come gruppo.
- Un modello eterogeneo costituito da un consorzio di diverse organizzazioni partecipanti, ognuna delle quali apporta risorse diverse al consorzio.
Questo documento presuppone che il modello di collaborazione sia un modello centralizzato.
Determinare le responsabilità delle organizzazioni partecipanti
Dopo aver scelto un modello di collaborazione per il consorzio di apprendimento federato, il proprietario della federazione deve determinare le responsabilità delle organizzazioni partecipanti.
Quando inizia a creare un consorzio di apprendimento federato, il proprietario della federazione deve anche:
- Coordinare l'attività di apprendimento federato.
- Progettare e implementare il modello ML globale e i modelli ML da condividere con le organizzazioni partecipanti.
- Definisci i round di apprendimento federato, ovvero l'approccio per l'iterazione del processo di addestramento ML.
- Seleziona le organizzazioni partecipanti che contribuiscono a un determinato round di apprendimento federato. Questa selezione è chiamata coorte.
- Progettare e implementare una procedura di verifica dell'appartenenza al consorzio per le organizzazioni partecipanti.
- Aggiorna il modello di ML globale e i modelli di ML da condividere con le organizzazioni partecipanti.
- Fornire alle organizzazioni partecipanti gli strumenti per convalidare che il consorzio di apprendimento federato soddisfi i requisiti di privacy, sicurezza e normativi.
- Fornire alle organizzazioni partecipanti canali di comunicazione sicuri e criptati.
- Fornire alle organizzazioni partecipanti tutti i dati aggregati non riservati necessari per completare ogni round di apprendimento federato.
Le organizzazioni partecipanti hanno le seguenti responsabilità:
- Fornire e mantenere un ambiente sicuro e isolato (un silo). Il silo è il luogo in cui le organizzazioni partecipanti archiviano i propri dati e in cui viene implementato l'addestramento del modello ML. Le organizzazioni partecipanti non condividono i propri dati con altre organizzazioni.
- Addestrare i modelli forniti dal proprietario della federazione utilizzando la propria infrastruttura di computing e i propri dati locali.
- Condividere i risultati dell'addestramento del modello con il proprietario della federazione sotto forma di dati aggregati, dopo aver rimosso eventuali PII.
Il proprietario della federazione e le organizzazioni partecipanti possono utilizzare Cloud Storage per condividere modelli aggiornati e risultati dell'addestramento.
Il proprietario della federazione e le organizzazioni partecipanti perfezionano l'addestramento del modello ML finché il modello non soddisfa i loro requisiti.
Implementa l'apprendimento federato su Google Cloud
Dopo aver stabilito il consorzio di apprendimento federato e aver determinato come collaborerà, consigliamo alle organizzazioni partecipanti di procedere nel seguente modo:
- Esegui il provisioning e configura l'infrastruttura necessaria per il consorzio di apprendimento federato.
- Implementa il modello di collaborazione.
- Avvia l'attività di apprendimento federato.
Esegui il provisioning e configura l'infrastruttura per il consorzio di apprendimento federato
Durante il provisioning e la configurazione dell'infrastruttura per il consorzio di apprendimento federato, è responsabilità del proprietario della federazione creare e distribuire alle organizzazioni partecipanti i workload che addestrano i modelli di ML federati. Poiché una terza parte (il proprietario della federazione) ha creato e fornito i workload, le organizzazioni partecipanti devono adottare precauzioni durante il deployment di questi workload nei loro ambienti di runtime.
Le organizzazioni partecipanti devono configurare i propri ambienti in base alle proprie best practice di sicurezza individuali e applicare controlli che limitino l'ambito e le autorizzazioni concesse a ogni workload. Oltre a seguire le best practice di sicurezza individuali, consigliamo al proprietario della federazione e alle organizzazioni partecipanti di prendere in considerazione i vettori di minaccia specifici per il federated learning.
Implementa il modello di collaborazione
Una volta preparata l'infrastruttura del consorzio di apprendimento federato, il proprietario della federazione progetta e implementa i meccanismi che consentono alle organizzazioni partecipanti di interagire tra loro. L'approccio segue il modello di collaborazione scelto dal proprietario della federazione per il consorzio di apprendimento federato.
Avvia l'attività di apprendimento federato
Dopo aver implementato il modello di collaborazione, il proprietario della federazione implementa il modello di ML globale da addestrare e i modelli di ML da condividere con l'organizzazione partecipante. Una volta che i modelli ML sono pronti, il proprietario della federazione avvia il primo round dell'attività di apprendimento federato.
Durante ogni round dell'attività di apprendimento federato, il proprietario della federazione esegue le seguenti operazioni:
- Distribuisce i modelli ML da condividere con le organizzazioni partecipanti.
- Attende che le organizzazioni partecipanti forniscano i risultati dell'addestramento dei modelli di ML condivisi dal proprietario della federazione.
- Raccoglie ed elabora i risultati dell'addestramento prodotti dalle organizzazioni partecipanti.
- Aggiorna il modello di ML globale quando riceve risultati di addestramento appropriati dalle organizzazioni partecipanti.
- Aggiorna i modelli ML da condividere con gli altri membri del consorzio, se applicabile.
- Prepara i dati di addestramento per il round successivo di apprendimento federato.
- Avvia il round successivo di apprendimento federato.
Sicurezza, privacy e conformità
Questa sezione descrive i fattori da considerare quando utilizzi questa architettura di riferimento per progettare e creare una piattaforma di apprendimento federato suGoogle Cloud. Queste indicazioni si applicano a entrambe le architetture descritte in questo documento.
I workload di apprendimento federato di cui esegui il deployment nei tuoi ambienti potrebbero esporre te, i tuoi dati, i tuoi modelli di apprendimento federato e la tua infrastruttura a minacce che potrebbero influire sulla tua attività.
Per aiutarti ad aumentare la sicurezza dei tuoi ambienti di apprendimento federato, queste architetture di riferimento configurano i controlli di sicurezza di GKE incentrati sull'infrastruttura dei tuoi ambienti. Questi controlli potrebbero non essere sufficienti per proteggerti dalle minacce specifiche dei tuoi workload e casi d'uso di apprendimento federato. Data la specificità di ogni workload e caso d'uso di apprendimento federato, i controlli di sicurezza volti a proteggere l'implementazione dell'apprendimento federato non rientrano nell'ambito di questo documento. Per ulteriori informazioni ed esempi su queste minacce, consulta Considerazioni sulla sicurezza dell'apprendimento federato.
Controlli di sicurezza GKE
Questa sezione illustra i controlli che applichi con queste architetture per proteggere il tuo cluster GKE.
Sicurezza avanzata dei cluster GKE
Queste architetture di riferimento ti aiutano a creare un cluster GKE che implementa le seguenti impostazioni di sicurezza:
- Limita l'esposizione a internet dei nodi del cluster e del control plane creando un cluster GKE privato con reti autorizzate.
- Utilizza nodi schermati che utilizzano un'immagine del nodo con protezione avanzata con il runtime
containerd. - Maggiore isolamento dei workload dei tenant utilizzando GKE Sandbox.
- Cripta i dati at-rest per impostazione predefinita.
- Cripta i dati in transito per impostazione predefinita.
- Crittografa i secret del cluster a livello di applicazione.
- Se vuoi, cripta i dati in uso attivando i nodi Confidential Google Kubernetes Engine.
Per saperne di più sulle impostazioni di sicurezza di GKE, consulta Rafforza la sicurezza del cluster e Informazioni sulla dashboard della security posture.
Regole firewall VPC
Le regole firewall Virtual Private Cloud (VPC) regolano il traffico consentito da o verso le VM di Compute Engine. Le regole consentono di filtrare il traffico con granularità a livello di VM, in base agli attributi del livello 4.
Crei un cluster GKE con le regole firewall predefinite del cluster GKE. Queste regole firewall consentono la comunicazione tra i nodi del cluster e il control plane GKE, nonché tra i nodi e i pod nel cluster.
Applichi regole firewall aggiuntive ai nodi nel pool di nodi del tenant. Queste regole firewall limitano il traffico in uscita dai nodi tenant. Questo approccio può aumentare l'isolamento dei nodi tenant. Per impostazione predefinita, tutto il traffico in uscita dai nodi tenant è negato. Qualsiasi traffico in uscita richiesto deve essere configurato in modo esplicito. Ad esempio, crei regole firewall per consentire il traffico in uscita dai nodi tenant al control plane di GKE e alle API di Google utilizzando l'accesso privato Google. Le regole firewall sono destinate ai nodi tenant utilizzando il service account per il pool di nodi tenant.
Spazi dei nomi
Gli spazi dei nomi consentono di fornire un ambito per le risorse correlate all'interno di un cluster, ad esempio pod, servizi e controller di replica. Utilizzando gli spazi dei nomi, puoi delegare la responsabilità di amministrazione delle risorse correlate come unità. Pertanto, gli spazi dei nomi sono parte integrante della maggior parte dei pattern di sicurezza.
Gli spazi dei nomi sono una funzionalità importante per l'isolamento del control plane. Tuttavia, non forniscono l'isolamento dei nodi, del piano dati o della rete.
Un approccio comune consiste nel creare spazi dei nomi per le singole applicazioni. Ad esempio, puoi creare lo spazio dei nomi myapp-frontend per il componente UI di un'applicazione.
Queste architetture di riferimento ti aiutano a creare uno spazio dei nomi dedicato per ospitare le app di terze parti. Lo spazio dei nomi e le relative risorse vengono trattati come un tenant all'interno del cluster. Applichi policy e controlli allo spazio dei nomi per limitare l'ambito delle risorse al suo interno.
Policy di rete
Le policy di rete applicano i flussi di traffico di rete di livello 4 utilizzando regole firewall a livello di pod. Le policy di rete hanno come ambito uno spazio dei nomi.
Nelle architetture di riferimento descritte in questo documento, applichi le policy di rete allo spazio dei nomi del tenant che ospita le app di terze parti. Per impostazione predefinita, la policy di rete nega tutto il traffico da e verso i pod nello spazio dei nomi. Qualsiasi traffico richiesto deve essere aggiunto esplicitamente a una lista consentita. Ad esempio, le policy di rete in queste architetture di riferimento consentono esplicitamente il traffico verso i servizi cluster richiesti, come il DNS interno del cluster e il control plane di Cloud Service Mesh.
Config Sync
Config Sync mantiene i cluster GKE sincronizzati con le configurazioni archiviate in una fonte di verità. Il repository Git funge da Single Source Of Truth per la configurazione e le policy del cluster. Config Sync è dichiarativo. Controlla continuamente lo stato del cluster e applica lo stato dichiarato nel file di configurazione per applicare le policy, il che aiuta a prevenire la deviazione della configurazione.
Installa Config Sync nel tuo cluster GKE. Configuri Config Sync per sincronizzare le configurazioni e i criteri del cluster da una fonte di verità. Le risorse sincronizzate includono:
- Configurazione di Cloud Service Mesh a livello di cluster
- Policy di sicurezza a livello di cluster
- Configurazione e policy a livello di spazio dei nomi del tenant, tra cui policy di rete, service account, regole RBAC e configurazione di Cloud Service Mesh
Policy Controller
Policy Controller è un controller di ammissione dinamico per Kubernetes che applica policy basate su CustomResourceDefinition (CRD) eseguite da Open Policy Agent (OPA).
I controller di ammissione sono plug-in Kubernetes che intercettano le richieste al server API Kubernetes prima che un oggetto venga reso persistente, ma dopo che la richiesta è stata autenticata e autorizzata. Puoi utilizzare i controller di ammissione per limitare l'utilizzo di un cluster.
Installa Policy Controller nel tuo cluster GKE. Queste architetture di riferimento includono policy di esempio per aiutarti a proteggere il tuo cluster. Applichi automaticamente le policy al cluster utilizzando Config Sync. Applichi i seguenti criteri:
- Policy selezionate per contribuire ad applicare la sicurezza dei pod. Ad esempio, applichi policy che impediscono ai pod di eseguire container con privilegi e che richiedono un file system root di sola lettura.
- Policy della libreria di template di Policy Controller. Ad esempio, applichi una policy che non consente i servizi con tipo NodePort.
Cloud Service Mesh
Cloud Service Mesh è un mesh di servizi che ti aiuta a semplificare la gestione delle comunicazioni sicure tra i servizi. Queste architetture di riferimento configurano Cloud Service Mesh in modo che esegua le seguenti operazioni:
- Inserisce automaticamente i proxy sidecar.
- Applica la comunicazione mTLS tra i servizi nel mesh.
- Limita il traffico in uscita del mesh solo agli host noti.
- Limita il traffico in entrata solo da determinati client.
- Consente di configurare le policy di sicurezza di rete in base all'identità del servizio anziché all'indirizzo IP dei peer sulla rete.
- Limita la comunicazione autorizzata tra i servizi nel mesh. Ad esempio, le app nello spazio dei nomi del tenant possono comunicare solo con le app nello stesso spazio dei nomi o con un insieme di host esterni noti.
- Instrada tutto il traffico in entrata e in uscita attraverso i gateway mesh, dove puoi applicare ulteriori controlli del traffico.
- Supporta la comunicazione sicura tra i cluster.
Taint e affinità dei nodi
Le contaminazioni dei nodi e l'affinità dei nodi sono meccanismi di Kubernetes che ti consentono di influenzare la modalità di pianificazione dei pod sui nodi del cluster.
I nodi con incompatibilità respingono i pod. Kubernetes non pianificherà un pod su un nodo con incompatibilità, a meno che il pod non abbia una tolleranza per l'incompatibilità. Puoi utilizzare le incompatibilità dei nodi per riservare i nodi per l'utilizzo solo da parte di determinati workload o tenant. Taint e tolleranze vengono spesso utilizzati nei cluster multi-tenant. Per saperne di più, consulta la documentazione relativa ai nodi dedicati con taints e tolerations.
L'affinità dei nodi ti consente di limitare i pod ai nodi con etichette particolari. Se un pod ha un requisito di affinità nodo, Kubernetes non pianifica il pod su un nodo, a meno che il nodo non abbia un'etichetta che corrisponde al requisito di affinità. Puoi utilizzare l'affinità dei nodi per assicurarti che i pod siano pianificati sui nodi appropriati.
Puoi utilizzare le incompatibilità dei nodi e l'affinità dei nodi insieme per assicurarti che i pod dei workload dei tenant siano pianificati esclusivamente sui nodi riservati al tenant.
Queste architetture di riferimento ti aiutano a controllare la pianificazione delle app tenant nei seguenti modi:
- Creazione di un pool di nodi GKE dedicato al tenant. Ogni nodo nel pool ha un taint correlato al nome del tenant.
- Applicando automaticamente la tolleranza e l'affinità dei nodi appropriate a qualsiasi pod che ha come target lo spazio dei nomi del tenant. Puoi applicare la tolleranza e l'affinità utilizzando le mutazioni di Policy Controller.
Privilegio minimo
Adottare un principio del privilegio minimo per i tuoi progetti e le tue risorseGoogle Cloud , come i cluster GKE, è una best practice per la sicurezza. Utilizzando questo approccio, le app eseguite all'interno del cluster e gli sviluppatori e gli operatori che utilizzano il cluster hanno solo l'insieme minimo di autorizzazioni richieste.
Queste architetture di riferimento ti aiutano a utilizzare i service account con privilegio minimo nei seguenti modi:
- Ogni pool di nodi GKE riceve il proprio service account. Ad esempio, i nodi nel pool di nodi tenant utilizzano un service account dedicato a questi nodi. I service account dei nodi sono configurati con le autorizzazioni minime richieste.
- Il cluster utilizza Workload Identity Federation for GKE per associare i service account Kubernetes ai service account Google. In questo modo, alle app tenant può essere concesso l'accesso limitato a tutte le API di Google richieste senza scaricare e archiviare una chiave del account di servizio. Ad esempio, puoi concedere al account di servizio le autorizzazioni per leggere i dati da un bucket Cloud Storage.
Queste architetture di riferimento ti aiutano a limitare l'accesso alle risorse del cluster nei seguenti modi:
- Creerai un ruolo RBAC di Kubernetes di esempio con autorizzazioni limitate per gestire le app. Puoi concedere questo ruolo agli utenti e ai gruppi che gestiscono le app nello spazio dei nomi del tenant. Applicando questo ruolo limitato di utenti e gruppi, questi utenti hanno solo le autorizzazioni per modificare le risorse dell'app nello spazio dei nomi del tenant. Non hanno le autorizzazioni per modificare le risorse a livello di cluster o le impostazioni di sicurezza sensibili, come le policy di Cloud Service Mesh.
Autorizzazione binaria
Autorizzazione binaria ti consente di applicare le policy che definisci alle immagini container di cui viene eseguito il deployment nel tuo ambiente GKE. Autorizzazione binaria consente il deployment solo delle immagini container conformi alle policy definite. Non consente il deployment di altre immagini container.
In questa architettura di riferimento, Autorizzazione binaria è abilitata con la configurazione predefinita. Per esaminare la configurazione predefinita di Autorizzazione binaria, consulta Esporta il file YAML della policy.
Per saperne di più su come configurare le policy, consulta le seguenti indicazioni specifiche:
- Google Cloud CLI
- ConsoleGoogle Cloud
- L'API REST
- La risorsa Terraform
google_binary_authorization_policy
Verifica dell'attestazione tra organizzazioni
Puoi utilizzare Autorizzazione binaria per verificare le attestazioni generate da un firmatario di terze parti. Ad esempio, in un caso d'uso di apprendimento federato tra silos, puoi verificare le attestazioni create da un'altra organizzazione partecipante.
Per verificare le attestazioni create da una terza parte, segui questi passaggi:
- Ricevi le chiavi pubbliche utilizzate dalla terza parte per creare le attestazioni che devi verificare.
- Crea gli attestatori per verificare le attestazioni.
- Aggiungi le chiavi pubbliche che hai ricevuto dalla terza parte agli attestatori che hai creato.
Per saperne di più sulla creazione di attestatori, consulta le seguenti indicazioni specifiche:
- Google Cloud CLI
- ConsoleGoogle Cloud
- l'API REST
- la risorsa Terraform
google_binary_authorization_attestor
Considerazioni sulla sicurezza dell'apprendimento federato
Nonostante il suo rigido modello di condivisione dei dati, l'apprendimento federato non è intrinsecamente sicuro contro tutti gli attacchi mirati e devi tenere conto di questi rischi quando esegui il deployment di una delle architetture descritte in questo documento. Esiste anche il rischio di fughe di informazioni involontarie sui modelli di ML o sui dati di addestramento dei modelli. Ad esempio, un malintenzionato potrebbe compromettere intenzionalmente il modello di ML globale o i round dell'attività di apprendimento federato oppure potrebbe eseguire un attacco di sincronizzazione (un tipo di attacco side channel) per raccogliere informazioni sulle dimensioni dei set di dati di addestramento.
Le minacce più comuni contro un'implementazione dell'apprendimento federato sono le seguenti:
- Memorizzazione intenzionale o involontaria dei dati di addestramento. La tua implementazione del federated learning o un utente malintenzionato potrebbe archiviare intenzionalmente o involontariamente i dati in modi che potrebbero essere difficili da gestire. Un utente malintenzionato potrebbe essere in grado di raccogliere informazioni sul modello di ML globale o sulle fasi precedenti dell'attività di apprendimento federato eseguendo il reverse engineering dei dati archiviati.
- Estrarre informazioni dagli aggiornamenti del modello ML globale. Durante l'attività di apprendimento federato, un malintenzionato potrebbe eseguire il reverse engineering degli aggiornamenti al modello ML globale che il proprietario della federazione raccoglie dalle organizzazioni e dai dispositivi partecipanti.
- Il proprietario della federazione potrebbe compromettere i round. Un proprietario della federazione compromesso potrebbe controllare un silo o un dispositivo non autorizzato e avviare un round dell'attività di apprendimento federato. Al termine del round, il proprietario della federazione compromessa potrebbe essere in grado di raccogliere informazioni sugli aggiornamenti che raccoglie dalle organizzazioni e dai dispositivi partecipanti legittimi confrontando questi aggiornamenti con quello prodotto dal silo canaglia.
- Le organizzazioni e i dispositivi partecipanti potrebbero compromettere il modello di ML globale. Durante l'attività di apprendimento federato, un malintenzionato potrebbe tentare di influire negativamente sulle prestazioni, sulla qualità o sull'integrità del modello di ML globale producendo aggiornamenti non autorizzati o irrilevanti.
Per contribuire a mitigare l'impatto delle minacce descritte in questa sezione, ti consigliamo di seguire queste best practice:
- Ottimizza il modello per ridurre al minimo la memorizzazione dei dati di addestramento.
- Implementa meccanismi che tutelano la privacy.
- Controlla regolarmente il modello ML globale, i modelli ML che intendi condividere, i dati di addestramento e l'infrastruttura che hai implementato per raggiungere i tuoi obiettivi di apprendimento federato.
- Implementa un algoritmo di aggregazione sicura per elaborare i risultati dell'addestramento prodotti dalle organizzazioni partecipanti.
- Genera e distribuisci in modo sicuro le chiavi di crittografia dei dati utilizzando un'infrastruttura a chiave pubblica.
- Esegui il deployment dell'infrastruttura su una piattaforma Confidential Computing.
I proprietari della federazione devono inoltre seguire questi passaggi aggiuntivi:
- Verifica l'identità di ogni organizzazione partecipante e l'integrità di ogni silo nel caso di architetture cross-silo, nonché l'identità e l'integrità di ogni dispositivo nel caso di architetture cross-device.
- Limitare l'ambito degli aggiornamenti al modello di ML globale che le organizzazioni e i dispositivi partecipanti possono produrre.
Affidabilità
Questa sezione descrive i fattori di progettazione da considerare quando utilizzi una delle architetture di riferimento di questo documento per progettare e creare una piattaforma di apprendimento federato su Google Cloud.
Quando progetti l'architettura di apprendimento federato su Google Cloud, ti consigliamo di seguire le indicazioni riportate in questa sezione per migliorare la disponibilità e la scalabilità del workload e contribuire a rendere l'architettura resiliente a interruzioni e disastri.
GKE: GKE supporta diversi tipi di cluster che puoi personalizzare in base ai requisiti di disponibilità dei tuoi workload e al tuo budget. Ad esempio, puoi creare cluster regionali che distribuiscono il control plane e i nodi in più zone all'interno di una regione o cluster di zona che hanno il control plane e i nodi in un'unica zona. Le architetture di riferimento cross-silo e cross-device si basano su cluster GKE a livello di regione. Per saperne di più sugli aspetti da considerare durante la creazione di cluster GKE, consulta Scelte di configurazione del cluster.
A seconda del tipo di cluster e del modo in cui il control plane e i nodi del cluster sono distribuiti tra regioni e zone, GKE offre diverse funzionalità di ripristino di emergenza per proteggere i workload da interruzioni a livello di zona e di regione. Per saperne di più sulle funzionalità di disaster recovery di GKE, consulta Progettazione ripristino di emergenza per interruzioni dell'infrastruttura cloud: Google Kubernetes Engine.
Google Cloud Load Balancing: GKE supporta diversi modi per bilanciare il carico del traffico verso i tuoi workload. Le implementazioni GKE delle API Kubernetes Gateway e Kubernetes Service consentono di eseguire automaticamente il provisioning e la configurazione di Cloud Load Balancing per esporre in modo sicuro e affidabile i workload in esecuzione nei cluster GKE.
In queste architetture di riferimento, tutto il traffico in entrata e in uscita passa attraverso i gateway Cloud Service Mesh. Questi gateway ti consentono di controllare rigorosamente il flusso del traffico all'interno e all'esterno dei tuoi cluster GKE.
Problemi di affidabilità per l'apprendimento federato cross-device
L'apprendimento federato cross-device presenta una serie di problemi di affidabilità che non si riscontrano negli scenari cross-silo. Di seguito sono elencati alcuni esempi:
- Connettività del dispositivo inaffidabile o intermittente
- Spazio sul dispositivo limitato
- Computing e memoria limitati
Una connettività non affidabile può causare problemi come i seguenti:
- Aggiornamenti obsoleti e divergenza del modello: quando i dispositivi presentano una connettività intermittente, i loro aggiornamenti del modello locale potrebbero diventare obsoleti, rappresentando informazioni non aggiornate rispetto allo stato attuale del modello globale. L'aggregazione di aggiornamenti obsoleti può portare alla divergenza del modello, in cui il modello globale si discosta dalla soluzione ottimale a causa di incoerenze nel processo di addestramento.
- Contributi sbilanciati e modelli distorti: la comunicazione intermittente può comportare una distribuzione non uniforme dei contributi dei dispositivi partecipanti. I dispositivi con una connettività scarsa potrebbero contribuire con meno aggiornamenti, portando a una rappresentazione sbilanciata della distribuzione dei dati sottostanti. Questo squilibrio può influenzare il modello globale verso i dati provenienti da dispositivi con connessioni più affidabili.
- Aumento dell'overhead di comunicazione e del consumo energetico: la comunicazione intermittente può comportare un aumento dell'overhead di comunicazione, poiché i dispositivi potrebbero dover inviare nuovamente gli aggiornamenti persi o danneggiati. Questo problema può anche aumentare il consumo energetico dei dispositivi, in particolare di quelli con una durata della batteria limitata, in quanto potrebbero dover mantenere connessioni attive per periodi più lunghi per garantire la corretta trasmissione degli aggiornamenti.
Per contribuire a mitigare alcuni degli effetti causati dalla comunicazione intermittente, le architetture di riferimento in questo documento possono essere utilizzate con la piattaforma FCP.
Un'architettura di sistema che esegue il protocollo FCP può essere progettata per soddisfare i seguenti requisiti:
- Gestire i round di lunga durata.
- Abilita l'esecuzione speculativa (i round possono iniziare prima che venga raggiunto il numero richiesto di client, in previsione di un numero sufficiente di check-in a breve).
- Consenti ai dispositivi di scegliere a quali attività partecipare. Questo approccio può abilitare funzionalità come il campionamento senza sostituzione, che è una strategia di campionamento in cui ogni unità campione di una popolazione ha una sola possibilità di essere selezionata. Questo approccio aiuta a mitigare i contributi sbilanciati e i modelli distorti
- Estensibile per tecniche di anonimizzazione come la privacy differenziale (DP) e l'aggregazione attendibile (TAG).
Per contribuire a mitigare le limitate capacità di archiviazione e calcolo dei dispositivi, possono essere utili le seguenti tecniche:
- Comprendere qual è la capacità massima disponibile per eseguire il calcolo del federated learning
- Comprendere quanti dati possono essere conservati in un determinato momento
- Progetta il codice di apprendimento federato lato client in modo che funzioni con la capacità di calcolo e la RAM disponibili sui client
- Comprendere le implicazioni dell'esaurimento dello spazio di archiviazione e implementare un processo per gestirlo
Ottimizzazione dei costi
Questa sezione fornisce indicazioni per ottimizzare i costi di creazione ed esecuzione della piattaforma di apprendimento federato su Google Cloud che stabilisci utilizzando questa architettura di riferimento. Queste indicazioni si applicano a entrambe le architetture descritte in questo documento.
L'esecuzione dei workload su GKE può aiutarti a ottimizzare i costi del tuo ambiente eseguendo il provisioning e la configurazione dei cluster in base ai requisiti delle risorse dei workload. Inoltre, abilita funzionalità che riconfigurano dinamicamente i cluster e i nodi del cluster, ad esempio la scalabilità automatica dei nodi e dei pod del cluster e il dimensionamento ottimale dei cluster.
Per saperne di più sull'ottimizzazione dei costi degli ambienti GKE, consulta Best practice per l'esecuzione di applicazioni Kubernetes con ottimizzazione dei costi su GKE.
Efficienza operativa
Questa sezione descrive i fattori da considerare per ottimizzare l'efficienza quando utilizzi questa architettura di riferimento per creare ed eseguire una piattaforma di apprendimento federato su Google Cloud. Queste indicazioni si applicano a entrambe le architetture descritte in questo documento.
Per aumentare l'automazione e il monitoraggio dell'architettura di apprendimento federato, ti consigliamo di adottare i principi MLOps, che sono i principi DevOps nel contesto dei sistemi di machine learning. Mettere in pratica le MLOps significa promuovere l'automazione e il monitoraggio di ogni fase della creazione di un sistema ML, tra cui l'integrazione, il test, il rilascio, il deployment e la gestione dell'infrastruttura. Per saperne di più su MLOps, consulta MLOps: pipeline di distribuzione continua e automazione nel machine learning.
Ottimizzazione delle prestazioni
Questa sezione descrive i fattori da considerare per ottimizzare le prestazioni dei workload quando utilizzi questa architettura di riferimento per creare ed eseguire una piattaforma di apprendimento federato su Google Cloud. Queste indicazioni si applicano a entrambe le architetture descritte in questo documento.
GKE supporta diverse funzionalità per ridimensionare e scalare automaticamente e manualmente l'ambiente GKE in modo da soddisfare le esigenze dei tuoi workload ed evitare l'overprovisioning delle risorse. Ad esempio, puoi utilizzare il motore per i suggerimenti per generare insight e suggerimenti per ottimizzare l'utilizzo delle risorse GKE.
Quando pensi a come scalare il tuo ambiente GKE, ti consigliamo di progettare piani a breve, medio e lungo termine per la scalabilità degli ambienti e dei workload. Ad esempio, come intendi far crescere il tuo footprint GKE nel giro di poche settimane, mesi e anni? Avere un piano pronto ti aiuta a sfruttare al meglio le funzionalità di scalabilità fornite da GKE, ottimizzare i tuoi ambienti GKE e ridurre i costi. Per saperne di più sulla pianificazione della scalabilità di cluster e workload, consulta Informazioni sulla scalabilità di GKE.
Per aumentare le prestazioni dei workload di ML, puoi adottare le Cloud Tensor Processing Unit (Cloud TPU), acceleratori AI progettati da Google e ottimizzati per l'addestramento e l'inferenza di modelli di AI di grandi dimensioni.
Deployment
Per eseguire il deployment delle architetture di riferimento cross-silo e cross-device descritte in questo documento, consulta il repository GitHub Federated Learning on Google Cloud.
Passaggi successivi
- Scopri come implementare i tuoi algoritmi di apprendimento federato sulla piattaforma TensorFlow Federated.
- Scopri di più su Advances and Open Problems in Federated Learning.
- Scopri di più sull'apprendimento federato nel blog di Google AI.
- Guarda come Google mantiene intatta la privacy quando utilizza l'apprendimento federato con dati aggregati e anonimizzati per migliorare i modelli di ML.
- Leggi Towards apprendimento federato at scale.
- Scopri come implementare una pipeline MLOps per gestire il ciclo di vita dei modelli di machine learning.
- Per una panoramica dei principi e dei suggerimenti di architettura specifici per i workload di AI e ML in Google Cloud, consulta la prospettiva di AI e ML nel Well-Architected Framework.
- Per ulteriori architetture di riferimento, diagrammi e best practice, esplora Cloud Architecture Center.
Collaboratori
Autori:
- Grace Mollison | Solutions Lead
- Marco Ferrari | Cloud Solutions Architect
Altri collaboratori:
- Chloé Kiddon | Staff Software Engineer and Manager
- Laurent Grangeau | Solutions Architect
- Lilian Felix | Cloud Engineer
- Christiane Peters | Cloud Security Architect