Questo tutorial mostra come ottimizzare un modello linguistico di grandi dimensioni (LLM) Gemma 3 su un cluster GKE multi-nodo e multi-GPU su Google Cloud. Questo cluster utilizza un'istanza di macchina virtuale (VM) A4 con 8 GPU NVIDIA B200.
Le due procedure principali descritte in questo tutorial sono le seguenti:
- Esegui il deployment di un cluster GKE ad alte prestazioni utilizzando GKE Autopilot. Nell'ambito di questo deployment, crei un'immagine VM personalizzata con il software necessario preinstallato.
- Dopo il deployment del cluster, esegui un job di ottimizzazione distribuita utilizzando il set di script che accompagnano questo tutorial. Il job utilizza la libreria Hugging Face Accelerate.
Questo tutorial è rivolto a machine learning engineer, ricercatori, amministratori e operatori di piattaforme e a specialisti di dati e AI interessati al deployment di cluster GKE su Google Cloud per addestrare LLM.
Obiettivi
Accedi al modello Gemma 3 utilizzando Hugging Face.
Prepara l'ambiente.
Crea ed esegui il deployment di un cluster GKE A4.
Ottimizza il modello Gemma 3 utilizzando la libreria Hugging Face Accelerate con il parallelismo dei dati completamente partizionato (FSDP).
Monitorare il job.
Eseguire la pulizia.
Costi
In questo documento vengono utilizzati i seguenti componenti fatturabili di Google Cloud:
Per generare una stima dei costi in base all'utilizzo previsto,
utilizza il calcolatore prezzi.
Prima di iniziare
- Accedi al tuo account Google Cloud . Se non conosci Google Cloud, crea un account per valutare le prestazioni dei nostri prodotti in scenari reali. I nuovi clienti ricevono anche 300 $di crediti senza costi per l'esecuzione, il test e il deployment dei carichi di lavoro.
-
Installa Google Cloud CLI.
-
Se utilizzi un provider di identità (IdP) esterno, devi prima accedere a gcloud CLI con la tua identità federata.
-
Per inizializzare gcloud CLI, esegui questo comando:
gcloud init -
Crea o seleziona un Google Cloud progetto.
Ruoli richiesti per selezionare o creare un progetto
- Seleziona un progetto: la selezione di un progetto non richiede un ruolo IAM specifico. Puoi selezionare qualsiasi progetto per il quale ti è stato concesso un ruolo.
-
Crea un progetto: per creare un progetto, devi disporre del ruolo Autore progetto
(
roles/resourcemanager.projectCreator), che contiene l'autorizzazioneresourcemanager.projects.create. Scopri come concedere i ruoli.
-
Creare un progetto Google Cloud :
gcloud projects create PROJECT_ID
Sostituisci
PROJECT_IDcon un nome per il progetto Google Cloud che stai creando. -
Seleziona il progetto Google Cloud che hai creato:
gcloud config set project PROJECT_ID
Sostituisci
PROJECT_IDcon il nome del progetto Google Cloud .
-
Verifica che la fatturazione sia attivata per il tuo progetto Google Cloud .
Abilita le API richieste:
Ruoli richiesti per abilitare le API
Per abilitare le API, devi disporre del ruolo IAM Amministratore utilizzo dei servizi (
roles/serviceusage.serviceUsageAdmin), che include l'autorizzazioneserviceusage.services.enable. Scopri come concedere i ruoli.gcloud services enable compute.googleapis.com
container.googleapis.com file.googleapis.com logging.googleapis.com cloudresourcemanager.googleapis.com servicenetworking.googleapis.com -
Installa Google Cloud CLI.
-
Se utilizzi un provider di identità (IdP) esterno, devi prima accedere a gcloud CLI con la tua identità federata.
-
Per inizializzare gcloud CLI, esegui questo comando:
gcloud init -
Crea o seleziona un Google Cloud progetto.
Ruoli richiesti per selezionare o creare un progetto
- Seleziona un progetto: la selezione di un progetto non richiede un ruolo IAM specifico. Puoi selezionare qualsiasi progetto per il quale ti è stato concesso un ruolo.
-
Crea un progetto: per creare un progetto, devi disporre del ruolo Autore progetto
(
roles/resourcemanager.projectCreator), che contiene l'autorizzazioneresourcemanager.projects.create. Scopri come concedere i ruoli.
-
Creare un progetto Google Cloud :
gcloud projects create PROJECT_ID
Sostituisci
PROJECT_IDcon un nome per il progetto Google Cloud che stai creando. -
Seleziona il progetto Google Cloud che hai creato:
gcloud config set project PROJECT_ID
Sostituisci
PROJECT_IDcon il nome del progetto Google Cloud .
-
Verifica che la fatturazione sia attivata per il tuo progetto Google Cloud .
Abilita le API richieste:
Ruoli richiesti per abilitare le API
Per abilitare le API, devi disporre del ruolo IAM Amministratore utilizzo dei servizi (
roles/serviceusage.serviceUsageAdmin), che include l'autorizzazioneserviceusage.services.enable. Scopri come concedere i ruoli.gcloud services enable compute.googleapis.com
container.googleapis.com file.googleapis.com logging.googleapis.com cloudresourcemanager.googleapis.com servicenetworking.googleapis.com -
Concedi ruoli al tuo account utente. Esegui il seguente comando una volta per ciascuno dei seguenti ruoli IAM:
roles/compute.admin, roles/iam.serviceAccountUser, roles/cloudbuild.builds.editor, roles/artifactregistry.admin, roles/storage.admin, roles/serviceusage.serviceUsageAdmingcloud projects add-iam-policy-binding PROJECT_ID --member="user:USER_IDENTIFIER" --role=ROLE
Sostituisci quanto segue:
PROJECT_ID: il tuo ID progetto.USER_IDENTIFIER: l'identificatore del tuo account utente . Ad esempio:myemail@example.com.ROLE: il ruolo IAM che concedi al tuo account utente.
- Abilita il account di servizio predefinito per il tuo progetto Google Cloud :
export PROJECT_NUMBER="$(gcloud projects describe "PROJECT_ID" --format "value(project_number)")" gcloud iam service-accounts enable "${PROJECT_NUMBER}-compute@developer.gserviceaccount.com \ --project=PROJECT_ID
- Concedi il ruolo Editor (
roles/editor) al service account predefinito:gcloud projects add-iam-policy-binding PROJECT_ID \ --member="serviceAccount:PROJECT_NUMBER-compute@developer.gserviceaccount.com" \ --role=roles/editor
- Crea le credenziali di autenticazione locale per il tuo account utente:
gcloud auth application-default login
- Attiva OS Login per il tuo progetto:
gcloud compute project-info add-metadata --metadata=enable-oslogin=TRUE
- Accedi o crea un account Hugging Face.
Accedere a Gemma 3 utilizzando Hugging Face
Per utilizzare Hugging Face per accedere a Gemma 3:
- Accedere a Hugging Face
- Crea un token di accesso
writeHugging Face.
Fai clic su Il tuo profilo > Impostazioni > Token di accesso > +Crea nuovo token. - Copia e salva il valore del token
write access. Lo utilizzerai più avanti in questo tutorial.
prepara l'ambiente
Per preparare l'ambiente, imposta quanto segue:
Sostituisci quanto segue:
PROJECT_ID: il nome del Google Cloud progetto in cui vuoi creare il cluster GKE.RESERVATION: l'identificatore della capacità riservata.CLUSTER_NAME: il nome del cluster GKE da creare.CLUSTER_REGION: la regione in cui vuoi creare il cluster GKE. Puoi creare il cluster solo nella regione in cui esiste la prenotazione.HF_TOKEN: il token di accesso a Hugging Face che hai creato nella sezione precedente.ARTIFACT_REPO_LOCATION: la località in cui vuoi creare il repository Artifact Registry.
Crea un cluster GKE in modalità Autopilot
Per creare un cluster GKE in modalità Autopilot, esegui questo comando:
La creazione del cluster GKE potrebbe richiedere un po' di tempo. Per verificare che Google Cloud abbia terminato la creazione del cluster, vai a Cluster Kubernetes nella console Google Cloud .
Crea un secret Kubernetes per le credenziali di Hugging Face
Per creare un secret Kubernetes per le credenziali di Hugging Face:
Configura
kubectlper comunicare con il cluster GKE:Crea un secret di Kubernetes per archiviare il token Hugging Face:
Prepara il workload
Per preparare il workload:
Crea script del workload
Per creare gli script utilizzati dal carico di lavoro di fine tuning:
Crea una directory per gli script del carico di lavoro. Utilizza questa directory come directory di lavoro.
Crea il file
cloudbuild.yamlper utilizzare Google Cloud Build. Questo file crea il container del carico di lavoro e lo archivia in Artifact Registry:Crea un file
Dockerfileper eseguire il job di perfezionamento:Crea il file
accel_fsdp_gemma3_config.yaml. Questo file di configurazione indica a Hugging Face Accelerate di dividere il job di ottimizzazione su più GPU.Crea il file
finetune.yaml:Crea il file
finetune.py:
Utilizza Docker e Cloud Build per creare un container di perfezionamento
Crea un repository Docker di Artifact Registry:
Nella directory
llm-finetuning-gemmacreata in un passaggio precedente, esegui questo comando per creare l'immagine di perfezionamento e inviarla ad Artifact Registry.Esporta l'URL dell'immagine. Lo utilizzerai in un passaggio successivo di questo tutorial:
Avvia il carico di lavoro di perfezionamento
Per avviare il workload di perfezionamento:
Applica il manifest di ottimizzazione per creare il job di ottimizzazione:
Poiché utilizzi cluster in modalità GKE Autopilot, potrebbero essere necessari alcuni minuti per avviare il nodo abilitato per la GPU.
Monitora il job eseguendo questo comando:
Controlla i log del job eseguendo questo comando:
La risorsa job scarica i dati del modello e poi lo perfeziona su tutte e otto le GPU. Il completamento del download richiede circa cinque minuti. Al termine del download, la procedura di perfezionamento richiede circa 2 ore e 30 minuti.
Monitorare il workload
Puoi monitorare l'utilizzo delle GPU nel tuo cluster GKE per verificare che il job di ottimizzazione venga eseguito in modo efficiente. Per farlo, apri il seguente link nel browser:
Quando monitori il carico di lavoro, puoi visualizzare quanto segue:
- Utilizzo delle GPU: per un job di perfezionamento corretto, puoi aspettarti di vedere l'utilizzo di tutte le 8 GPU aumentare e stabilizzarsi a un livello elevato durante l'addestramento.
- Durata del job: il completamento del job dovrebbe richiedere circa 10 minuti sul cluster A4 specificato.
Esegui la pulizia
Per evitare che al tuo account Google Cloud vengano addebitati costi relativi alle risorse utilizzate in questo tutorial, elimina il progetto che contiene le risorse oppure mantieni il progetto ed elimina le singole risorse.
Eliminare le risorse
Per eliminare il job di perfezionamento, esegui questo comando:
Per eliminare il cluster GKE, esegui questo comando:
Elimina il progetto
Elimina un progetto Google Cloud :
gcloud projects delete PROJECT_ID