Crea un cluster Slurm completamente gestito con due VM A4

Crea un cluster Slurm completamente gestito con due VM A4

Questa guida rapida spiega come creare e connettersi a un cluster Slurm utilizzando Cluster Director. Il cluster che crei utilizza due istanze di macchine virtuali (VM) A4, progettate per aiutare il cluster Slurm a gestire in modo efficiente i carichi di lavoro di addestramento e inferenza di modelli su larga scala.

Importante: per completare questa guida rapida, devi disporre di risorse sufficienti per creare due VM A4. Per ottenere queste risorse, devi prenotarle per una data e un'ora future oppure creare le VM A4 come VM flessibili o VM spot. Per saperne di più, consulta Scegliere un'opzione di consumo.

Cluster Director è un servizio gestito che semplifica e automatizza il deployment dei cluster, riducendo l'overhead operativo e consentendoti di concentrarti sull'esecuzione del workload. Se vuoi avere un maggiore controllo sul deployment e sulla gestione del cluster, crea un cluster Slurm utilizzando Cluster Toolkit.

---

Per seguire le indicazioni dettagliate per questa attività direttamente nella console Google Cloud , fai clic su Procedura guidata:

Procedura guidata

---

Prima di iniziare

Accedi al tuo account Google Cloud . Se non conosci Google Cloud, crea un account per valutare le prestazioni dei nostri prodotti in scenari reali. I nuovi clienti ricevono anche 300 $di crediti senza costi per l'esecuzione, il test e il deployment dei carichi di lavoro.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

1. Abilita l'API Hypercompute Cluster, l'API Compute Engine, l'API Filestore, l'API Google Cloud Managed Lustre, l'API Cloud Logging e l'API Cloud Monitoring:

   Abilita le API
2. Verifica che il tuo progetto e il service account predefinito di Compute Engine dispongano dei seguenti ruoli IAM (Identity and Access Management):

   • Per ottenere le autorizzazioni necessarie per completare questa guida rapida, chiedi all'amministratore di concederti i seguenti ruoli IAM:

     • Per creare e gestire un cluster: Editor Cluster Director (roles/hypercomputecluster.editor) sul tuo progetto
     • Per creare e gestire le VM in un cluster: Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) sul tuo progetto
     • Per utilizzare una prenotazione per un singolo progetto: Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) sul tuo progetto
     • Per utilizzare una prenotazione condivisa: Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) sia nel progetto proprietario sia in qualsiasi progetto consumer in cui vuoi utilizzare la prenotazione
     • Per connetterti al nodo di accesso in un cluster:
       • Compute OS Login (roles/compute.osLogin) sul tuo progetto
       • Utente del tunnel con protezione IAP (roles/iap.tunnelResourceAccessor) sul tuo progetto

     Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.

     Potresti anche riuscire a ottenere le autorizzazioni richieste tramite i ruoli personalizzati o altri ruoli predefiniti.

   • Per ottenere le autorizzazioni necessarie per completare questa guida rapida, chiedi all'amministratore di concederti i seguenti ruoli IAM sul account di servizio predefinito di Compute Engine:

     • Per creare un cluster: Utente service account (roles/iam.serviceAccountUser)
     • Per gestire le risorse in un cluster:
       • Logs Writer (roles/logging.logWriter)
       • Monitoring Metric Writer (roles/monitoring.metricWriter)
       • Storage Object Viewer (roles/storage.objectViewer)

3. Se l'organizzazione in cui esiste il tuo progetto ha una criteri per l'utilizzo di immagini attendibili (constraints/compute.trustedImageProjects), verifica che il progetto clusterdirector-public-images sia incluso nell'elenco dei progetti consentiti. Per visualizzare le policy per immagini attendibili della tua organizzazione, consulta Imposta limitazioni di accesso alle immagini.

Costi

Questa guida rapida utilizza le seguenti risorse fatturabili di Google Cloud :

• Compute Engine:

  • Due VM con tipi di macchine A4

  • Un volume del disco permanente per il nodo di accesso Slurm con 100 GB

  • Un volume Google Cloud Hyperdisk bilanciato con 100 GB per le VM A4

• Filestore: un'istanza Filestore con 10 TiB (10.240 GiB)

Per generare una stima dei costi in base all'utilizzo previsto, utilizza il calcolatore prezzi.

Crea un cluster Slurm

Per creare un cluster Slurm, completa i seguenti passaggi:

1. Nella console Google Cloud , vai alla pagina Cluster Director.

   Vai a Cluster Director

2. Fai clic su Crea un cluster.

3. Nella finestra di dialogo visualizzata, fai clic su Configurazione passo passo. Viene visualizzata la pagina Crea cluster.

4. Nel campo Nome del cluster, inserisci cluster001.

5. Nella sezione Computing, fai clic su Configura risorse. Nel riquadro Aggiungi configurazione delle risorse visualizzato, completa i seguenti passaggi:

   1. Nell'elenco Tipo di GPU, seleziona NVIDIA B200 180 GB.

   2. Nel campo Numero di istanze, inserisci 2.

   3. Nella sezione Opzioni di consumo, seleziona l'opzione di consumo che vuoi utilizzare per ottenere le risorse.

   4. Nella sezione Località, specifica la Regione e la Zona in cui vuoi creare le tue VM A4 o in cui esiste la prenotazione che vuoi utilizzare per creare le tue VM.

   5. Fai clic su Fine.

6. Nel menu di navigazione, fai clic su Spazio di archiviazione.

7. Nella sezione Archiviazione, fai clic su Modifica configurazione dell'archiviazione. Nel riquadro Aggiungi configurazione dell'archiviazione visualizzato, completa i seguenti passaggi:

   1. Nella sezione Capacità, seleziona 10-100 TiB, con incrementi di 2,5 TiB.

   2. Fai clic su Fine.

8. Fai clic su Crea. Viene visualizzata la pagina Cluster.

   La creazione del cluster può richiedere un po' di tempo. Il tempo di completamento dipende dal numero di VM richieste e dalla disponibilità delle risorse nella zona delle VM. Se le risorse richieste non sono disponibili, Cluster Director mantiene attiva la richiesta di creazione fino a quando non diventano disponibili.

Visualizzare la richiesta di creazione del cluster

Per esaminare la richiesta di creazione del cluster, completa i seguenti passaggi:

1. Nella tabella Cluster, nella colonna Nome, fai clic su cluster001. Viene visualizzata una pagina con i dettagli del cluster, con la scheda Dettagli selezionata.

2. Nella sezione Computing, trova la riga Stato. Quando AI Hypercomputer imposta il valore su Pronto, puoi procedere alla sezione successiva.

Connettiti al cluster tramite SSH

Per connetterti al cluster tramite SSH, completa i seguenti passaggi:

1. Fai clic sulla scheda Nodi.

2. Nella tabella Nodi di accesso, individua la riga contenente il nodo cluster001-login-001. In quella riga, fai clic sul pulsante SSH nella colonna Connetti. Viene visualizzata la finestra SSH nel browser.

3. Se richiesto, fai clic su Autorizza. La connessione al cluster può richiedere un po' di tempo. Quando il terminale è pronto, vai alla sezione successiva.

   Nota: se si verificano errori durante la connessione al cluster, consulta Risolvere gli errori SSH.

Esegui job di esempio

Nella finestra SSH nel browser, completa i seguenti passaggi:

1. Per verificare che Slurm sia in esecuzione, esegui questo comando:

   sinfo
   

2. Per inviare un job di test che restituisce il nome host del nodo, esegui questo comando:

   srun hostname
   

3. Per inviare un job batch che rimane inattivo per 30 secondi, esegui questo comando:

   sbatch --wrap="sleep 30"
   

4. Per controllare lo stato dei job in coda, esegui questo comando:

   squeue
   

5. Per visualizzare i dati di quantità di utilizzo delle risorse per i job, esegui questo comando:

   sacct
   

Hai creato un cluster Slurm, stabilito la connessione al cluster ed eseguito job di esempio. Se AI Hypercomputer non ha ancora creato le VM A4, puoi attendere che il cluster crei le VM, modificare il cluster per aggiungere o rimuovere VM oppure eliminare il cluster per evitare addebiti non necessari.

Esegui la pulizia

Per evitare che al tuo account Google Cloud vengano addebitati costi relativi alle risorse utilizzate in questa pagina, segui questi passaggi.

Elimina il progetto

Il modo più semplice per eliminare la fatturazione è eliminare il progetto creato per il tutorial.

Per eliminare il progetto:

Attenzione: l'eliminazione di un progetto ha i seguenti effetti:

• L'intero contenuto del progetto viene eliminato. Se hai utilizzato un progetto esistente per, le attività descritte in questo documento, eliminerai anche tutto il lavoro che hai svolto nel progetto.
• Gli ID progetto personalizzati non sono più disponibili. Quando hai creato questo progetto, potresti aver creato un ID progetto personalizzato che vuoi utilizzare in futuro. Per conservare gli URL che utilizzano l'ID progetto, ad esempio un URL appspot.com, elimina le risorse selezionate all'interno del progetto anziché eliminare l'intero progetto.

Se intendi esplorare più architetture, tutorial o guide rapide, puoi riutilizzare i progetti ed evitare così di superare i limiti di quota.

1. Nella console Google Cloud , vai alla pagina Gestisci risorse.

   Vai a Gestisci risorse

2. Nell'elenco dei progetti, seleziona il progetto che vuoi eliminare, quindi fai clic su Elimina.
3. Nella finestra di dialogo, digita l'ID progetto, quindi fai clic su Chiudi per eliminare il progetto.

Elimina il cluster

Per eliminare il cluster e le risorse associate che hai creato nell'ambito di questa guida rapida, completa i seguenti passaggi:

1. Nella pagina contenente i dettagli del cluster, fai clic su Elimina.

2. Nella finestra di dialogo visualizzata, inserisci cluster001, quindi fai clic su Elimina per confermare.

Passaggi successivi

• Verifica l'utilizzo della prenotazione

• Visualizza la topologia del cluster

• Modificare un cluster

• Gestire lo stato del cluster