Aumentare la velocità del traffico di rete per i nodi GPU

Questa pagina mostra come aumentare la larghezza di banda della rete per i nodi GPU nei cluster Google Kubernetes Engine (GKE) utilizzando Google Virtual NIC (gVNIC).

Nei cluster Autopilot, i nodi che eseguono GKE versione 1.30.2-gke.1023000 e successive hanno Google Virtual NIC (gVNIC) installato automaticamente. Le istruzioni riportate in questa pagina si applicano solo ai cluster Standard.

Per aumentare la larghezza di banda sui nodi CPU, valuta la possibilità di attivare la larghezza di banda di livello 1.

Prima di iniziare

Prima di iniziare, assicurati di aver eseguito le seguenti attività:

  • Abilita l'API Google Kubernetes Engine.
    • Abilita l'API Google Kubernetes Engine
  • Se vuoi utilizzare Google Cloud CLI per questa attività, installala e poi inizializza gcloud CLI. Se hai già installato gcloud CLI, scarica l'ultima versione eseguendo il gcloud components update comando. Le versioni precedenti di gcloud CLI potrebbero non supportare l'esecuzione dei comandi in questo documento.

Limitazioni

Requisiti

  • I nodi GKE devono utilizzare un'immagine del nodo Container-Optimized OS .

Abilitare gVNIC

Puoi creare un cluster con node pool che utilizzano gVNIC, creare un pool di nodi con gVNIC abilitato o aggiornare un pool di nodi per utilizzare gVNIC.

Creare un cluster

Crea un cluster con node pool che utilizzano gVNIC:

gcloud container clusters create CLUSTER_NAME \
    --accelerator type=GPU_TYPE,count=AMOUNT \
    --machine-type=MACHINE_TYPE \
    --enable-gvnic

Sostituisci quanto segue:

  • CLUSTER_NAME: il nome del nuovo cluster.
  • GPU_TYPE: il tipo di acceleratore GPU che utilizzi. Ad esempio, nvidia-tesla-t4.
  • AMOUNT: il numero di GPU da collegare ai nodi nel pool di nodi.
  • MACHINE_TYPE: il tipo di macchina che vuoi utilizzare. gVNIC non è supportato sui tipi di macchine ottimizzati per la memoria.

Creare un pool di nodi

Crea un pool di nodi che utilizza gVNIC:

gcloud container node-pools create NODEPOOL_NAME \
    --cluster=CLUSTER_NAME \
    --enable-gvnic

Sostituisci quanto segue:

  • NODEPOOL_NAME: il nome di un nuovo pool di nodi.
  • CLUSTER_NAME: il nome del cluster esistente.

Aggiornare un pool di nodi

Aggiorna un pool di nodi per utilizzare gVNIC:

gcloud container node-pools update NODEPOOL_NAME \
    --cluster=CLUSTER_NAME \
    --enable-gvnic

Sostituisci quanto segue:

  • NODEPOOL_NAME: il nome del pool di nodi che vuoi aggiornare.
  • CLUSTER_NAME: il nome del cluster esistente.

Questa modifica richiede la ricreazione dei nodi, che può causare interruzioni ai carichi di lavoro in esecuzione. Per informazioni dettagliate su questa modifica specifica, trova la riga corrispondente nella tabella delle modifiche manuali che ricreano i nodi utilizzando una strategia di upgrade dei nodi senza rispettare le policy di manutenzione. Per saperne di più sugli aggiornamenti dei nodi, consulta Pianificare le interruzioni degli aggiornamenti dei nodi.

Disattivare gVNIC

Aggiorna il pool di nodi utilizzando il flag --no-enable-gvnic:

gcloud container node-pools update NODEPOOL_NAME \
    --cluster=CLUSTER_NAME \
    --no-enable-gvnic

Questa modifica richiede la ricreazione dei nodi, che può causare interruzioni ai carichi di lavoro in esecuzione. Per informazioni dettagliate su questa modifica specifica, trova la riga corrispondente nella tabella delle modifiche manuali che ricreano i nodi utilizzando una strategia di upgrade dei nodi senza rispettare le policy di manutenzione. Per saperne di più sugli aggiornamenti dei nodi, consulta Pianificare le interruzioni degli aggiornamenti dei nodi.

Risoluzione dei problemi

Per risolvere i problemi relativi a gVNIC, consulta Risoluzione dei problemi relativi a Google Virtual NIC.

Passaggi successivi