Tipi di macchine dei nodi del cluster

Quando crei un cluster Kubernetes in Google Distributed Cloud (GDC) con air gap, crei node pool responsabili dell'esecuzione dei carichi di lavoro dei container nel cluster. Esegui il provisioning dei nodi in base ai requisiti del carico di lavoro dei container e puoi aggiornarli man mano che i requisiti cambiano.

GDC fornisce tipi di macchina predefiniti per i nodi worker selezionabili quando aggiungi un pool di nodi. Esistono anche diversi modi per partizionare istanze GPU separate utilizzando la funzionalità GPU multi-istanza (MIG).

Questo documento è destinato agli sviluppatori di applicazioni all'interno del gruppo di operatori di applicazioni e agli amministratori IT all'interno del gruppo di amministratori della piattaforma responsabili della gestione dei cluster Kubernetes all'interno della propria organizzazione. Per saperne di più, consulta la documentazione relativa ai segmenti di pubblico per GDC con air gap.

Fai riferimento alle sezioni seguenti per i tipi di macchine disponibili e il supporto GPU.

Tipi di macchine disponibili

GDC definisce i tipi di macchine con alcuni parametri per un nodo del cluster Kubernetes, tra cui CPU, memoria e GPU. GDC offre vari tipi di macchine per scopi diversi. Ad esempio, i cluster utilizzano n2-standard-4-gdc per i carichi di lavoro dei container generici. Se prevedi di eseguire notebook di intelligenza artificiale (AI) e machine learning (ML), devi eseguire il provisioning di macchine GPU, ad esempio a2-highgpu-1g-gdc.

Di seguito è riportato un elenco di tutti i tipi di macchine predefinite GDC disponibili per i nodi worker del cluster Kubernetes:

Nome vCPU Memoria GPU
n2-standard-4-gdc 4 16G N/D
n2-standard-8-gdc 8 32G N/D
n2-standard-16-gdc 16 64G N/D
n2-standard-32-gdc 32 128G N/D
n2-highmem-4-gdc 4 32G N/D
n2-highmem-8-gdc 8 64G N/D
n2-highmem-16-gdc 16 128G N/D
n2-highmem-32-gdc 32 256G N/D
n2-highcpu-8-gdc 8 8G N/D
n3-standard-4-gdc 4 16G N/D
n3-standard-8-gdc 8 32G N/D
n3-standard-16-gdc 16 64G N/D
n3-standard-32-gdc 32 128G N/D
n3-standard-64-gdc 64 256G N/D
n3-standard-80-gdc 80 320G N/D
n4-highmem-4-gdc 4 32G N/D
n4-highmem-8-gdc 8 64G N/D
n4-highmem-16-gdc 16 128G N/D
n4-highmem-32-gdc 32 256G N/D
n4-highmem-48-gdc 48 384G N/D
n4-highmem-64-gdc 64 512G N/D
n4-highmem-80-gdc 80 640G N/D
n4-megamem-64-gdc 64 896G N/D
a2-highgpu-1g-gdc 12 85G 1x A100 da 40 GB
a2-ultragpu-1g-gdc 12 170G 1x A100 da 80 GB
a2-ultragpu-2g-gdc 24 340G 2x A100 da 80 GB
a3-highgpu-1g-gdc 28 240G 1x H100 da 94 GB
a3-highgpu-2g-gdc 56 480G 2x H100 da 94 GB
a3-highgpu-4g-gdc 112 960G 4x H100 da 94 GB
a3-ultragpu-8g-gdc 224 1792G 8x H200 141GB
a4-ultragpu-8g-gdc 224 3584G 8x B300

Profili MIG supportati

Questa sezione definisce gli schemi di partizionamento supportati dei profili MIG sulle GPU supportate. Puoi definire uno schema di partizionamento per un pool di nodi nella risorsa personalizzata Cluster.

Per ulteriori informazioni su come applicare uno schema di partizionamento della GPU, consulta Aggiungere un node pool.

GPU A100 da 40 GB

La tabella seguente definisce i profili MIG supportati sulla GPU NVIDIA A100 da 40 GB:

Schema di partizionamento Partizioni disponibili
1g.5gb 7x 1g.5gb
2g.10gb 3x 2g.10gb
3g.20gb 2x 3g.20gb
7g.40gb 1x 7g.40gb
mixed-1 1x 4g.20gb
1x 2g.10gb
1x 1g.5gb
mixed-2 1x 4g.20gb
3x 1g.5gb
mixed-3 1x 3g.20gb
2x 2g.10gb
mixed-4 1x 3g.20gb
1x 2g.10gb
2x 1g.5gb
mixed-5 1x 3g.20gb
4x 1g.5gb
mixed-6 3x 2g.10gb
1x 1g.5gb
mixed-7 2x 2g.10gb
3x 1g.5gb
mixed-8 1x 2g.10gb
5x 1g.5gb

GPU A100 da 80 GB

La tabella seguente definisce i profili MIG supportati sulla GPU NVIDIA A100 da 80 GB:

Schema di partizionamento Partizioni disponibili
1g.10gb 7x 1g.10gb
2g.20gb 3x 2g.20gb
3g.40gb 2x 3g.40gb
7g.80gb 1x 7g.80gb
mixed-1 1x 4g.40gb
1x 2g.20gb
1x 1g.10gb
mixed-2 1x 4g.40gb
3x 1g.10gb
mixed-3 1x 3g.40gb
2x 2g.20gb
mixed-4 1x 3g.40gb
1x 2g.20gb
2x 1g.10gb
mixed-5 1x 3g.40gb
4x 1g.10gb
mixed-6 3x 2g.20gb
1x 1g.10gb
mixed-7 2x 2g.20gb
3x 1g.10gb
mixed-8 1x 2g.20gb
5x 1g.10gb

GPU H100 da 94 GB

La tabella seguente definisce i profili MIG supportati sulla GPU NVIDIA H100 da 94 GB:

Schema di partizionamento Partizioni disponibili
1g.12gb 7x 1g.12gb
1g.24gb 7x 1g.24gb
2g.24gb 3x 2g.24gb
3g.47gb 2x 3g.47gb
4 g.47 GB 1x 4g.47gb
7g.94gb 1x 7g.94gb
mixed-1 1x 4g.47gb
1x 3g.47gb
mixed-2 1x 4g.47gb
1x 2g.24gb
1x 1g.12gb
mixed-3 1x 4g.47gb
3x 1g.12gb
mixed-4 1x 3g.47gb
2x 2g.24gb
mixed-5 1x 3g.47gb
1x 2g.24gb
2x 1g.12gb
mixed-6 1x 3g.47gb
4x 1g.12gb
mixed-7 3x 2g.24gb
1x 1g.12gb
mixed-8 2x 2g.24gb
3x 1g.12gb
mixed-9 1x 2g.24gb
5x 1g.12gb

GPU H200 da 141 GB

La tabella seguente definisce i profili MIG supportati sulla GPU NVIDIA H200 da 141 GB:

Schema di partizionamento Partizioni disponibili
1g.18gb 7x 1g.18gb
1g.35gb 4x 1g.35gb
2g.35gb 3x 2g.35gb
3g.71gb 2x 3g.71gb
4g.71gb 1x 4g.71gb
7g.141gb 1x 7g.141gb
mixed-1 1x 4g.71gb
1x 3g.71gb
mixed-2 1x 4g.71gb
1x 2g.35gb
1x 1g.18gb
mixed-3 1x 4g.71gb
3x 1g.18gb
mixed-4 1x 3g.71gb
2x 2g.35gb
mixed-5 1x 3g.71gb
1x 2g.35gb
2x 1g.18gb
mixed-6 1x 3g.71gb
4x 1g.18gb
mixed-7 3x 2g.35gb
1x 1g.18gb
mixed-8 2x 2g.35gb
3x 1g.18gb
mixed-9 1x 2g.35gb
5x 1g.18gb

GPU B300

La tabella seguente definisce i profili MIG supportati sulla GPU NVIDIA B300:

Schema di partizionamento Partizioni disponibili
1g.34gb 7x 1g.34gb
1g.67gb 4x 1g.67gb
2g.67gb 3x 2g.67gb
3g.135gb 2x 3g.135gb
4g.135gb 1x 4g.135gb
7g.269gb 1x 7g.269gb
mixed-1 1x 4g.135gb
1x 3g.135gb
mixed-2 1x 4g.135gb
1x 2g.67gb
1x 1g.34gb
mixed-3 1x 4g.135gb
3x 1g.34gb
mixed-4 1x 3g.135gb
2x 2g.67gb
mixed-5 1x 3g.135gb
1x 2g.67gb
2x 1g.34gb
mixed-6 1x 3g.135gb
4x 1g.34gb
mixed-7 3x 2g.67gb
1x 1g.34gb
mixed-8 2x 2g.67gb
3x 1g.34gb
mixed-9 1x 2g.67gb
5x 1g.34gb

Passaggi successivi