Tipos de máquinas de nós de cluster

Quando cria um cluster do Kubernetes no Google Distributed Cloud (GDC) air-gapped, cria pools de nós responsáveis pela execução das suas cargas de trabalho de contentores no cluster. Aprovisiona nós com base nos requisitos da carga de trabalho do contentor e pode atualizá-los à medida que os requisitos evoluem.

O GDC fornece tipos de máquinas predefinidos para os nós de trabalho, que são selecionáveis quando adiciona um conjunto de nós. Também existem várias formas de particionar instâncias de GPU separadas através da funcionalidade de GPU multi-instância (MIG).

Este documento destina-se a programadores de aplicações no grupo de operadores de aplicações e a administradores de TI no grupo de administradores da plataforma responsáveis pela gestão de clusters do Kubernetes na respetiva organização. Para mais informações, consulte a documentação sobre públicos-alvo para GDC com isolamento de ar.

Consulte as secções seguintes para ver os tipos de máquinas disponíveis e o suporte de GPU.

Tipos de máquinas disponíveis

O GDC define tipos de máquinas com alguns parâmetros para um nó de cluster do Kubernetes, que incluem CPU, memória e GPU. O GDC tem vários tipos de máquinas para diferentes fins. Por exemplo, os clusters usam n2-standard-4-gdc para cargas de trabalho de contentores de uso geral. Se planeia executar blocos de notas de inteligência artificial (IA) e aprendizagem automática (AA), tem de aprovisionar máquinas com GPU, como a2-highgpu-1g-gdc.

Segue-se uma lista de todos os tipos de máquinas predefinidos do GDC disponíveis para nós de trabalho do cluster Kubernetes:

Nome vCPUs Memória GPU
n2-standard-4-gdc 4 16G N/A
n2-standard-8-gdc 8 32G N/A
n2-standard-16-gdc 16 64G N/A
n2-standard-32-gdc 32 128G N/A
n2-highmem-4-gdc 4 32G N/A
n2-highmem-8-gdc 8 64G N/A
n2-highmem-16-gdc 16 128G N/A
n2-highmem-32-gdc 32 256G N/A
n2-highcpu-8-gdc 8 8G N/A
n3-standard-4-gdc 4 16G N/A
n3-standard-8-gdc 8 32G N/A
n3-standard-16-gdc 16 64G N/A
n3-standard-32-gdc 32 128G N/A
n3-standard-64-gdc 64 256G N/A
n3-standard-80-gdc 80 320G N/A
n4-highmem-4-gdc 4 32G N/A
n4-highmem-8-gdc 8 64G N/A
n4-highmem-16-gdc 16 128G N/A
n4-highmem-32-gdc 32 256G N/A
n4-highmem-48-gdc 48 384G N/A
n4-highmem-64-gdc 64 512 GB N/A
n4-highmem-80-gdc 80 640G N/A
n4-megamem-64-gdc 64 896G N/A
a2-highgpu-1g-gdc 12 85G 1x A100 40GB
a2-ultragpu-1g-gdc 12 170G 1x A100 80GB
a2-ultragpu-2g-gdc 24 340G 2x A100 80GB
a3-highgpu-1g-gdc 28 240G 1x H100 94GB
a3-highgpu-2g-gdc 56 480G 2x H100 94GB
a3-highgpu-4g-gdc 112 960G 4x H100 94GB
a3-ultragpu-8g-gdc 224 1792G 8x H200 141GB
a4-ultragpu-8g-gdc 224 3584G 8x B300

Perfis MIG suportados

Esta secção define os esquemas de partição suportados dos perfis de MIG em GPUs suportadas. Pode definir um esquema de partição para um conjunto de nós no seu recurso personalizado Cluster.

Para mais informações sobre como aplicar um esquema de partição de GPU, consulte o artigo Adicione um conjunto de nós.

GPU A100 de 40 GB

A tabela seguinte define os perfis de MIG suportados na GPU NVIDIA A100 de 40 GB:

Esquema de partição Partições disponíveis
1g.5gb 7x 1g.5gb
2g.10gb 3x 2g.10gb
3g.20gb 2x 3g.20gb
7g.40gb 1x 7g.40gb
mixed-1 1x 4g.20gb
1x 2g.10gb
1x 1g.5gb
mixed-2 1x 4g.20gb
3x 1g.5gb
mixed-3 1x 3g.20gb
2x 2g.10gb
mixed-4 1x 3g.20gb
1x 2g.10gb
2x 1g.5gb
mixed-5 1x 3g.20gb
4x 1g.5gb
mixed-6 3x 2g.10gb
1x 1g.5gb
mixed-7 2x 2g.10gb
3x 1g.5gb
mixed-8 1x 2g.10gb
5x 1g.5gb

GPU A100 de 80 GB

A tabela seguinte define os perfis de MIG suportados na GPU NVIDIA A100 de 80 GB:

Esquema de partição Partições disponíveis
1g.10gb 7x 1g.10gb
2g.20gb 3x 2g.20gb
3g.40gb 2x 3g.40gb
7g.80gb 1x 7g.80gb
mixed-1 1x 4g.40gb
1x 2g.20gb
1x 1g.10gb
mixed-2 1x 4g.40gb
3x 1g.10gb
mixed-3 1x 3g.40gb
2x 2g.20gb
mixed-4 1x 3g.40gb
1x 2g.20gb
2x 1g.10gb
mixed-5 1x 3g.40gb
4x 1g.10gb
mixed-6 3x 2g.20gb
1x 1g.10gb
mixed-7 2x 2g.20gb
3x 1g.10gb
mixed-8 1x 2g.20gb
5x 1g.10gb

GPU H100 de 94 GB

A tabela seguinte define os perfis de MIG suportados na GPU NVIDIA H100 de 94 GB:

Esquema de partição Partições disponíveis
1g.12gb 7x 1g.12gb
1g.24gb 7x 1g.24gb
2g.24gb 3x 2g.24gb
3g.47gb 2x 3g.47gb
4g.47gb 1 x 4G.47GB
7g.94gb 1x 7g.94gb
mixed-1 1x 4g.47gb
1x 3g.47gb
mixed-2 1x 4g.47gb
1x 2g.24gb
1x 1g.12gb
mixed-3 1x 4g.47gb
3x 1g.12gb
mixed-4 1x 3g.47gb
2x 2g.24gb
mixed-5 1x 3g.47gb
1x 2g.24gb
2x 1g.12gb
mixed-6 1x 3g.47gb
4x 1g.12gb
mixed-7 3x 2g.24gb
1x 1g.12gb
mixed-8 2x 2g.24gb
3x 1g.12gb
mixed-9 1x 2g.24gb
5x 1g.12gb

H200 141GB GPU

A tabela seguinte define os perfis de MIG suportados na GPU NVIDIA H200 de 141 GB:

Esquema de partição Partições disponíveis
1g.18gb 7x 1g.18gb
1g.35gb 4x 1g.35gb
2g.35gb 3x 2g.35gb
3g.71gb 2x 3g.71gb
4g.71gb 1x 4g.71gb
7g.141gb 1x 7g.141gb
mixed-1 1x 4g.71gb
1x 3g.71gb
mixed-2 1x 4g.71gb
1x 2g.35gb
1x 1g.18gb
mixed-3 1x 4g.71gb
3x 1g.18gb
mixed-4 1x 3g.71gb
2x 2g.35gb
mixed-5 1x 3g.71gb
1x 2g.35gb
2x 1g.18gb
mixed-6 1x 3g.71gb
4x 1g.18gb
mixed-7 3x 2g.35gb
1x 1g.18gb
mixed-8 2x 2g.35gb
3x 1g.18gb
mixed-9 1x 2g.35gb
5x 1g.18gb

GPU B300

A tabela seguinte define os perfis de MIG suportados na GPU NVIDIA B300:

Esquema de partição Partições disponíveis
1g.34gb 7x 1g.34gb
1g.67gb 4x 1g.67gb
2g.67gb 3x 2g.67gb
3g.135gb 2x 3g.135gb
4g.135gb 1 x 4G.135 GB
7g.269gb 1x 7g.269gb
mixed-1 1x 4g.135gb
1x 3g.135gb
mixed-2 1x 4g.135gb
1x 2g.67gb
1x 1g.34gb
mixed-3 1x 4g.135gb
3x 1g.34gb
mixed-4 1x 3g.135gb
2x 2g.67gb
mixed-5 1x 3g.135gb
1x 2g.67gb
2x 1g.34gb
mixed-6 1x 3g.135gb
4x 1g.34gb
mixed-7 3x 2g.67gb
1x 1g.34gb
mixed-8 2x 2g.67gb
3x 1g.34gb
mixed-9 1x 2g.67gb
5x 1g.34gb

O que se segue?