Tipos de máquinas de nodos de clúster

Cuando creas un clúster de Kubernetes en un entorno aislado de Google Distributed Cloud (GDC), creas grupos de nodos que se encargan de ejecutar tus cargas de trabajo de contenedores en el clúster. Puedes aprovisionar nodos en función de los requisitos de tu carga de trabajo de contenedores y actualizarlos a medida que evolucionen tus requisitos.

GDC proporciona tipos de máquinas predefinidos para tus nodos de trabajador que se pueden seleccionar cuando añades un grupo de nodos. También hay varias formas de particionar instancias de GPU independientes mediante la función de GPU multiinstancia (MIG).

Este documento está dirigido a los desarrolladores de aplicaciones del grupo de operadores de aplicaciones y a los administradores de TI del grupo de administradores de plataformas que se encargan de gestionar los clústeres de Kubernetes de su organización. Para obtener más información, consulta Audiencias de la documentación aislada de GDC.

Consulta las siguientes secciones para ver los tipos de máquinas disponibles y la compatibilidad con GPUs.

Tipos de máquinas disponibles

GDC define los tipos de máquinas con algunos parámetros de un nodo de clúster de Kubernetes, como la CPU, la memoria y la GPU. GDC tiene varios tipos de máquinas para diferentes fines. Por ejemplo, los clústeres usan n2-standard-4-gdc para cargas de trabajo de contenedores de uso general. Si tienes previsto ejecutar cuadernos de inteligencia artificial (IA) y aprendizaje automático (ML), debes aprovisionar máquinas con GPU, como a2-highgpu-1g-gdc.

A continuación, se muestra una lista de todos los tipos de máquinas predefinidos de GDC disponibles para los nodos de trabajador de clústeres de Kubernetes:

Nombre vCPUs Memoria GPU
n2-standard-4-gdc 4 16G N/A
n2-standard-8-gdc 8 32G N/A
n2-standard-16-gdc 16 64 G N/A
n2-standard-32-gdc 32 128G N/A
n2-highmem-4-gdc 4 32G N/A
n2-highmem-8-gdc 8 64 G N/A
n2-highmem-16-gdc 16 128G N/A
n2-highmem-32-gdc 32 256 G N/A
n2-highcpu-8-gdc 8 8G N/A
n3-standard-4-gdc 4 16G N/A
n3-standard-8-gdc 8 32G N/A
n3-standard-16-gdc 16 64 G N/A
n3-standard-32-gdc 32 128G N/A
n3-standard-64-gdc 64 256 G N/A
n3-standard-80-gdc 80 320G N/A
n4-highmem-4-gdc 4 32G N/A
n4-highmem-8-gdc 8 64 G N/A
n4-highmem-16-gdc 16 128G N/A
n4-highmem-32-gdc 32 256 G N/A
n4-highmem-48-gdc 48 384G N/A
n4-highmem-64-gdc 64 512G N/A
n4-highmem-80-gdc 80 640G N/A
n4-megamem-64-gdc 64 896 G N/A
a2-highgpu-1g-gdc 12 85G 1x A100 40 GB
a2-ultragpu-1g-gdc 12 170G 1 A100 de 80 GB
a2-ultragpu-2g-gdc 24 340G 2x A100 80 GB
a3-highgpu-1g-gdc 28 240G 1x H100 94 GB
a3-highgpu-2g-gdc 56 480G 2x H100 94 GB
a3-highgpu-4g-gdc 112 960G 4x H100 94 GB
a3-ultragpu-8g-gdc 224 1792G 8x H200 141 GB
a4-ultragpu-8g-gdc 224 3584G 8x B300

Perfiles de MIG admitidos

En esta sección se definen los esquemas de partición admitidos de los perfiles de MIG en las GPUs compatibles. Puedes definir un esquema de partición para un grupo de nodos en tu recurso personalizado Cluster.

Para obtener más información sobre cómo aplicar un esquema de partición de GPU, consulta Añadir un grupo de nodos.

GPU A100 de 40 GB

En la siguiente tabla se definen los perfiles de MIG admitidos en la GPU NVIDIA A100 de 40 GB:

Esquema de partición Particiones disponibles
1g.5gb 7x 1g.5gb
2g.10gb 3x 2g.10gb
3g.20gb 2x 3g.20gb
7g.40gb 1x 7g.40gb
mixed-1 1x 4g.20gb
1x 2g.10gb
1x 1g.5gb
mixed-2 1x 4g.20gb
3x 1g.5gb
mixed-3 1x 3g.20gb
2x 2g.10gb
mixed-4 1x 3g.20gb
1x 2g.10gb
2x 1g.5gb
mixed-5 1x 3g.20gb
4x 1g.5gb
mixed-6 3x 2g.10gb
1x 1g.5gb
mixed-7 2x 2g.10gb
3x 1g.5gb
mixed-8 1x 2g.10gb
5x 1g.5gb

GPU A100 80 GB

En la siguiente tabla se definen los perfiles de MIG admitidos en la GPU NVIDIA A100 de 80 GB:

Esquema de partición Particiones disponibles
1g.10gb 7x 1g.10gb
2g.20gb 3x 2g.20gb
3g.40gb 2x 3G.40 GB
7g.80gb 1x 7g.80gb
mixed-1 1x 4G.40 GB
1x 2G.20 GB
1x 1G.10 GB
mixed-2 1x 4g.40gb
3x 1g.10gb
mixed-3 1x 3g.40gb
2x 2g.20gb
mixed-4 1x 3g.40gb
1x 2g.20gb
2x 1g.10gb
mixed-5 1x 3g.40gb
4x 1g.10gb
mixed-6 3x 2g.20gb
1x 1g.10gb
mixed-7 2x 2g.20gb
3x 1g.10gb
mixed-8 1x 2g.20gb
5x 1g.10gb

GPU H100 de 94 GB

En la siguiente tabla se definen los perfiles de MIG admitidos en la GPU NVIDIA H100 de 94 GB:

Esquema de partición Particiones disponibles
1g.12gb 7x 1g.12gb
1g.24gb 7x 1g.24gb
2g.24gb 3x - 2g.24gb
3g.47gb 2x 3g.47gb
4 g.47 GB 1 x 4 g.47 GB
7g.94gb 1x 7g.94gb
mixed-1 1x 4g.47gb
1x 3g.47gb
mixed-2 1x 4g.47gb
1x 2g.24gb
1x 1g.12gb
mixed-3 1x 4g.47gb
3x 1g.12gb
mixed-4 1x 3g.47gb
2x 2g.24gb
mixed-5 1x 3g.47gb
1x 2g.24gb
2x 1g.12gb
mixed-6 1x 3g.47gb
4x 1g.12gb
mixed-7 3x 2g.24gb
1x 1g.12gb
mixed-8 2x 2g.24 GB
3x 1g.12 GB
mixed-9 1x 2g.24gb
5x 1g.12gb

GPU H200 de 141 GB

En la siguiente tabla se definen los perfiles de MIG admitidos en la GPU NVIDIA H200 de 141 GB:

Esquema de partición Particiones disponibles
1g.18gb 7x 1g.18gb
1g.35gb 4x 1 GB.35 GB
2g.35gb 3x 2g.35gb
3g.71gb 2x 3g.71gb
4g.71gb 1x 4g.71gb
7g.141gb 1x 7g.141gb
mixed-1 1x 4g.71gb
1x 3g.71gb
mixed-2 1x 4g.71gb
1x 2g.35gb
1x 1g.18gb
mixed-3 1x 4g.71gb
3x 1g.18gb
mixed-4 1x 3g.71gb
2x 2g.35gb
mixed-5 1x 3g.71gb
1x 2g.35gb
2x 1g.18gb
mixed-6 1x 3g.71gb
4x 1g.18gb
mixed-7 3x 2g.35gb
1x 1g.18gb
mixed-8 2x 2g.35gb
3x 1g.18gb
mixed-9 1x 2g.35gb
5x 1g.18gb

GPU B300

En la siguiente tabla se definen los perfiles de MIG compatibles con la GPU NVIDIA B300:

Esquema de partición Particiones disponibles
1g.34gb 7x 1g.34gb
1g.67gb 4x 1g.67gb
2g.67gb 3x 2g.67gb
3g.135gb 2x 3g.135gb
4g.135gb 1x 4g.135gb
7g.269gb 1x 7g.269gb
mixed-1 1x 4g.135gb
1x 3g.135gb
mixed-2 1x 4g.135gb
1x 2g.67gb
1x 1g.34gb
mixed-3 1x 4g.135gb
3x 1g.34gb
mixed-4 1x 3G.135 GB
2x 2G.67 GB
mixed-5 1x 3g.135gb
1x 2g.67gb
2x 1g.34gb
mixed-6 1x 3g.135gb
4x 1g.34gb
mixed-7 3x 2g.67gb
1x 1g.34gb
mixed-8 2x 2 GB.67 GB
3x 1 GB.34 GB
mixed-9 1x 2g.67gb
5x 1g.34gb

Siguientes pasos