Tipos de máquinas de nodos de clúster

Cuando creas un clúster de Kubernetes en Google Distributed Cloud (GDC) aislado, creas grupos de nodos que se encargan de ejecutar tus cargas de trabajo de contenedores en el clúster. Aprovisionas nodos según los requisitos de tu carga de trabajo de contenedores y puedes actualizarlos a medida que evolucionan tus requisitos.

GDC proporciona tipos predefinidos de máquina para tus nodos trabajadores que se pueden seleccionar cuando agregas un grupo de nodos. También hay varias formas de particionar instancias de GPU independientes con la función de GPU de instancias múltiples (MIG).

Este documento está dirigido a los desarrolladores de aplicaciones dentro del grupo de operadores de aplicaciones y a los administradores de TI dentro del grupo de administradores de la plataforma, que son responsables de administrar los clústeres de Kubernetes dentro de su organización. Para obtener más información, consulta Públicos de la documentación de GDC aislado.

Consulta las siguientes secciones para conocer los tipos de máquinas disponibles y la compatibilidad con GPU.

Tipos de máquinas disponibles

GDC define los tipos de máquinas con algunos parámetros para un nodo de clúster de Kubernetes, que incluyen CPU, memoria y GPU. GDC tiene varios tipos de máquinas para diferentes propósitos. Por ejemplo, los clústeres usan n2-standard-4-gdc para las cargas de trabajo de contenedores de uso general. Si planeas ejecutar notebooks de inteligencia artificial (IA) y aprendizaje automático (AA), debes aprovisionar máquinas con GPU, como a2-highgpu-1g-gdc.

A continuación, se muestra una lista de todos los tipos de máquinas predefinidos de GDC disponibles para los nodos trabajadores del clúster de Kubernetes:

Nombre CPU virtuales Memoria GPU
n2-standard-4-gdc 4 16G N/A
n2-standard-8-gdc 8 32G N/A
n2-standard-16-gdc 16 64G N/A
n2-standard-32-gdc 32 128G N/A
n2-highmem-4-gdc 4 32G N/A
n2-highmem-8-gdc 8 64G N/A
n2-highmem-16-gdc 16 128G N/A
n2-highmem-32-gdc 32 256G N/A
n2-highcpu-8-gdc 8 8G N/A
n3-standard-4-gdc 4 16G N/A
n3-standard-8-gdc 8 32G N/A
n3-standard-16-gdc 16 64G N/A
n3-standard-32-gdc 32 128G N/A
n3-standard-64-gdc 64 256G N/A
n3-standard-80-gdc 80 320G N/A
n4-highmem-4-gdc 4 32G N/A
n4-highmem-8-gdc 8 64G N/A
n4-highmem-16-gdc 16 128G N/A
n4-highmem-32-gdc 32 256G N/A
n4-highmem-48-gdc 48 384G N/A
n4-highmem-64-gdc 64 512G N/A
n4-highmem-80-gdc 80 640G N/A
n4-megamem-64-gdc 64 896G N/A
a2-highgpu-1g-gdc 12 85G 1 A100 de 40 GB
a2-ultragpu-1g-gdc 12 170G 1 A100 de 80 GB
a2-ultragpu-2g-gdc 24 340G 2 A100 de 80 GB
a3-highgpu-1g-gdc 28 240G 1 H100 de 94 GB
a3-highgpu-2g-gdc 56 480G 2 H100 de 94 GB
a3-highgpu-4g-gdc 112 960G 4 H100 de 94 GB
a3-ultragpu-8g-gdc 224 1792G 8 H200 de 141 GB
a4-ultragpu-8g-gdc 224 3584G 8 B300

Nombres de recursos de GPU

Cuando configuras las cargas de trabajo de contenedores para solicitar GPUs, debes especificar el nombre exacto del recurso asignable de Kubernetes que expone el nodo. En GDC, los recursos de GPU usan el siguiente formato de nombres:

  • Recursos de GPU completos: nvidia.com/gpu-pod-GPU_MODEL
  • Recursos de partición de MIG: nvidia.com/mig-SLICE-GPU_MODEL

En la siguiente tabla, se enumeran los nombres de los recursos asignables de GPU completa y los prefijos de porción de MIG compatibles para cada tipo de máquina de GPU:

Tipo de máquina Accelerator Nombre completo del recurso de GPU Prefijo de porción de MIG compatible
a2-highgpu-1g-gdc 1 NVIDIA A100 PCIe de 40 GB nvidia.com/gpu-pod-NVIDIA_A100_PCIE_40GB nvidia.com/mig-SLICE-NVIDIA_A100_PCIE_40GB
a2-ultragpu-1g-gdc 1 NVIDIA A100 PCIe de 80 GB nvidia.com/gpu-pod-NVIDIA_A100_80GB_PCIE nvidia.com/mig-SLICE-NVIDIA_A100_80GB_PCIE
a2-ultragpu-2g-gdc 2 NVIDIA A100 PCIe de 80 GB nvidia.com/gpu-pod-NVIDIA_A100_80GB_PCIE nvidia.com/mig-SLICE-NVIDIA_A100_80GB_PCIE
a3-highgpu-1g-gdc (Vista previa) 1 NVIDIA H100 NVL de 94 GB nvidia.com/gpu-pod-NVIDIA_H100_NVL nvidia.com/mig-SLICE-NVIDIA_H100_NVL
a3-highgpu-2g-gdc (Vista previa) 2 NVIDIA H100 NVL de 94 GB nvidia.com/gpu-pod-NVIDIA_H100_NVL nvidia.com/mig-SLICE-NVIDIA_H100_NVL
a3-highgpu-4g-gdc 4 NVIDIA H100 de 94 GB con NVL nvidia.com/gpu-pod-NVIDIA_H100_NVL nvidia.com/mig-SLICE-NVIDIA_H100_NVL
a3-ultragpu-8g-gdc 8 NVIDIA H200 de 141 GB SXM nvidia.com/gpu-pod-NVIDIA_H200 nvidia.com/mig-SLICE-NVIDIA_H200
a4-ultragpu-8g-gdc 8 NVIDIA B300 de 288 GB SXM6 nvidia.com/gpu-pod-NVIDIA_B300_SXM6_AC nvidia.com/mig-SLICE-NVIDIA_B300_SXM6_AC

Para obtener instrucciones sobre cómo implementar cargas de trabajo con estos nombres de recursos, consulta Administra cargas de trabajo de contenedores de GPU.

Perfiles de MIG compatibles

En esta sección, se definen los esquemas de partición admitidos de los perfiles de MIG en las GPU compatibles. Puedes definir un esquema de partición para un grupo de nodos en tu recurso personalizado Cluster.

Para obtener más información sobre cómo aplicar un esquema de partición de GPU, consulta Agrega un grupo de nodos.

GPU A100 de 40 GB

En la siguiente tabla, se definen los perfiles de MIG compatibles con la GPU NVIDIA A100 de 40 GB:

Esquema de partición Particiones disponibles
1g.5gb 7x 1g.5gb
2g.10gb 3x 2g.10gb
3g.20gb 2x 3g.20gb
7g.40gb 1x 7g.40gb
mixed-1 1x 4g.20gb
1x 2g.10gb
1x 1g.5gb
mixed-2 1x 4g.20gb
3x 1g.5gb
mixed-3 1x 3g.20gb
2x 2g.10gb
mixed-4 1x 3g.20gb
1x 2g.10gb
2x 1g.5gb
mixed-5 1x 3g.20gb
4x 1g.5gb
mixed-6 3 x 2 GB, 10 GB
1 x 1 GB, 5 GB
mixed-7 2x 2g.10gb
3x 1g.5gb
mixed-8 1x 2g.10gb
5x 1g.5gb

GPU A100 de 80 GB

En la siguiente tabla, se definen los perfiles de MIG compatibles con la GPU NVIDIA A100 de 80 GB:

Esquema de partición Particiones disponibles
1g.10gb 7x 1g.10gb
2g.20gb 3x 2g.20gb
3g.40gb 2x 3g.40gb
7g.80gb 1x 7g.80gb
mixed-1 1x 4g.40gb
1x 2g.20gb
1x 1g.10gb
mixed-2 1x 4g.40gb
3x 1g.10gb
mixed-3 1x 3g.40gb
2x 2g.20gb
mixed-4 1x 3g.40gb
1x 2g.20gb
2x 1g.10gb
mixed-5 1x 3g.40gb
4x 1g.10gb
mixed-6 3x 2g.20gb
1x 1g.10gb
mixed-7 2x 2g.20gb
3x 1g.10gb
mixed-8 1x 2g.20gb
5x 1g.10gb

GPU H100 de 94 GB

En la siguiente tabla, se definen los perfiles de MIG compatibles con la GPU NVIDIA H100 de 94 GB:

Esquema de partición Particiones disponibles
1g.12gb 7 1g.12gb
1g.24gb 7x 1g.24gb
2g.24gb 3x 2g.24gb
3g.47gb 2x 3g.47gb
4g.47gb 1x 4g.47gb
7g.94gb 1x 7g.94gb
mixed-1 1x 4g.47gb
1x 3g.47gb
mixed-2 1x 4g.47gb
1x 2g.24gb
1x 1g.12gb
mixed-3 1 de 4 GB y 47 GB
3 de 1 GB y 12 GB
mixed-4 1x 3g.47gb
2x 2g.24gb
mixed-5 1 de 3 GB, 47 GB
1 de 2 GB, 24 GB
2 de 1 GB, 12 GB
mixed-6 1x 3g.47gb
4x 1g.12gb
mixed-7 3 2g.24gb
1 1g.12gb
mixed-8 2x 2g.24gb
3x 1g.12gb
mixed-9 1x 2g.24gb
5x 1g.12gb

GPU H200 de 141 GB

En la siguiente tabla, se definen los perfiles de MIG compatibles con la GPU NVIDIA H200 de 141 GB:

Esquema de partición Particiones disponibles
1g.18gb 7x 1g.18gb
1g.35gb 4x 1g.35gb
2g.35gb 3x 2g.35gb
3.71 GB 2x 3g.71gb
4.71 GB 1x 4g.71gb
7g.141gb 1x 7g.141gb
mixed-1 1x 4g.71gb
1x 3g.71gb
mixed-2 1 de 4.71 GB
1 de 2.35 GB
1 de 1.18 GB
mixed-3 1 de 4.71 GB
3 de 1.18 GB
mixed-4 1x 3g.71gb
2x 2g.35gb
mixed-5 1 de 3.71 GB
1 de 2.35 GB
2 de 1.18 GB
mixed-6 1x 3g.71gb
4x 1g.18gb
mixed-7 3x 2g.35gb
1x 1g.18gb
mixed-8 2x 2g.35gb
3x 1g.18gb
mixed-9 1 de 2.35 GB
5 de 1.18 GB

GPU B300

En la siguiente tabla, se definen los perfiles de MIG compatibles con la GPU NVIDIA B300:

Esquema de partición Particiones disponibles
1g.34gb 7x 1g.34gb
1g.67gb 4x 1g.67gb
2g.67gb 3x 2g.67gb
3g.135gb 2x 3g.135gb
4g.135gb 1x 4g.135gb
7g.269gb 1x 7g.269gb
mixed-1 1x 4g.135gb
1x 3g.135gb
mixed-2 1x 4g.135gb
1x 2g.67gb
1x 1g.34gb
mixed-3 1x 4g.135gb
3x 1g.34gb
mixed-4 1x 3g.135gb
2x 2g.67gb
mixed-5 1 de 3 GB, 135 GB
1 de 2 GB, 67 GB
2 de 1 GB, 34 GB
mixed-6 1x 3g.135gb
4x 1g.34gb
mixed-7 3 de 2.67 GB
1 de 1.34 GB
mixed-8 2 veces 2 GB, 67 GB
3 veces 1 GB, 34 GB
mixed-9 1x 2g.67gb
5x 1g.34gb

¿Qué sigue?