Cuando creas un clúster de Kubernetes en Google Distributed Cloud (GDC) aislado, creas grupos de nodos que se encargan de ejecutar tus cargas de trabajo de contenedores en el clúster. Aprovisionas nodos según los requisitos de tu carga de trabajo de contenedores y puedes actualizarlos a medida que evolucionan tus requisitos.
GDC proporciona tipos predefinidos de máquina para tus nodos trabajadores que se pueden seleccionar cuando agregas un grupo de nodos. También hay varias formas de particionar instancias de GPU independientes con la función de GPU de instancias múltiples (MIG).
Este documento está dirigido a los desarrolladores de aplicaciones dentro del grupo de operadores de aplicaciones y a los administradores de TI dentro del grupo de administradores de la plataforma, que son responsables de administrar los clústeres de Kubernetes dentro de su organización. Para obtener más información, consulta Públicos de la documentación de GDC aislado.
Consulta las siguientes secciones para conocer los tipos de máquinas disponibles y la compatibilidad con GPU.
Tipos de máquinas disponibles
GDC define los tipos de máquinas con algunos parámetros
para un nodo de clúster de Kubernetes, que incluyen CPU, memoria y GPU.
GDC tiene varios tipos de máquinas para diferentes propósitos.
Por ejemplo, los clústeres usan n2-standard-4-gdc para las cargas de trabajo de contenedores de uso general. Si planeas ejecutar notebooks de inteligencia artificial (IA) y
aprendizaje automático (AA), debes aprovisionar máquinas con GPU, como
a2-highgpu-1g-gdc.
A continuación, se muestra una lista de todos los tipos de máquinas predefinidos de GDC disponibles para los nodos trabajadores del clúster de Kubernetes:
| Nombre | CPU virtuales | Memoria | GPU |
|---|---|---|---|
| n2-standard-4-gdc | 4 | 16G | N/A |
| n2-standard-8-gdc | 8 | 32G | N/A |
| n2-standard-16-gdc | 16 | 64G | N/A |
| n2-standard-32-gdc | 32 | 128G | N/A |
| n2-highmem-4-gdc | 4 | 32G | N/A |
| n2-highmem-8-gdc | 8 | 64G | N/A |
| n2-highmem-16-gdc | 16 | 128G | N/A |
| n2-highmem-32-gdc | 32 | 256G | N/A |
| n2-highcpu-8-gdc | 8 | 8G | N/A |
| n3-standard-4-gdc | 4 | 16G | N/A |
| n3-standard-8-gdc | 8 | 32G | N/A |
| n3-standard-16-gdc | 16 | 64G | N/A |
| n3-standard-32-gdc | 32 | 128G | N/A |
| n3-standard-64-gdc | 64 | 256G | N/A |
| n3-standard-80-gdc | 80 | 320G | N/A |
| n4-highmem-4-gdc | 4 | 32G | N/A |
| n4-highmem-8-gdc | 8 | 64G | N/A |
| n4-highmem-16-gdc | 16 | 128G | N/A |
| n4-highmem-32-gdc | 32 | 256G | N/A |
| n4-highmem-48-gdc | 48 | 384G | N/A |
| n4-highmem-64-gdc | 64 | 512G | N/A |
| n4-highmem-80-gdc | 80 | 640G | N/A |
| n4-megamem-64-gdc | 64 | 896G | N/A |
| a2-highgpu-1g-gdc | 12 | 85G | 1 A100 de 40 GB |
| a2-ultragpu-1g-gdc | 12 | 170G | 1 A100 de 80 GB |
| a2-ultragpu-2g-gdc | 24 | 340G | 2 A100 de 80 GB |
| a3-highgpu-1g-gdc | 28 | 240G | 1 H100 de 94 GB |
| a3-highgpu-2g-gdc | 56 | 480G | 2 H100 de 94 GB |
| a3-highgpu-4g-gdc | 112 | 960G | 4 H100 de 94 GB |
| a3-ultragpu-8g-gdc | 224 | 1792G | 8 H200 de 141 GB |
| a4-ultragpu-8g-gdc | 224 | 3584G | 8 B300 |
Nombres de recursos de GPU
Cuando configuras las cargas de trabajo de contenedores para solicitar GPUs, debes especificar el nombre exacto del recurso asignable de Kubernetes que expone el nodo. En GDC, los recursos de GPU usan el siguiente formato de nombres:
- Recursos de GPU completos:
nvidia.com/gpu-pod-GPU_MODEL - Recursos de partición de MIG:
nvidia.com/mig-SLICE-GPU_MODEL
En la siguiente tabla, se enumeran los nombres de los recursos asignables de GPU completa y los prefijos de porción de MIG compatibles para cada tipo de máquina de GPU:
| Tipo de máquina | Accelerator | Nombre completo del recurso de GPU | Prefijo de porción de MIG compatible |
|---|---|---|---|
a2-highgpu-1g-gdc |
1 NVIDIA A100 PCIe de 40 GB | nvidia.com/gpu-pod-NVIDIA_A100_PCIE_40GB |
nvidia.com/mig-SLICE-NVIDIA_A100_PCIE_40GB |
a2-ultragpu-1g-gdc |
1 NVIDIA A100 PCIe de 80 GB | nvidia.com/gpu-pod-NVIDIA_A100_80GB_PCIE |
nvidia.com/mig-SLICE-NVIDIA_A100_80GB_PCIE |
a2-ultragpu-2g-gdc |
2 NVIDIA A100 PCIe de 80 GB | nvidia.com/gpu-pod-NVIDIA_A100_80GB_PCIE |
nvidia.com/mig-SLICE-NVIDIA_A100_80GB_PCIE |
a3-highgpu-1g-gdc (Vista previa) |
1 NVIDIA H100 NVL de 94 GB | nvidia.com/gpu-pod-NVIDIA_H100_NVL |
nvidia.com/mig-SLICE-NVIDIA_H100_NVL |
a3-highgpu-2g-gdc (Vista previa) |
2 NVIDIA H100 NVL de 94 GB | nvidia.com/gpu-pod-NVIDIA_H100_NVL |
nvidia.com/mig-SLICE-NVIDIA_H100_NVL |
a3-highgpu-4g-gdc |
4 NVIDIA H100 de 94 GB con NVL | nvidia.com/gpu-pod-NVIDIA_H100_NVL |
nvidia.com/mig-SLICE-NVIDIA_H100_NVL |
a3-ultragpu-8g-gdc |
8 NVIDIA H200 de 141 GB SXM | nvidia.com/gpu-pod-NVIDIA_H200 |
nvidia.com/mig-SLICE-NVIDIA_H200 |
a4-ultragpu-8g-gdc |
8 NVIDIA B300 de 288 GB SXM6 | nvidia.com/gpu-pod-NVIDIA_B300_SXM6_AC |
nvidia.com/mig-SLICE-NVIDIA_B300_SXM6_AC |
Para obtener instrucciones sobre cómo implementar cargas de trabajo con estos nombres de recursos, consulta Administra cargas de trabajo de contenedores de GPU.
Perfiles de MIG compatibles
En esta sección, se definen los esquemas de partición admitidos de los perfiles de MIG en
las GPU compatibles. Puedes definir un esquema de partición para un grupo de nodos en tu
recurso personalizado Cluster.
Para obtener más información sobre cómo aplicar un esquema de partición de GPU, consulta Agrega un grupo de nodos.
GPU A100 de 40 GB
En la siguiente tabla, se definen los perfiles de MIG compatibles con la GPU NVIDIA A100 de 40 GB:
| Esquema de partición | Particiones disponibles |
|---|---|
| 1g.5gb | 7x 1g.5gb |
| 2g.10gb | 3x 2g.10gb |
| 3g.20gb | 2x 3g.20gb |
| 7g.40gb | 1x 7g.40gb |
| mixed-1 | 1x 4g.20gb 1x 2g.10gb 1x 1g.5gb |
| mixed-2 | 1x 4g.20gb 3x 1g.5gb |
| mixed-3 | 1x 3g.20gb 2x 2g.10gb |
| mixed-4 | 1x 3g.20gb 1x 2g.10gb 2x 1g.5gb |
| mixed-5 | 1x 3g.20gb 4x 1g.5gb |
| mixed-6 | 3 x 2 GB, 10 GB 1 x 1 GB, 5 GB |
| mixed-7 | 2x 2g.10gb 3x 1g.5gb |
| mixed-8 | 1x 2g.10gb 5x 1g.5gb |
GPU A100 de 80 GB
En la siguiente tabla, se definen los perfiles de MIG compatibles con la GPU NVIDIA A100 de 80 GB:
| Esquema de partición | Particiones disponibles |
|---|---|
| 1g.10gb | 7x 1g.10gb |
| 2g.20gb | 3x 2g.20gb |
| 3g.40gb | 2x 3g.40gb |
| 7g.80gb | 1x 7g.80gb |
| mixed-1 | 1x 4g.40gb 1x 2g.20gb 1x 1g.10gb |
| mixed-2 | 1x 4g.40gb 3x 1g.10gb |
| mixed-3 | 1x 3g.40gb 2x 2g.20gb |
| mixed-4 | 1x 3g.40gb 1x 2g.20gb 2x 1g.10gb |
| mixed-5 | 1x 3g.40gb 4x 1g.10gb |
| mixed-6 | 3x 2g.20gb 1x 1g.10gb |
| mixed-7 | 2x 2g.20gb 3x 1g.10gb |
| mixed-8 | 1x 2g.20gb 5x 1g.10gb |
GPU H100 de 94 GB
En la siguiente tabla, se definen los perfiles de MIG compatibles con la GPU NVIDIA H100 de 94 GB:
| Esquema de partición | Particiones disponibles |
|---|---|
| 1g.12gb | 7 1g.12gb |
| 1g.24gb | 7x 1g.24gb |
| 2g.24gb | 3x 2g.24gb |
| 3g.47gb | 2x 3g.47gb |
| 4g.47gb | 1x 4g.47gb |
| 7g.94gb | 1x 7g.94gb |
| mixed-1 | 1x 4g.47gb 1x 3g.47gb |
| mixed-2 | 1x 4g.47gb 1x 2g.24gb 1x 1g.12gb |
| mixed-3 | 1 de 4 GB y 47 GB 3 de 1 GB y 12 GB |
| mixed-4 | 1x 3g.47gb 2x 2g.24gb |
| mixed-5 | 1 de 3 GB, 47 GB 1 de 2 GB, 24 GB 2 de 1 GB, 12 GB |
| mixed-6 | 1x 3g.47gb 4x 1g.12gb |
| mixed-7 | 3 2g.24gb 1 1g.12gb |
| mixed-8 | 2x 2g.24gb 3x 1g.12gb |
| mixed-9 | 1x 2g.24gb 5x 1g.12gb |
GPU H200 de 141 GB
En la siguiente tabla, se definen los perfiles de MIG compatibles con la GPU NVIDIA H200 de 141 GB:
| Esquema de partición | Particiones disponibles |
|---|---|
| 1g.18gb | 7x 1g.18gb |
| 1g.35gb | 4x 1g.35gb |
| 2g.35gb | 3x 2g.35gb |
| 3.71 GB | 2x 3g.71gb |
| 4.71 GB | 1x 4g.71gb |
| 7g.141gb | 1x 7g.141gb |
| mixed-1 | 1x 4g.71gb 1x 3g.71gb |
| mixed-2 | 1 de 4.71 GB 1 de 2.35 GB 1 de 1.18 GB |
| mixed-3 | 1 de 4.71 GB 3 de 1.18 GB |
| mixed-4 | 1x 3g.71gb 2x 2g.35gb |
| mixed-5 | 1 de 3.71 GB 1 de 2.35 GB 2 de 1.18 GB |
| mixed-6 | 1x 3g.71gb 4x 1g.18gb |
| mixed-7 | 3x 2g.35gb 1x 1g.18gb |
| mixed-8 | 2x 2g.35gb 3x 1g.18gb |
| mixed-9 | 1 de 2.35 GB 5 de 1.18 GB |
GPU B300
En la siguiente tabla, se definen los perfiles de MIG compatibles con la GPU NVIDIA B300:
| Esquema de partición | Particiones disponibles |
|---|---|
| 1g.34gb | 7x 1g.34gb |
| 1g.67gb | 4x 1g.67gb |
| 2g.67gb | 3x 2g.67gb |
| 3g.135gb | 2x 3g.135gb |
| 4g.135gb | 1x 4g.135gb |
| 7g.269gb | 1x 7g.269gb |
| mixed-1 | 1x 4g.135gb 1x 3g.135gb |
| mixed-2 | 1x 4g.135gb 1x 2g.67gb 1x 1g.34gb |
| mixed-3 | 1x 4g.135gb 3x 1g.34gb |
| mixed-4 | 1x 3g.135gb 2x 2g.67gb |
| mixed-5 | 1 de 3 GB, 135 GB 1 de 2 GB, 67 GB 2 de 1 GB, 34 GB |
| mixed-6 | 1x 3g.135gb 4x 1g.34gb |
| mixed-7 | 3 de 2.67 GB 1 de 1.34 GB |
| mixed-8 | 2 veces 2 GB, 67 GB 3 veces 1 GB, 34 GB |
| mixed-9 | 1x 2g.67gb 5x 1g.34gb |
¿Qué sigue?
- Crea un clúster compartido
- Crea un clúster estándar
- Mantén clústeres de Kubernetes
- Administra grupos de nodos