叢集節點機型

在 Google Distributed Cloud (GDC) 實體隔離方案中建立 Kubernetes 叢集時,您會建立節點集區,負責在叢集中執行容器工作負載。您可以根據容器工作負載需求佈建節點,並隨著需求變化更新節點。

GDC 為 worker 節點提供預先定義機型,您可以在新增節點集區時選取。您也可以使用多執行個體 GPU (MIG) 功能,透過多種方式劃分獨立的 GPU 執行個體。

本文適用對象為應用程式操作員群組中的應用程式開發人員,以及平台管理員群組中的 IT 管理員,負責管理組織內的 Kubernetes 叢集。詳情請參閱「GDC 實體隔離方案說明文件的目標對象」。

請參閱下列各節,瞭解可用的機器類型和 GPU 支援。

可用的機器類型

GDC 會使用 Kubernetes 叢集節點的部分參數 (包括 CPU、記憶體和 GPU) 定義機型。GDC 提供多種機器類型,可滿足不同用途。例如,叢集會使用 n2-standard-4-gdc 處理一般用途的容器工作負載。如要執行人工智慧 (AI) 和機器學習 (ML) 筆記本,必須佈建 GPU 機器,例如 a2-highgpu-1g-gdc。

以下是 Kubernetes 叢集 worker 節點可用的所有 GDC 預先定義機型清單:

名稱 vCPU 記憶體 GPU
n2-standard-4-gdc 4 16G 不適用
n2-standard-8-gdc 8 32G 不適用
n2-standard-16-gdc 16 64G 不適用
n2-standard-32-gdc 32 128G 不適用
n2-highmem-4-gdc 4 32G 不適用
n2-highmem-8-gdc 8 64G 不適用
n2-highmem-16-gdc 16 128G 不適用
n2-highmem-32-gdc 32 256G 不適用
n2-highcpu-8-gdc 8 8G 不適用
n3-standard-4-gdc 4 16G 不適用
n3-standard-8-gdc 8 32G 不適用
n3-standard-16-gdc 16 64G 不適用
n3-standard-32-gdc 32 128G 不適用
n3-standard-64-gdc 64 256G 不適用
n3-standard-80-gdc 80 320G 不適用
n4-highmem-4-gdc 4 32G 不適用
n4-highmem-8-gdc 8 64G 不適用
n4-highmem-16-gdc 16 128G 不適用
n4-highmem-32-gdc 32 256G 不適用
n4-highmem-48-gdc 48 384G 不適用
n4-highmem-64-gdc 64 512G 不適用
n4-highmem-80-gdc 80 640G 不適用
n4-megamem-64-gdc 64 896G 不適用
a2-highgpu-1g-gdc 12 85G 1 個 A100 40 GB
a2-ultragpu-1g-gdc 12 170G 1 個 A100 80 GB
a2-ultragpu-2g-gdc 24 340G 2 個 A100 80 GB
a3-highgpu-1g-gdc 28 240G 1 個 H100 94 GB
a3-highgpu-2g-gdc 56 480G 2x H100 94GB
a3-highgpu-4g-gdc 112 960G 4x H100 94GB
a3-ultragpu-8g-gdc 224 1792G 8 個 H200 141 GB
a4-ultragpu-8g-gdc 224 3584G 8 個 B300

GPU 資源名稱

設定容器工作負載來要求 GPU 時,您必須指定節點公開的確切 Kubernetes 可分配資源名稱。在 GDC 中,GPU 資源採用下列命名格式:

  • 整個 GPU 資源:nvidia.com/gpu-pod-GPU_MODEL
  • MIG 分區資源:nvidia.com/mig-SLICE-GPU_MODEL

下表列出各 GPU 機型的完整 GPU 可分配資源名稱,以及支援的 MIG 切片前置字串:

機型 加速器 完整 GPU 資源名稱 支援的 MIG 切片前置字串
a2-highgpu-1g-gdc 1 個 NVIDIA A100 40GB PCIe nvidia.com/gpu-pod-NVIDIA_A100_PCIE_40GB nvidia.com/mig-SLICE-NVIDIA_A100_PCIE_40GB
a2-ultragpu-1g-gdc 1 個 NVIDIA A100 80 GB PCIe nvidia.com/gpu-pod-NVIDIA_A100_80GB_PCIE nvidia.com/mig-SLICE-NVIDIA_A100_80GB_PCIE
a2-ultragpu-2g-gdc 2 個 NVIDIA A100 80 GB PCIe nvidia.com/gpu-pod-NVIDIA_A100_80GB_PCIE nvidia.com/mig-SLICE-NVIDIA_A100_80GB_PCIE
a3-highgpu-1g-gdc (預先發布版) 1 個 NVIDIA H100 94GB NVL nvidia.com/gpu-pod-NVIDIA_H100_NVL nvidia.com/mig-SLICE-NVIDIA_H100_NVL
a3-highgpu-2g-gdc (預先發布版) 2 個 NVIDIA H100 94 GB NVL nvidia.com/gpu-pod-NVIDIA_H100_NVL nvidia.com/mig-SLICE-NVIDIA_H100_NVL
a3-highgpu-4g-gdc 4 個 NVIDIA H100 94 GB NVL nvidia.com/gpu-pod-NVIDIA_H100_NVL nvidia.com/mig-SLICE-NVIDIA_H100_NVL
a3-ultragpu-8g-gdc 8 個 NVIDIA H200 141 GB SXM nvidia.com/gpu-pod-NVIDIA_H200 nvidia.com/mig-SLICE-NVIDIA_H200
a4-ultragpu-8g-gdc 8 個 NVIDIA B300 288GB SXM6 nvidia.com/gpu-pod-NVIDIA_B300_SXM6_AC nvidia.com/mig-SLICE-NVIDIA_B300_SXM6_AC

如需使用這些資源名稱部署工作負載的操作說明,請參閱「管理 GPU 容器工作負載」。

支援的 MIG 設定檔

本節定義支援的 GPU 上,MIG 設定檔支援的分區配置。您可以在 Cluster 自訂資源中,為節點集區定義分區配置。

如要進一步瞭解如何套用 GPU 分割配置,請參閱「新增節點集區」。

A100 40GB GPU

下表定義 A100 40 GB NVIDIA GPU 支援的 MIG 設定檔:

分區配置 可用的分區
1g.5gb 7x 1g.5gb
2g.10gb 3x 2g.10gb
3g.20gb 2x 3g.20gb
7g.40gb 1x 7g.40gb
mixed-1 1x 4g.20gb
1x 2g.10gb
1x 1g.5gb
mixed-2 1x 4g.20gb
3x 1g.5gb
mixed-3 1x 3g.20gb
2x 2g.10gb
mixed-4 1x 3g.20gb
1x 2g.10gb
2x 1g.5gb
mixed-5 1x 3g.20gb
4x 1g.5gb
mixed-6 3x 2g.10gb
1x 1g.5gb
mixed-7 2x 2g.10gb
3x 1g.5gb
mixed-8 1x 2g.10gb
5x 1g.5gb

A100 80GB GPU

下表定義 A100 80 GB NVIDIA GPU 支援的 MIG 設定檔:

分區配置 可用的分區
1g.10gb 7x 1g.10gb
2g.20gb 3x 2g.20gb
3g.40gb 2x 3g.40gb
7g.80gb 1x 7g.80gb
mixed-1 1x 4g.40gb
1x 2g.20gb
1x 1g.10gb
mixed-2 1x 4g.40gb
3x 1g.10gb
mixed-3 1x 3g.40gb
2x 2g.20gb
mixed-4 1x 3g.40gb
1x 2g.20gb
2x 1g.10gb
mixed-5 1x 3g.40gb
4x 1g.10gb
mixed-6 3x 2g.20gb
1x 1g.10gb
mixed-7 2x 2g.20gb
3x 1g.10gb
mixed-8 1x 2g.20gb
5x 1g.10gb

H100 94GB GPU

下表定義 H100 94 GB NVIDIA GPU 支援的 MIG 設定檔:

分區配置 可用的分區
1g.12gb 7x 1g.12gb
1g.24gb 7x 1g.24gb
2g.24gb 3x 2g.24gb
3g.47gb 2x 3g.47gb
4g.47gb 1x 4g.47gb
7g.94gb 1x 7g.94gb
mixed-1 1x 4g.47gb
1x 3g.47gb
mixed-2 1x 4g.47gb
1x 2g.24gb
1x 1g.12gb
mixed-3 1x 4g.47gb
3x 1g.12gb
mixed-4 1x 3g.47gb
2x 2g.24gb
mixed-5 1x 3g.47gb
1x 2g.24gb
2x 1g.12gb
mixed-6 1x 3g.47gb
4x 1g.12gb
mixed-7 3x 2g.24gb
1x 1g.12gb
mixed-8 2x 2g.24gb
3x 1g.12gb
mixed-9 1x 2g.24gb
5x 1g.12gb

H200 141GB GPU

下表列出 H200 141 GB NVIDIA GPU 支援的 MIG 設定檔:

分區配置 可用的分區
1g.18gb 7x 1g.18gb
1g.35gb 4x 1g.35gb
2g.35gb 3x 2g.35gb
3g.71gb 2x 3g.71gb
4g.71gb 1x 4g.71gb
7g.141gb 1x 7g.141gb
mixed-1 1x 4g.71gb
1x 3g.71gb
mixed-2 1x 4g.71gb
1x 2g.35gb
1x 1g.18gb
mixed-3 1x 4g.71gb
3x 1g.18gb
mixed-4 1x 3g.71gb
2x 2g.35gb
mixed-5 1 個 3g.71gb
1 個 2g.35gb
2 個 1g.18gb
mixed-6 1x 3g.71gb
4x 1g.18gb
mixed-7 3x 2g.35gb
1x 1g.18gb
mixed-8 2x 2g.35gb
3x 1g.18gb
mixed-9 1x 2g.35gb
5x 1g.18gb

B300 GPU

下表列出 B300 NVIDIA GPU 支援的 MIG 設定檔:

分區配置 可用的分區
1g.34gb 7x 1g.34gb
1g.67gb 4x 1g.67gb
2g.67gb 3x 2g.67gb
3g.135gb 2x 3g.135gb
4g.135gb 1x 4g.135gb
7g.269gb 1x 7g.269gb
mixed-1 1x 4g.135gb
1x 3g.135gb
mixed-2 1x 4g.135gb
1x 2g.67gb
1x 1g.34gb
mixed-3 1x 4g.135gb
3x 1g.34gb
mixed-4 1x 3g.135gb
2x 2g.67gb
mixed-5 1x 3g.135gb
1x 2g.67gb
2x 1g.34gb
mixed-6 1x 3g.135gb
4x 1g.34gb
mixed-7 3x 2g.67gb
1x 1g.34gb
mixed-8 2x 2g.67gb
3x 1g.34gb
mixed-9 1x 2g.67gb
5x 1g.34gb

後續步驟