在 Google Distributed Cloud (GDC) 實體隔離方案中建立 Kubernetes 叢集時,您會建立節點集區,負責在叢集中執行容器工作負載。您可以根據容器工作負載需求佈建節點,並隨著需求變化更新節點。
GDC 為 worker 節點提供預先定義機型,您可以在新增節點集區時選取。您也可以使用多執行個體 GPU (MIG) 功能,透過多種方式劃分獨立的 GPU 執行個體。
本文適用對象為應用程式操作員群組中的應用程式開發人員,以及平台管理員群組中的 IT 管理員,負責管理組織內的 Kubernetes 叢集。詳情請參閱「GDC 實體隔離方案說明文件的目標對象」。
請參閱下列各節,瞭解可用的機器類型和 GPU 支援。
可用的機器類型
GDC 會使用 Kubernetes 叢集節點的部分參數 (包括 CPU、記憶體和 GPU) 定義機型。GDC 提供多種機器類型,可滿足不同用途。例如,叢集會使用 n2-standard-4-gdc 處理一般用途的容器工作負載。如要執行人工智慧 (AI) 和機器學習 (ML) 筆記本,必須佈建 GPU 機器,例如 a2-highgpu-1g-gdc。
以下是 Kubernetes 叢集 worker 節點可用的所有 GDC 預先定義機型清單:
| 名稱 | vCPU | 記憶體 | GPU |
|---|---|---|---|
| n2-standard-4-gdc | 4 | 16G | 不適用 |
| n2-standard-8-gdc | 8 | 32G | 不適用 |
| n2-standard-16-gdc | 16 | 64G | 不適用 |
| n2-standard-32-gdc | 32 | 128G | 不適用 |
| n2-highmem-4-gdc | 4 | 32G | 不適用 |
| n2-highmem-8-gdc | 8 | 64G | 不適用 |
| n2-highmem-16-gdc | 16 | 128G | 不適用 |
| n2-highmem-32-gdc | 32 | 256G | 不適用 |
| n2-highcpu-8-gdc | 8 | 8G | 不適用 |
| n3-standard-4-gdc | 4 | 16G | 不適用 |
| n3-standard-8-gdc | 8 | 32G | 不適用 |
| n3-standard-16-gdc | 16 | 64G | 不適用 |
| n3-standard-32-gdc | 32 | 128G | 不適用 |
| n3-standard-64-gdc | 64 | 256G | 不適用 |
| n3-standard-80-gdc | 80 | 320G | 不適用 |
| n4-highmem-4-gdc | 4 | 32G | 不適用 |
| n4-highmem-8-gdc | 8 | 64G | 不適用 |
| n4-highmem-16-gdc | 16 | 128G | 不適用 |
| n4-highmem-32-gdc | 32 | 256G | 不適用 |
| n4-highmem-48-gdc | 48 | 384G | 不適用 |
| n4-highmem-64-gdc | 64 | 512G | 不適用 |
| n4-highmem-80-gdc | 80 | 640G | 不適用 |
| n4-megamem-64-gdc | 64 | 896G | 不適用 |
| a2-highgpu-1g-gdc | 12 | 85G | 1 個 A100 40 GB |
| a2-ultragpu-1g-gdc | 12 | 170G | 1 個 A100 80 GB |
| a2-ultragpu-2g-gdc | 24 | 340G | 2 個 A100 80 GB |
| a3-highgpu-1g-gdc | 28 | 240G | 1 個 H100 94 GB |
| a3-highgpu-2g-gdc | 56 | 480G | 2x H100 94GB |
| a3-highgpu-4g-gdc | 112 | 960G | 4x H100 94GB |
| a3-ultragpu-8g-gdc | 224 | 1792G | 8 個 H200 141 GB |
| a4-ultragpu-8g-gdc | 224 | 3584G | 8 個 B300 |
GPU 資源名稱
設定容器工作負載來要求 GPU 時,您必須指定節點公開的確切 Kubernetes 可分配資源名稱。在 GDC 中,GPU 資源採用下列命名格式:
- 整個 GPU 資源:
nvidia.com/gpu-pod-GPU_MODEL - MIG 分區資源:
nvidia.com/mig-SLICE-GPU_MODEL
下表列出各 GPU 機型的完整 GPU 可分配資源名稱,以及支援的 MIG 切片前置字串:
| 機型 | 加速器 | 完整 GPU 資源名稱 | 支援的 MIG 切片前置字串 |
|---|---|---|---|
a2-highgpu-1g-gdc |
1 個 NVIDIA A100 40GB PCIe | nvidia.com/gpu-pod-NVIDIA_A100_PCIE_40GB |
nvidia.com/mig-SLICE-NVIDIA_A100_PCIE_40GB |
a2-ultragpu-1g-gdc |
1 個 NVIDIA A100 80 GB PCIe | nvidia.com/gpu-pod-NVIDIA_A100_80GB_PCIE |
nvidia.com/mig-SLICE-NVIDIA_A100_80GB_PCIE |
a2-ultragpu-2g-gdc |
2 個 NVIDIA A100 80 GB PCIe | nvidia.com/gpu-pod-NVIDIA_A100_80GB_PCIE |
nvidia.com/mig-SLICE-NVIDIA_A100_80GB_PCIE |
a3-highgpu-1g-gdc (預先發布版) |
1 個 NVIDIA H100 94GB NVL | nvidia.com/gpu-pod-NVIDIA_H100_NVL |
nvidia.com/mig-SLICE-NVIDIA_H100_NVL |
a3-highgpu-2g-gdc (預先發布版) |
2 個 NVIDIA H100 94 GB NVL | nvidia.com/gpu-pod-NVIDIA_H100_NVL |
nvidia.com/mig-SLICE-NVIDIA_H100_NVL |
a3-highgpu-4g-gdc |
4 個 NVIDIA H100 94 GB NVL | nvidia.com/gpu-pod-NVIDIA_H100_NVL |
nvidia.com/mig-SLICE-NVIDIA_H100_NVL |
a3-ultragpu-8g-gdc |
8 個 NVIDIA H200 141 GB SXM | nvidia.com/gpu-pod-NVIDIA_H200 |
nvidia.com/mig-SLICE-NVIDIA_H200 |
a4-ultragpu-8g-gdc |
8 個 NVIDIA B300 288GB SXM6 | nvidia.com/gpu-pod-NVIDIA_B300_SXM6_AC |
nvidia.com/mig-SLICE-NVIDIA_B300_SXM6_AC |
如需使用這些資源名稱部署工作負載的操作說明,請參閱「管理 GPU 容器工作負載」。
支援的 MIG 設定檔
本節定義支援的 GPU 上,MIG 設定檔支援的分區配置。您可以在 Cluster 自訂資源中,為節點集區定義分區配置。
如要進一步瞭解如何套用 GPU 分割配置,請參閱「新增節點集區」。
A100 40GB GPU
下表定義 A100 40 GB NVIDIA GPU 支援的 MIG 設定檔:
| 分區配置 | 可用的分區 |
|---|---|
| 1g.5gb | 7x 1g.5gb |
| 2g.10gb | 3x 2g.10gb |
| 3g.20gb | 2x 3g.20gb |
| 7g.40gb | 1x 7g.40gb |
| mixed-1 | 1x 4g.20gb 1x 2g.10gb 1x 1g.5gb |
| mixed-2 | 1x 4g.20gb 3x 1g.5gb |
| mixed-3 | 1x 3g.20gb 2x 2g.10gb |
| mixed-4 | 1x 3g.20gb 1x 2g.10gb 2x 1g.5gb |
| mixed-5 | 1x 3g.20gb 4x 1g.5gb |
| mixed-6 | 3x 2g.10gb 1x 1g.5gb |
| mixed-7 | 2x 2g.10gb 3x 1g.5gb |
| mixed-8 | 1x 2g.10gb 5x 1g.5gb |
A100 80GB GPU
下表定義 A100 80 GB NVIDIA GPU 支援的 MIG 設定檔:
| 分區配置 | 可用的分區 |
|---|---|
| 1g.10gb | 7x 1g.10gb |
| 2g.20gb | 3x 2g.20gb |
| 3g.40gb | 2x 3g.40gb |
| 7g.80gb | 1x 7g.80gb |
| mixed-1 | 1x 4g.40gb 1x 2g.20gb 1x 1g.10gb |
| mixed-2 | 1x 4g.40gb 3x 1g.10gb |
| mixed-3 | 1x 3g.40gb 2x 2g.20gb |
| mixed-4 | 1x 3g.40gb 1x 2g.20gb 2x 1g.10gb |
| mixed-5 | 1x 3g.40gb 4x 1g.10gb |
| mixed-6 | 3x 2g.20gb 1x 1g.10gb |
| mixed-7 | 2x 2g.20gb 3x 1g.10gb |
| mixed-8 | 1x 2g.20gb 5x 1g.10gb |
H100 94GB GPU
下表定義 H100 94 GB NVIDIA GPU 支援的 MIG 設定檔:
| 分區配置 | 可用的分區 |
|---|---|
| 1g.12gb | 7x 1g.12gb |
| 1g.24gb | 7x 1g.24gb |
| 2g.24gb | 3x 2g.24gb |
| 3g.47gb | 2x 3g.47gb |
| 4g.47gb | 1x 4g.47gb |
| 7g.94gb | 1x 7g.94gb |
| mixed-1 | 1x 4g.47gb 1x 3g.47gb |
| mixed-2 | 1x 4g.47gb 1x 2g.24gb 1x 1g.12gb |
| mixed-3 | 1x 4g.47gb 3x 1g.12gb |
| mixed-4 | 1x 3g.47gb 2x 2g.24gb |
| mixed-5 | 1x 3g.47gb 1x 2g.24gb 2x 1g.12gb |
| mixed-6 | 1x 3g.47gb 4x 1g.12gb |
| mixed-7 | 3x 2g.24gb 1x 1g.12gb |
| mixed-8 | 2x 2g.24gb 3x 1g.12gb |
| mixed-9 | 1x 2g.24gb 5x 1g.12gb |
H200 141GB GPU
下表列出 H200 141 GB NVIDIA GPU 支援的 MIG 設定檔:
| 分區配置 | 可用的分區 |
|---|---|
| 1g.18gb | 7x 1g.18gb |
| 1g.35gb | 4x 1g.35gb |
| 2g.35gb | 3x 2g.35gb |
| 3g.71gb | 2x 3g.71gb |
| 4g.71gb | 1x 4g.71gb |
| 7g.141gb | 1x 7g.141gb |
| mixed-1 | 1x 4g.71gb 1x 3g.71gb |
| mixed-2 | 1x 4g.71gb 1x 2g.35gb 1x 1g.18gb |
| mixed-3 | 1x 4g.71gb 3x 1g.18gb |
| mixed-4 | 1x 3g.71gb 2x 2g.35gb |
| mixed-5 | 1 個 3g.71gb 1 個 2g.35gb 2 個 1g.18gb |
| mixed-6 | 1x 3g.71gb 4x 1g.18gb |
| mixed-7 | 3x 2g.35gb 1x 1g.18gb |
| mixed-8 | 2x 2g.35gb 3x 1g.18gb |
| mixed-9 | 1x 2g.35gb 5x 1g.18gb |
B300 GPU
下表列出 B300 NVIDIA GPU 支援的 MIG 設定檔:
| 分區配置 | 可用的分區 |
|---|---|
| 1g.34gb | 7x 1g.34gb |
| 1g.67gb | 4x 1g.67gb |
| 2g.67gb | 3x 2g.67gb |
| 3g.135gb | 2x 3g.135gb |
| 4g.135gb | 1x 4g.135gb |
| 7g.269gb | 1x 7g.269gb |
| mixed-1 | 1x 4g.135gb 1x 3g.135gb |
| mixed-2 | 1x 4g.135gb 1x 2g.67gb 1x 1g.34gb |
| mixed-3 | 1x 4g.135gb 3x 1g.34gb |
| mixed-4 | 1x 3g.135gb 2x 2g.67gb |
| mixed-5 | 1x 3g.135gb 1x 2g.67gb 2x 1g.34gb |
| mixed-6 | 1x 3g.135gb 4x 1g.34gb |
| mixed-7 | 3x 2g.67gb 1x 1g.34gb |
| mixed-8 | 2x 2g.67gb 3x 1g.34gb |
| mixed-9 | 1x 2g.67gb 5x 1g.34gb |