運算資源

如要使用 Gemini Enterprise Agent Platform 訓練叢集，請洽詢業務代表。

Gemini Enterprise Agent Platform 訓練叢集支援多種機器類型，可因應不同的工作負載。設定叢集節點集區時，您可以選擇下列選項。

加速器最佳化機型

機型 GPU 每個節點的 GPU 數量
a4x-highgpu-4g NVIDIA GB200 4
a4-highgpu-8g NVIDIA B200 8
a3-ultragpu-8g NVIDIA H200 8
a3-megagpu-8g NVIDIA H100 8
a3-highgpu-8g NVIDIA H100 8
g4-standard-48 NVIDIA RTX PRO 6000 Blackwell 1
g4-standard-96 NVIDIA RTX PRO 6000 Blackwell 2
g4-standard-192 NVIDIA RTX PRO 6000 Blackwell 4
g4-standard-384 NVIDIA RTX PRO 6000 Blackwell 8

CPU 和 HPC 機型

機型 說明
N2 系列：n2-standard-*、n2-highmem-*、n2-highcpu-* 一般用途節點，用於資料預先處理、工作自動化調度管理，以及其他不需要加速器的工作。Slurm 登入節點也支援 N2。
C4A 系列：c4a-standard-*、c4a-highmem-*、c4a-highcpu-* Arm 架構 (Axion) 節點，僅支援 Slurm 登入節點，且僅適用於運算節點集區也採用 Arm 架構的叢集。不支援 -lssd 和 -metal 變體。
H4D 系列：h4d-standard-*、h4d-highmem-* 具備 RDMA 網路的 HPC 最佳化節點，適用於緊耦合模擬和預先處理工作負載。

C4A 登入節點

C4A 登入節點採用 Arm 架構，且僅支援每個運算節點集區也採用 Arm 架構的叢集，例如 A4X。如果叢集將 C4A 登入節點與 x86 運算節點集區 (例如 N2 或 A3) 配對，則建立時會遭到拒絕。

由於登入節點和運算節點共用相同的架構，因此您在登入節點上建構的二進位檔和容器映像檔，會在您提交這些檔案和映像檔的運算節點上執行。

C4A 僅支援 hyperdisk-balanced 開機磁碟 (預設)。

A4X 機型

Gemini Enterprise Agent Platform 訓練叢集支援 A4X 加速器最佳化機型 (a4x-highgpu-4g)，這是以 NVIDIA GB200 NVL72 機架規模架構為基礎的百億億次級平台。

架構比較

下表列出 A4X 系列與其他加速器最佳化系列之間的基本硬體差異。

功能 A4X (a4x-highgpu-4g) A3 / A4H
CPU 架構 ARM X86
GPU 數量 每個節點 4 個 GPU 每個節點 8 個 GPU
預留類型 所有容量模式 受管理模式
配置方式政策 嚴格 (精簡) 彈性

A4X 專屬規範

  • A4X 節點集區的 VM 數量必須是 18 的倍數 (例如 18、36、54)。這是因為 A4X 運算能力是以固定、不可共用的 18 節點區塊 (稱為 NVLink 網域) 佈建。這些網域受到嚴格的密集配置政策約束，其他叢集無法使用任何部分分配的區塊。
  • A4X 節點採用 ARM 架構，因此您必須對訓練工作負載進行兩項重要變更：
    • 使用與 ARM 相容的映像檔：所有訓練工作都必須使用專為 ARM 架構建構的容器映像檔。
    • 調整為 4 個 GPU：您必須更新分散式訓練邏輯，正確辨識及使用每個 A4X 節點上可用的 4 個 GPU。
  • 主機故障回報程序和停機時間 回報主機故障時，請注意下列復原程序：
    • 無待命容量：系統不會使用待命備用集區來立即更換節點。
    • 修復式復原：在基礎實體主機修復前，節點會維持無法使用的狀態。
    • 停機時間較長：維修程序通常需要 3 到 14 天。

容量佈建

選擇合適的佈建模式，對於平衡成本、速度和資源可用性至關重要。請參閱下列佈建選項：

  • RESERVATION：從您預先建立的特定 Compute Engine 預留項目分配節點。此模式可確保用量，是高需求資源的建議選擇。

  • FLEX_START：使用 Dynamic Workload Scheduler 將工作排入佇列。只要要求的運算資源可用，工作就會自動開始，開始時間更彈性，且不需預留資源。

  • SPOT：使用 Spot VM 佈建節點集區。這是最具成本效益的選項，但由於 VM 可能隨時遭到先占，因此僅適用於容錯且可處理中斷的工作負載。

  • ON_DEMAND：這是僅限 CPU 節點集區的預設選項，最適合非稀缺的機型。提供標準 VM 執行個體，採用可預測的即付即用定價模式。

請參考下列指引，選擇合適的選項：

  • 如果是高需求 GPU 資源 (例如 A3 和 A4)：強烈建議使用 RESERVATION 模型。確保您有專屬資源，可執行重要的訓練工作。

  • 突發或彈性工作負載：建議使用 FLEX_START 或 SPOT。FLEX_START 會將工作排入佇列，直到資源可用為止；SPOT 則可大幅節省成本，適用於可容許先占的容錯工作。

  • 如果機型充足，建議優先選用 ON_DEMAND 模型。如果機型不稀缺，且不需立即可用，請使用這個選項。

使用共用預留項目 (選用)

如要使用共用預留項目，而非本機預留項目，則須先完成其他步驟，才能建立叢集。

使用 Gemini Enterprise Agent Platform 訓練叢集共用預留項目之前，請先手動建立使用共用預留項目的 VM，確認共用預留項目可正常運作。如果 VM 建立成功，請繼續下一個步驟。在叢集建立設定中，使用下列格式的預留項目名稱：projects/RESERVATION_HOST_PROJECT_ID/zones/RESERVATION_ZONE/reservations/RESERVATION_NAME。

後續步驟

選取訓練叢集的運算和佈建選項後，即可建立叢集並在其中執行工作負載。