關於使用快速啟動節點加快工作負載啟動速度

本頁面說明如何使用快速啟動節點,在 Google Kubernetes Engine (GKE) 叢集中更快速地部署及擴充工作負載。在 Autopilot 模式下,如果工作負載使用相容的設定,GKE 會盡可能使用快速啟動節點。

快速啟動 GKE 節點可大幅縮短相容機器家族的啟動時間。縮短啟動時間可帶來下列好處:

  • 冷啟動速度更快
  • 更快速地自動調度資源
  • 改善 Pod 排程長尾延遲
  • 提升基礎架構成本效益

GKE 透過快速啟動節點,預先初始化硬體資源,加快啟動速度。預先初始化的資源會盡可能提供。系統可能只會處理部分激增的要求。如果沒有快速啟動節點,系統會隨選初始化資源,並在正常啟動時間提供節點。

需求條件

快速啟動節點不需要額外設定。如果工作負載使用相容的設定,GKE 會自動使用快速啟動節點。您必須符合下列所有條件,才能使用快速啟動節點:

限制

下列功能與快速啟動 GKE 節點不相容。如果您使用上述任何功能,GKE 會以一般啟動時間佈建節點:

  • 在 1.33.0-gke.1304000 之前的 GKE 版本中,使用搭載 DEFAULT GPU 驅動程式版本的 G2。如果是 1.33.0-gke.1304000 以上版本,LATEST 和 DEFAULT 都適用於快速啟動節點。
  • 1.33.2-gke.1015000 以下版本的次要開機磁碟。
  • Spot VM
  • 配置方式政策
  • 多網路支援

Autopilot GPU 工作負載

在 Autopilot 模式中要求相容的 GPU,節點啟動時間最多可比 GKE Standard 模式中的類似要求快四倍,Pod 排程時間最多可快兩倍,因為 Autopilot GPU 工作負載可以使用快速啟動節點。

以下是一些範例用途。不過,只要 Pod 符合「需求條件」一節中的條件,就與快速啟動節點相容。

ComputeClass

在 ComputeClass 中要求相容的加速器類型和數量,如以下範例所示:

apiVersion: cloud.google.com/v1
kind: ComputeClass
metadata:
  name: ACCELERATOR_COMPUTE_CLASS_NAME
spec:
  priorities:
  - gpu:
      type: ACCELERATOR_TYPE
      count: ACCELERATOR_COUNT
  nodePoolAutoCreation:
    enabled: true

在 Pod 中選取這個 ComputeClass 時 (如下例所示),GKE 會使用快速啟動節點:

apiVersion: v1
kind: Pod
metadata:
  name: POD_NAME
spec:
  nodeSelector:
    # Select a ComputeClass that requests compatible GPUs
    cloud.google.com/compute-class: ACCELERATOR_COMPUTE_CLASS_NAME
  containers:
  - name: my-container
    image: registry.k8s.io/pause
    resources:
      limits:
        nvidia.com/gpu: ACCELERATOR_COUNT

替換下列值:

  • ACCELERATOR_COMPUTE_CLASS_NAME:要求加速器的 ComputeClass 名稱。
  • ACCELERATOR_TYPE:加速器類型。
  • ACCELERATOR_COUNT:Pod 所需的加速器數量。這個值必須小於或等於 ComputeClass 中 spec.priorities.gpu.count 欄位的值。
  • POD_NAME:Pod 名稱。

如要進一步瞭解 ComputeClass,請參閱「關於自訂運算類別」。

Pod 規格

在 Pod 規格中選取相容的加速器類型和數量,如以下範例所示:

apiVersion: v1
kind: Pod
metadata:
  name: POD_NAME
spec:
  nodeSelector:
    cloud.google.com/gke-accelerator: ACCELERATOR_NAME
  containers:
  - name: my-container
    image: registry.k8s.io/pause
    resources:
      limits:
        nvidia.com/gpu: ACCELERATOR_COUNT

替換下列值:

  • POD_NAME:Pod 名稱。
  • ACCELERATOR_NAME:Pod 所需的加速器名稱。
  • ACCELERATOR_COUNT:Pod 所需的加速器數量。

符合資格的運算資源設定需求

下節的表格說明 GKE 將相關運算資源佈建為快速啟動節點的特定需求。

Autopilot 容器最佳化運算平台

請參閱下列規定,瞭解如何透過 Autopilot 容器最佳化運算平台,讓 GKE 佈建快速啟動的節點。

運算資源 發布管道和版本支援 支援的磁碟
Autopilot 容器最佳化運算平台
  • 搶鮮版
  • 1.33.0-gke.1696000 以上版本
  • pd-balanced 個開機磁碟,最多 100 GiB
  • 沒有本機 SSD。

G2 機器系列

請參閱下列規定,瞭解如何讓 GKE 將 G2 機器佈建為快速啟動節點。

運算資源 發布管道和版本支援 支援的磁碟
G2 機器系列
  • 搶鮮版和一般版
  • 1.31 以上版本
  • pd-balanced 個開機磁碟,最多 500 GiB
  • 沒有本機 SSD。

A2 機器系列

請參閱下列規定,瞭解如何讓 GKE 佈建 A2 機器做為快速啟動節點。

運算資源 發布管道和版本支援 支援的磁碟
A2 標準機型
  • 搶鮮版和一般版
  • 1.32.0-gke.1008000 以上版本
  • pd-balanced 或 pd-ssd 開機磁碟,最多 1,000 GiB。
  • 沒有本機 SSD。
A2 Ultra 機型
  • 搶鮮版和一般版
  • 1.32.0-gke.1008000 以上版本
  • pd-balanced 或 pd-ssd 開機磁碟,上限為 1,000 GiB,a2‑ultragpu‑4g (1,500 GiB) 和 a2‑ultragpu‑8g (3,000 GiB) 的上限較高。
  • 自動連接本機 SSD。

A3 機器系列

請參閱下列規定,瞭解如何讓 GKE 將 A3 機器佈建為快速啟動節點。

運算資源 發布管道和版本支援 支援的磁碟
A3 Mega 機型
  • 搶鮮版
  • 1.34.4-gke.1130000 以上版本
  • hyperdisk-balanced、pd-ssd 或 pd-balanced 開機磁碟。
  • 自動連接本機 SSD。
A3 High 機型 (a3-highgpu-8g)
  • 搶鮮版
  • 1.34.4-gke.1130000 以上版本
  • hyperdisk-balanced、pd-ssd 或 pd-balanced 開機磁碟。
  • 自動連接本機 SSD。

G4 機器系列

請參閱下列規定,瞭解如何讓 GKE 將 G4 機器佈建為快速啟動節點。

運算資源 發布管道和版本支援 支援的磁碟
G4 機器系列
  • 搶鮮版
  • 1.34.4-gke.1130000 以上版本
  • hyperdisk-balanced 個開機磁碟
  • 沒有本機 SSD。

定價

GKE Autopilot 提供快速啟動節點,不收取額外費用。如要進一步瞭解 GKE Autopilot 定價,請參閱「Google Kubernetes Engine 定價」的「Autopilot 模式」一節。

後續步驟