Compute Engine 執行個體的佈建模型

建立 Compute Engine 執行個體時，您必須定義要用來取得所需資源的方法，稱為「佈建模式」。每種佈建模式都會決定運算執行個體的可用性、生命週期和定價。

本文說明建立運算執行個體時，可指定的不同佈建模式。瞭解這些模型後，您就能為工作負載選擇最佳選項。

可用的佈建模式

建立運算執行個體時，可以指定下列其中一種佈建模型。如未指定佈建模式，Compute Engine 預設會使用標準佈建模式。

  • 標準

  • Spot

  • 彈性啟動

  • 取決於預留項目

下表有助於比較各佈建模式的用途和價格：

標準 Spot 彈性啟動 取決於預留項目
摘要
  • 您可以根據資源可用性，立即建立運算執行個體。
  • 您可以控制何時停止或刪除運算執行個體。
  • 您可以根據資源可用性，立即建立運算執行個體。
  • 您可以控制何時停止或刪除運算執行個體。不過，您也允許 Compute Engine 隨時停止或刪除運算執行個體，以取回資源。
  • 您可以根據資源可用性，在指定的等待時間內建立運算執行個體。如果是獨立的彈性啟動 VM，最多可以指定兩小時的等待時間。如果是 MIG，Compute Engine 會持續嘗試建立運算執行個體，直到資源可用或您取消建立要求為止。
  • 您可以控制何時停止或刪除運算執行個體。但無法暫停或重新建立。運算執行個體最短會執行 10 分鐘，最長則為七天。當運算執行個體達到執行時間上限時，Compute Engine 會根據終止動作停止或刪除執行個體。
  • 您可以要求在未來某個日期預留容量，以便建立運算執行個體。如果 Google Cloud 核准您的要求，Compute Engine 就會建立預留項目。預留項目生效後，您可以建立符合預留項目的運算執行個體，藉此使用預留項目。
  • 在核准的預留期間，您可以視需要停止、重新啟動、刪除及重新建立運算執行個體，以使用預留項目。預留項目到期後，Compute Engine 會刪除預留項目，並根據終止動作停止或刪除使用預留項目的運算執行個體。
用途

適合需要穩定性和持續運作的工作負載，例如：

  • 網路伺服器
  • 資料庫
  • 企業應用程式
  • 開發和測試

適合可容許中斷的工作負載，例如：

  • 批次處理
  • 高效能運算 (HPC)
  • 持續整合與持續部署 (CI/CD)
  • 資料分析
  • 媒體編碼
  • 線上推論

需要穩定性且執行時間不超過七天的工作負載，例如：

  • 小型模型預先訓練
  • 微調模型
  • HPC 模擬
  • 批次推論

適合需要穩定性和特定執行時間的工作負載，例如：

  • 工作負載最多可持續 90 天：

    • 模型預先訓練工作
    • 模型微調工作
    • HPC 模擬工作負載
    • 推論工作負載預期短期內會增加

  • 工作負載超過 90 天：

    • 訓練工作負載
    • 推論工作負載
資源分配 盡力而為。Compute Engine 會盡可能將資源放在彼此相近的實體位置。如要控管放置位置，您可以選擇使用放置位置政策。 盡力而為。Compute Engine 會盡可能將資源放在彼此相近的位置。如要控管位置，您可以視需要使用位置政策。 盡可能密集。Compute Engine 會盡可能將資源密集放置在相近的位置。如要控管彈性啟動 VM 的放置位置，您可以視需要使用下列其中一種方式： 密集。Compute Engine 會將資源實際放置在緊耦合的主機上，並透過高速網路架構連線，盡可能縮短網路延遲時間。
定價
  • 您需要支付運算執行個體的標準價格。請參閱 VM 執行個體定價。

  • 系統會根據您建立運算執行個體的方法收取費用：

    • 如果立即建立運算執行個體，則須依即付即用 (PAYG) 模式支付運算資源費用。
    • 如果您使用隨需預留項目或未來預留項目的自動建立預留項目建立運算執行個體，只要預留項目存在，您就必須付費。詳情請參閱「 預留項目計費方式」。
  • 許多機型、GPU、TPU 和本機 SSD 磁碟都享有最高 91% 的折扣。 詳情請參閱定價頁面。
  • 您只需為實際耗用的運算資源付費。

  • 根據運算執行個體使用的機型，您可享有以下折扣：

    • 使用 A4、A3、A2、G4 和 TPU 機型時，vCPU、記憶體、任何連接的加速器和本機 SSD 磁碟，最高可享 53% 的折扣。
    • 使用 H4D 機型時，vCPU、記憶體和任何連接的本機 SSD 磁碟，最多可享有 25% 的折扣。
    其他支援的機型不符合折扣資格。詳情請參閱「Dynamic Workload Scheduler (DWS) 定價」。
  • 您只需為實際耗用的運算資源付費。
配額 建立運算執行個體時，會消耗標準配額。 建立 Spot VM 時，系統會消耗先占配額。如果專案沒有先占配額，則會消耗標準配額。

Google Cloud 免費方案抵免額 不適用於 Spot VM。 		建立彈性啟動型 VM 時，會消耗先占配額 。如果專案沒有先占配額，則會消耗標準配額。

配額用量會因您預留資源的方法而異：

  • 未來預留項目 (容量區塊)：Google 會管理預留資源的配額。您不必手動要求配額。在核准的未來預留項目開始時間，如果專案配額不足，Google 會自動提高配額。
  • 日曆模式的未來預留項目：預留 H4D 機型時，會消耗 CPU 配額。如要預留 GPU 或 TPU 機型，不需要配額。

運算執行個體可用性和生命週期

下表列出各佈建模式的運算執行個體可用性和生命週期：

標準 Spot 彈性啟動 取決於預留項目
建立必要條件 沒有建立條件限制。 沒有建立條件限制。 建立活動沒有任何條件限制。

如要建立運算執行個體，您必須先使用下列其中一種方法預留容量：

在您選擇的送達日期和時間，Compute Engine 會佈建您要求的容量。接著，您可以建立運算執行個體來使用容量。
支援的機器系列 您可以使用任何機器系列，但 A4X Max、A4X、A4 和 A3 Ultra 除外。 您可以使用任何機器系列，但 A4X 執行個體和任何裸機執行個體 (名稱包含 -metal 的機型) 除外。如要使用 TPU7x 機器系列，必須申請存取權1。

只能使用下列機器系列：

視您預留容量來建立 VM 的方式而定，您只能使用下列機器系列：

  • 如果您為容量區塊建立未來預留項目，則只能使用 A4X Max、A4X、A4、A3 Ultra、搭載 8 個 GPU 的 A3 Mega、搭載 8 個 GPU 的 A3 High、A3 Edge、H4D、TPU7x1、TPU v6e 和 TPU v5p 機器系列。
  • 如果您 在日曆模式中建立未來預留項目，則只能使用 A4、A3 Ultra、A3 Mega、配備 8 個 GPU 的 A3 High、A3 Edge、H4D、TPU7x1、TPU v6e 和 TPU v5p 機器系列。
運算執行個體可用性 只要您要求的資源可用，隨時都能建立運算執行個體。 只要您要求的資源可用，隨時都能建立運算執行個體。為降低發生資源可用性錯誤的機率，您可以在建立 Spot VM 前查看其可用性。

您可以按照下列方式建立運算執行個體：

Compute Engine 會使用 DWS，根據資源可用性排定所要求容量的佈建作業。DWS 可協助您取得 GPU 或 TPU 等高需求資源。

 您必須先預留未來日期的容量，才能建立運算執行個體。Compute Engine 會在您要求的日期提供所需容量，您可以使用這些容量建立運算執行個體。如果您在日曆模式中使用未來預留項目預留資源，Compute Engine 會使用 DWS 佈建您要求的容量。DWS 可協助您取得 GPU 或 TPU 等高需求資源。
容量保證 根據建立方法。容量保證會因您建立運算執行個體的方法而異，如下所示：
  • 如果您立即建立運算執行個體，Compute Engine 會盡力佈建您要求的容量。
  • 如果您透過使用隨需預留項目或自動建立的未來預留項目來建立運算執行個體，只要預留項目有可用的預留容量，Compute Engine 就會提供您要求的容量。
 盡力而為。建立 Spot VM 時，Compute Engine 會盡力佈建您要求的容量。 盡力而為。建立 MIG 大小調整要求時，Compute Engine 會盡可能排定所要求容量的佈建作業。 非常高。如果 Google Cloud 核准您的預留要求，Compute Engine 就會盡可能在您選擇的交付日期和時間佈建預留容量。在預留期間，您擁有預留運算資源的獨占存取權。
運算執行個體效期 您可以控制何時停止或刪除運算執行個體。不過，如果運算執行個體使用的機型不支援即時遷移，Compute Engine 會在主機維護事件期間停止運算執行個體。

您可以控管何時停止或刪除運算執行個體，但下列情況除外：

  • Compute Engine 會停止或刪除運算執行個體，以回收容量。這項程序稱為先占。
  • 如果運算執行個體使用的機型不支援即時遷移，Compute Engine 會在主機維護事件期間停止運算執行個體。

在運算執行個體達到執行時間長度上限前，您可以執行下列操作：

  • 停止運算執行個體：如果您將彈性啟動 VM 建立為獨立運算執行個體，或在容量可用時在 MIG 中個別建立，則可隨時停止運算執行個體。您無法停止在 MIG 規模調整要求中建立的彈性啟動 VM。
  • 刪除運算執行個體：您可以隨時刪除運算執行個體。

當運算執行個體達到執行時間上限時，Compute Engine 會根據終止動作停止或刪除執行個體。

您可以控管何時停止或刪除運算執行個體，但下列情況除外：

  • Compute Engine 會在主機維護事件期間停止運算執行個體。
  • 系統自動建立的預留項目，已達到佈建要求容量的承諾預留項目週期。屆時，Compute Engine 會刪除預留項目，並根據執行個體設定中指定的 終止動作，停止或刪除任何使用預留項目的運算執行個體。

1 如要搭配使用 TPU7x 機器系列與 Spot、彈性啟動或取決於預留項目的佈建模式，您必須在許可清單中。如要申請存取權，請與帳戶團隊或銷售團隊聯絡。

後續步驟