Compute Engine 執行個體的佈建模型

建立 Compute Engine 執行個體時，您必須定義要用來取得所需資源的方法，稱為「佈建模式」。每種佈建模式都會決定運算執行個體的可用性、生命週期和價格。

本文說明建立運算執行個體時，可指定的不同佈建模式。瞭解這些模型後，您就能為工作負載選擇最佳選項。

可用的佈建模式

建立運算執行個體時，可以指定下列其中一種佈建模型。如未指定佈建模型，Compute Engine 預設會使用標準佈建模型。

  • 標準

  • Spot

  • 彈性啟動

  • 取決於預留項目

下表可協助您比較各個佈建模式的用途和定價：

標準 Spot 彈性啟動 取決於預留項目
摘要
  • 您可以根據資源可用性，立即建立運算執行個體。
  • 您可以控制何時停止或刪除運算執行個體。
  • 您可以根據資源可用性，立即建立運算執行個體。
  • 您可以控制何時停止或刪除運算執行個體。但您也允許 Compute Engine 隨時停止或刪除運算執行個體，以取回容量。
  • 您可以根據資源可用性，在指定的等待時間內建立運算執行個體。如果是獨立的彈性啟動 VM，您最多可以指定兩小時的等待時間。如果是 MIG，Compute Engine 會持續嘗試建立運算執行個體，直到資源可用或您取消建立要求為止。
  • 您可以控制何時停止或刪除運算執行個體。不過，您無法暫停或重新建立這些設定。運算執行個體至少會執行 10 分鐘，最多 7 天。當運算執行個體達到執行時間上限時，Compute Engine 會根據終止動作停止或刪除執行個體。
  • 您可以要求在未來日期預留容量，以便建立運算執行個體。如果 Google Cloud 核准您的要求，Compute Engine 就會建立預留項目。在預留項目期間開始時，您可以建立符合預留項目的運算執行個體，藉此使用預留項目。
  • 在核准的預留期間，您可以視需要停止、重新啟動、刪除及重新建立運算執行個體，以使用預留項目。預留項目到期後，Compute Engine 會刪除預留項目，並根據終止動作停止或刪除使用預留項目的任何運算執行個體。
用途

適合需要穩定性和持續運作的工作負載，例如：

  • 網路伺服器
  • 資料庫
  • 企業應用程式
  • 開發和測試

適合用於可容許作業中斷的工作負載，例如：

  • 批次處理
  • 高效能運算 (HPC)
  • 持續整合與持續部署 (CI/CD)
  • 資料分析
  • 媒體編碼
  • 線上推論

需要穩定性且執行時間不超過七天的工作負載，例如：

  • 小型模型預先訓練
  • 微調模型
  • HPC 模擬
  • 批次推論

適合需要穩定性和特定執行時間的工作負載，例如：

  • 工作負載最多可持續 90 天：

    • 模型預先訓練工作
    • 模型微調工作
    • HPC 模擬工作負載
    • 推論工作負載預期短期內會增加

  • 執行時間超過 90 天的工作負載：

    • 訓練工作負載
    • 推論工作負載
資源分配 盡力而為。Compute Engine 會盡力將資源放置在彼此附近。如要控管放置位置，您可以選擇使用放置位置政策。 盡力而為。Compute Engine 會盡力將資源放置在彼此附近。如要控管放置位置，您可以選擇使用放置位置政策。 盡量提供密集資料。Compute Engine 會盡力將資源密集地放在附近。如要控管彈性啟動型 VM 的位置，您可以視需要使用下列其中一項： 密集。Compute Engine 會將資源實際放置在緊耦合主機上，並透過高速網路架構連線，盡量減少網路延遲。
定價
  • 您需要支付運算執行個體的標準價格。請參閱 VM 執行個體定價。

  • 您需要根據建立運算執行個體的方法支付費用：

    • 如果立即建立運算執行個體，則須依即付即用 (PAYG) 模式支付運算資源費用。
    • 如果您使用隨需預留項目或自動建立的預留項目 (用於未來預留項目) 建立運算執行個體，則只要預留項目存在，就會產生費用。詳情請參閱「 預留項目計費」。
  • 許多機型、GPU、TPU 和本機 SSD 磁碟都享有最高 91% 的折扣。 詳情請參閱定價頁面。
  • 運算資源採即付即用 (PAYG) 計費模式。

  • 根據運算執行個體使用的機型，您可享有以下折扣：

    • 使用 A4、A3、A2、G4 和 TPU 機型時，vCPU、記憶體、任何連接的加速器和本機 SSD 磁碟，最高可享 53% 的折扣。
    • 使用 H4D 機型時，vCPU、記憶體和任何連接的本機 SSD 磁碟，最多可享有 25% 的折扣。
    其他支援的機型不符合折扣資格。詳情請參閱「Dynamic Workload Scheduler (DWS) 定價」。
  • 運算資源採即付即用 (PAYG) 計費模式。
配額 建立運算執行個體時，會消耗標準配額。 建立 Spot VM 時，會消耗先占配額。如果專案沒有先占配額，則會消耗標準配額。

Google Cloud 免費方案抵免額 不適用於 Spot VM。 		建立彈性啟動型 VM 時，會消耗先占配額 。如果專案沒有先占配額，則會消耗標準配額。

配額用量會因您預留資源的方法而異：

  • 使用 AI Hypercomputer 或 HPC 叢集的未來預留項目：Google 會管理預留資源的配額。您不需要手動要求配額。在核准的未來預留項目開始時間，如果專案配額不足，Google 會自動提高配額。
  • 日曆模式的未來預留項目：預留 H4D 機型時，會消耗 CPU 配額。如要預留 GPU 或 TPU 機型，不需要配額。

運算執行個體可用性和生命週期

下表列出各佈建模式的運算執行個體可用性和生命週期：

標準 Spot 彈性啟動 取決於預留項目
建立必要條件 建立活動沒有任何條件限制。 建立活動沒有任何條件限制。 建立活動沒有任何條件限制。

如要建立運算執行個體，您必須先使用下列其中一種方法預留容量：

在您選擇的送達日期和時間，Compute Engine 會佈建您要求的容量。接著，您就能建立運算執行個體，使用這些容量。
支援的機器系列 您可以使用任何機器系列，但 A4X Max、A4X、A4 和 A3 Ultra 除外。

您可以選擇任何機器系列，但 A4X 執行個體和任何裸機執行個體 (名稱包含 -metal 的機型) 除外。

TPU7x 的 Spot 受到允許清單限制。請參閱這則附註。

只能使用下列機器系列：

根據您預留資源的方式建立 VM，您只能使用下列機器系列：
運算執行個體可用性 只要您要求的資源可用，隨時都能建立運算執行個體。為盡量避免發生資源可用性錯誤，您可以在建立 Spot VM 前查看 Spot VM 的可用性。 只要要求的資源可用，您隨時可以建立運算執行個體。

您可以按照下列方式建立運算執行個體：

Compute Engine 會使用 DWS，根據資源可用性排定所要求容量的佈建作業。DWS 可協助您取得 GPU 或 TPU 等高需求資源。

 您必須先預留未來日期的容量，才能建立運算執行個體。在您要求的日期，Compute Engine 會提供您要求的容量，您可以使用這些容量建立運算執行個體。如果您在日曆模式中使用未來預留項目預留資源，Compute Engine 會使用 DWS 佈建您要求的容量。DWS 可協助您取得 GPU 或 TPU 等高需求資源。
容量保證 視建立方法而定。容量保證會因您建立運算執行個體的方法而異，如下所示：
  • 如果您立即建立運算執行個體，Compute Engine 會盡力佈建您要求的容量。
  • 如果您透過使用隨需預留項目或自動建立的未來預留項目來建立運算執行個體，只要預留項目有可用的預留容量，Compute Engine 就會提供您要求的容量。
 盡力而為。建立 Spot VM 時，Compute Engine 會盡力佈建您要求的容量。 盡力而為。建立 MIG 大小調整要求時，Compute Engine 會盡力排定您要求容量的佈建作業。 非常高。如果 Google Cloud 核准您的預留要求，您就能非常確信 Compute Engine 會在您選擇的送達日期和時間，佈建預留容量。在預留期間，您擁有預留運算資源的獨占存取權。
運算執行個體生命週期 您可以控管何時停止或刪除運算執行個體。不過，如果運算執行個體使用的機型不支援即時遷移，Compute Engine 會在主機維護事件期間停止運算執行個體。

您可以控制何時停止或刪除運算執行個體，但下列情況除外：

  • Compute Engine 會停止或刪除運算執行個體，以取回容量。這項程序稱為「先占」。
  • 如果運算執行個體使用的機型不支援即時遷移，Compute Engine 會在主機維護事件期間停止運算執行個體。

在運算執行個體達到執行時間上限前，您可以執行下列操作：

  • 停止運算執行個體：如果您是將彈性啟動 VM 建立為獨立運算執行個體，或在 MIG 中個別建立，只要有可用容量，隨時都能停止運算執行個體。您無法停止在 MIG 規模調整要求中建立的彈性啟動 VM。
  • 刪除運算執行個體：您隨時可以刪除運算執行個體。

當運算執行個體達到執行時間上限時，Compute Engine 會根據終止動作停止或刪除執行個體。

您可以控管何時停止或刪除運算執行個體，但下列情況除外：

  • 在主機維護事件期間，Compute Engine 會停止運算執行個體。
  • 系統自動建立的預留項目已達到承諾使用預留項目期限，無法再佈建您要求的容量。屆時，Compute Engine 會刪除預留項目，並根據執行個體設定中指定的 終止動作，停止或刪除任何使用預留項目的運算執行個體。

1 TPU7x 的 Spot、彈性啟動和未來預留項目 (日曆模式) 僅限許可清單中的使用者使用。如要申請存取權，請與帳戶團隊或銷售團隊聯絡。

後續步驟