AI Hypercomputer 提供多種計費模式，方便您取得運算資源。這些選項可滿足工作負載時間長度、容錯能力和基礎架構模型等需求。瞭解這些選項，並選擇最適合您用途的選項。
除了手動評估，您也可以在Google Cloud 控制台中提示 Gemini，比較工作負載和預算的用量選項。詳情請參閱「使用 Gemini 設計 AI 基礎架構」。
計費模式總覽
如要比較主要特徵的用量選項，請參閱下表：
| 計費方案 | 佈建模型 | 適用情境 | 容量保證 | 效期 | 先占 | 配額 | 折扣 | 分配模式 |
|---|---|---|---|---|---|---|---|---|
| 彈性啟動 | 彈性啟動 | 最多七天的短期工作負載，可等待容量。 | 盡可能提供最佳服務 | 最多七天 | 否 | 先占配額 | 支援的系列叢書可享折扣 (最高 47%) | MIG 規模調整要求會盡量提供密集型 VM，獨立 VM 則不保證。 |
| Spot VM | Spot | 容錯、短期的一般 GPU 工作負載。 | 盡可能提供最佳服務 | 先占 | 是 | 先占配額 | 大幅折扣 (最多 91%) | 標準 |
| 標準預訂 | 標準 | 需要極高容量保證的一般重要 GPU 工作負載。 | 極高 | 極高 | 使用者定義 | 否 | 未消耗配額 | 承諾使用折扣 (CUD) 的折扣費率 |
| 容量區塊的未來預留項目 | 取決於預留項目 | 在叢集 GPU 上執行大規模的長時間訓練。 | 極高 | 預訂期間內無限次數。 | 否 | 自動提高 | 承諾使用折扣 (CUD) 可享折扣 (最高 53%) | 密集型 |
| 日曆模式的未來預留項目 | 取決於預留項目 | 最多 90 天的叢集 GPU 工作負載，需要預留運算資源。 | 極高 | 最多 90 天 | 否 | 未消耗配額 | 折扣 (最多 47%) | 密集型 |
| 隨選 VM | 標準 | 一般 GPU 工作負載，沒有特定時間長度。 | 盡可能提供最佳服務 | 無限制 | 否 | 以量計價配額 | 無 (即付即用) | 標準 |
您用來部署基礎架構的消耗量選項，取決於您使用的是一般 GPU 還是叢集 GPU。
一般 GPU：專為小規模推論、開發和較小規模的訓練工作負載設計。這類 GPU 可透過非同步維護作業提供作業彈性。如要查看可用選項，請參閱一般 GPU 的用量選項。
叢集式 GPU：專為大規模、緊密耦合的訓練工作負載，以及大規模推論、強化學習和推理模型工作負載設計，可確保高容量並密集分配資源，盡量減少網路延遲。如要查看可用選項，請參閱叢集 GPU 的用量選項。
一般 GPU 的用量選項
如要取得一般 GPU 的容量，請使用下列消耗量選項。
使用彈性啟動
如要執行需要密集分配資源的短期工作負載，可以使用彈性啟動功能，要求最多七天的運算資源。只要有可用資源，Compute Engine 就會建立您要求的 VM 數量。您可以停止獨立的彈性啟動 VM，但無法停止代管執行個體群組 (MIG) 透過大小調整要求建立的彈性啟動 VM。彈性啟動 VM 會一直存在，直到您刪除 VM，或直到 Compute Engine 在執行時間結束時刪除 VM 為止。
適合的工作負載
- 小型模型預先訓練
- 模型微調
- 高效能運算 (HPC) 模擬
- 批次推論
主要特性
- 佈建模型：彈性啟動。
- 廣泛的硬體支援：要求任何叢集 GPU 機型，但 A4X Max 和 A4X 除外。
- 延遲時間最佳化：對獨立 VM 套用密集配置政策，盡量減少網路延遲時間。
- 成本效益：A4、A3、A2 和 G4 機器系列機型的 vCPU、記憶體、GPU 和本機 SSD 磁碟，最高可享 53% 折扣。其他支援的影集則適用標準隨選費率。詳情請參閱彈性啟動定價。
使用 Spot
如要執行容錯工作負載，您可以根據可用性立即取得運算資源。以盡可能最低的價格取得資源。不過，Compute Engine 隨時可能會先占 VM 並取回資源。
適合的工作負載
- 批次處理與資料分析
- 高效能運算 (HPC) 和媒體編碼
主要特性
- 佈建模型：Spot。
- 廣泛的硬體支援：要求任何叢集 GPU 機型，但 A4X Max 和 A4X 除外。
- 延遲時間最佳化：對獨立 VM 套用密集配置政策，盡量減少網路延遲時間。
- 提高成本效益：vCPU、記憶體、GPU 和本機 SSD 磁碟最高可享 91% 折扣。
按照需求使用
提示：如要提高取得一般 GPU 容量的機率，請使用彈性啟動或 Spot。與隨選價格相比，這些消耗量選項提供的 GPU 價格較低，且旨在協助您提高取得 GPU 等高需求資源的機會。
如要執行沒有特定時長的工作負載，您可以根據可用性立即取得運算資源。VM 會持續執行，直到您加以停止或刪除。
適合的工作負載
- 推論和提供模型
- 原型設計與實驗
主要特性
- 佈建模型：標準。
- 立即可用：立即建立 VM 執行個體，不必等待容量排程或核准。
- 標準價格：以標準隨選費率支付資源費用，不需長期綁約。
- 支援多種硬體：在一般 GPU 路徑中，可搭配任何支援的 GPU 機器系列使用。
使用標準預留項目
如要執行需要極高容量保證的重要一般 GPU 工作負載，可以使用標準預留項目。
適合的工作負載
- 重要正式環境工作負載
- 需要保證容量的工作負載
主要特性
- 佈建模型：標準。
- 容量保證：提供極高的資源可用性保證。
- 價格：適用標準費率，但您可以附加 CUD 來節省費用。
叢集 GPU 的使用選項
使用下列消耗量選項，取得叢集式 GPU 的容量。使用未來預留項目取得容量區塊
如要執行需要密集分配資源的長期大型分散式工作負載，您可以要求預留未來特定時間的運算資源。在該期間，您擁有預留資源的獨占存取權，並可使用這些資源建立 VM 或叢集。預留項目期限結束時，Compute Engine 會執行下列操作：
- Compute Engine 會刪除預留項目。
- 根據您為 VM 指定的終止動作，Compute Engine 會停止或刪除使用預留項目的任何 VM。
適合的工作負載
- 預先訓練基礎模型
- 跨多個主機的基礎模型推論
主要特性
- 佈建模型：取決於預留項目。
- 支援頂級機器：預留 A4X Max、A4X、A4、A3 Ultra、A3 Mega 或 A3 High (8 個 GPU) 機型。
- 承諾使用規定：預留資源一年以上時，必須附上依資源計算的承諾使用合約。
- 動態修改：在該期間開始後，為 Vertex AI 工作啟用硬體緊急維護通知。
在日曆模式中使用未來預留項目
如要執行需要密集分配資源的短期分散式工作負載，您可以要求最多 90 天的運算資源。在該段時間內，您擁有預留資源的獨占存取權，並可使用這些資源建立 VM 或叢集。預留項目期限結束時，Compute Engine 會執行下列操作：
- Compute Engine 會刪除預留項目。
- 根據您為 VM 指定的終止動作，Compute Engine 會停止或刪除使用預留項目的任何 VM。
適合的工作負載
- 預先訓練和微調
- 大規模模擬和推論
主要特性
- 佈建模型：取決於預留項目。
- 支援的機器系列：預留 A4、A3 Ultra、A3 Mega 或 A3 High (8 個 GPU) 機型。
- 擴充性限制：最多可預留 80 部 VM，預留期限最長為 90 天。
- 最佳化佈建：使用與預留項目綁定的模型，提高取得 GPU 的機率。
使用彈性啟動
如需最多七天的密集分配資源，請在叢集代管執行個體群組 (MIG) 調整大小要求中使用「彈性啟動」。
適合的工作負載
彈性啟動 VM 非常適合執行可隨時啟動的工作負載，例如：
- 小型模型預先訓練
- 模型微調
- 高效能運算 (HPC) 模擬
- 批次推論
主要特性
- 佈建模型：彈性啟動。
- 資源分配：為 MIG 規模調整要求密集分配資源。
- 成本效益：A4、A3、A2 和 G4 機器系列可享有 vCPU、記憶體、GPU 和任何附加本機 SSD 磁碟最高 53% 的折扣。其他支援的機器系列則適用標準隨選費率。
使用 Spot
您可以將 Spot VM 用於密集分配的容錯工作負載，以享有高額折扣，但請注意，Compute Engine 可能會先占 VM 來回收容量。
適合的工作負載
- 容錯分散式訓練
- 批次處理
主要特性
- 佈建模型：Spot。
- 先占：Compute Engine 可能隨時先占執行個體。
- 成本效益：vCPU、記憶體、GPU 和任何附加的本機 SSD 磁碟，最高可享 91% 的折扣
後續步驟
- 如要瞭解工作負載需求，請參閱「瞭解工作負載需求」。
- 如要建立及使用預留項目，請參閱「建立及使用預留項目」。
- 如要進一步瞭解 Spot VM，請參閱「進一步瞭解 Spot VM」。
- 如要建立隨選 VM 執行個體，請參閱建立隨選 VM 執行個體。