Confidential VM 屬於 Compute Engine VM,因此適用 Compute Engine 資源配額。
什麼是配額?
Google Cloud 使用配額來確保公平性,並減少資源使用量和可用性出現劇烈波動的情況。配額會限制 Google Cloud 專案可使用的Google Cloud 資源數量,配額適用多種資源類型,包括硬體、軟體和網路元件。舉例來說,配額可能會限制能向特定服務發出的 API 呼叫次數、專案可同時使用的負載平衡器數量,或是可建立的專案數量。配額機制可防止服務過載,保障Google Cloud 使用者社群的權益,同時也有助於您管理自己的 Google Cloud 資源。
Cloud Quotas 系統具備以下功能:
如果嘗試使用的資源量超過配額限制,系統通常會阻擋該資源的存取活動,您所執行的工作就會失敗。
配額的計算通常是以 Google Cloud 專案為基準。在某個專案中使用資源,不會影響另一個專案的可用配額。在同一個 Google Cloud 專案內,所有應用程式和 IP 位址會共用配額。
詳情請參閱「Cloud Quotas 總覽」。
查看配額值
並非所有專案的配額值都相同。隨著您使用 Google Cloud,配額可能會隨之增加。瞭解如何查看配額值。
提高配額
如要調整大部分配額,請使用 Google Cloud 控制台。詳情請參閱「要求調整配額」。
如要申請 NVIDIA RTX PRO 6000 配額,請參閱「NVIDIA RTX PRO 6000」。
如要申請 NVIDIA H100 配額,請參閱「NVIDIA H100」。
GPU 配額
如要建立附加 NVIDIA GPU 的 Confidential VM 執行個體, Google Cloud專案必須有足夠的 GPU 配額,才能使用特定 GPU 類型、區域和執行個體佈建模式。
NVIDIA RTX PRO 6000
採用 G4 機型的 Confidential VM 執行個體使用 NVIDIA RTX PRO 6000 GPU,並根據執行個體佈建模式消耗 GPU 配額:
標準 (隨選) VM 執行個體:使用
GPU_FAMILY:NVIDIA_RTX_PRO_6000配額。Spot VM 和彈性啟動 VM 執行個體:使用
PREEMPTIBLE_NVIDIA_RTX_PRO_6000_GPUS配額。
NVIDIA RTX PRO 6000 GPU 的配額要求會遵循 Google Cloud 程序。詳情請參閱「查看及管理配額」。
NVIDIA H100
採用 A3 High 機型的 Confidential VM 執行個體使用 NVIDIA H100 GPU。您必須在下列配額類型中具備足夠的配額,才能成功建立具備 GPU 的 Confidential VM 執行個體:
您要在各區域建立的 GPU 型號可用的先占配額。
所有區域中各類型 GPU 總數的全域配額。
如要申請提高配額,請根據您需要的配額類型,完成下列操作。
先占配額
如要申請提高區域先占 NVIDIA H100 GPU 配額,請按照下列步驟操作:
前往 Google Cloud 控制台的「Quotas」(配額) 頁面。
在「Filter」(篩選器) 方塊中輸入
PREEMPTIBLE_NVIDIA_H100_GPUS,然後按下 Enter 或 Return 鍵。在表格的「Dimensions」(維度) 欄中,找出要提高配額的區域所在資料列。
在該列中,依序點選 「More actions」(更多動作) 和「Edit quota」(編輯配額)。
在「Quota changes」(配額變更) 窗格的「New value」(新值) 方塊中,輸入所需的 GPU 數量。
按一下 [提交要求]。
全域配額
如要申請提高全域配額,請按照下列步驟操作:
前往 Google Cloud 控制台的「Quotas」(配額) 頁面。
在「Filter」(篩選器) 方塊中輸入
GPUS_ALL_REGIONS,然後按下 Enter 或 Return 鍵。在產生的資料列中,依序點選 「More actions」(更多動作) 和「Edit quota」(編輯配額)。
在「Quota changes」(配額變更) 窗格的「New value」(新值) 方塊中,輸入所需的 GPU 數量。
按一下 [提交要求]。
提出配額要求後的影響
如果配額要求成功,您會收到核准電子郵件。收到電子郵件後,請等待約 15 分鐘,然後重新整理「Quotas」(配額) 頁面,查看更新後的配額。如果 15 分鐘後配額仍未更新,請與 Cloud Customer Care 聯絡。
如果配額要求遭拒,您可能會收到電子郵件,說明後續步驟。如要重新申請更多配額,請按照電子郵件中的指示操作。