在「所有容量」模式中要求 TPU 容量

請與 Google Cloud 帳戶團隊聯絡,要求預留「所有容量」模式。

在「所有容量」模式下要求 TPU 容量,並視需要共用專案

請向帳戶團隊提供必要的資訊。帳戶團隊會為您建立未來預留項目草稿,供您透過 Google Cloud 控制台查看。

您可以要求預留項目,並與機構中的其他 Google Cloud專案共用。您也可以要求預留項目,並與 Vertex AI 等其他服務共用。 Google Cloud 在提供給帳戶團隊的資訊中,指出預訂分享偏好設定:

屬性 說明
專案編號 帳戶團隊建立要求,以及 Compute Engine 佈建容量的專案編號 (而非 ID)。
TPU 代別 Trillium 或 Ironwood
可用區 要預留容量的可用區。
晶片數量 要預留的 TPU 晶片總數。
開始時間 預留期間的開始時間
結束時間 預留期間的結束時間
預留項目名稱 Compute Engine 建立的預留項目名稱,用於提供預留容量
自動刪除預留項目 是否要讓 Compute Engine 在預留期間結束時,自動刪除自動建立的預留項目。如要手動刪除預訂,請聯絡帳戶團隊刪除預訂。
共用類型 只有您的專案可以使用自動建立的預留項目 (LOCAL),還是其他專案也可以使用預留項目 (SPECIFIC_PROJECTS)。提交要求後,您就無法變更這項設定。如要與貴機構的其他專案共用預留容量,請按照下列步驟操作:
  1. 如果尚未驗證,請確認 Google 建立要求的專案 允許建立共用預訂。
  2. 提供要共用預留容量的專案 ID。您最多可以在機構中指定 100 個專案。
承諾使用合約名稱

如果預留期間為一年以上,則 Google Cloud 會為這些資源建立依資源計算的承諾使用合約,並將承諾使用合約附加至預留項目。 如果預留項目期限少於 3 年,您會獲得承諾使用折扣 (CUD),適用於該承諾的 1 年期方案。如果預訂期為 3 年以上,您會收到適用於 3 年方案的 CUD。如果您與其他專案共用預留容量,只有在這些專案與預留容量的專案使用相同的 Cloud Billing 帳戶時,才能享有依資源計算的 CUD。詳情請參閱「讓多項專案共用資源 CUD」。

透過 Cloud TPU 的未來預留項目購買的約期,無法續約、延長、合併、分割或升級。

系統會為「所有容量」模式預留項目預先設定下列屬性:

屬性 說明
維護作業排程類型 Compute Engine 如何為叢集中的 VM 安排主機維護作業。所有容量模式僅支援 GROUPED 選項,也就是說,預留項目子區塊中的所有 TPU VM 維護作業都會同步處理。
預留作業模式 Google Cloud 在主機發生錯誤或回報主機故障後,如何管理 VM 復原程序。預留資源的運作模式預設為 ALL_CAPACITY,也就是說,您必須自行管理 VM 的維護和復原程序。不過,您可以完整存取預留的所有機器,並更精細地控制 VM 拓撲和維護作業。
部署作業類型 容量部署類型。所有容量模式僅支援 DENSE。

確認運算資源預留項目草稿

您必須確認帳戶團隊為您建立的預留草案,才能在專案中取得「所有容量」模式的容量。 Google Cloud 按照「查看並提交預留項目要求草稿」一文中的操作說明,確認預留項目。

查看容量要求狀態

您可以判斷「所有容量」模式容量要求的狀態。如果要求獲得核准,系統會在要求開始時間分配容量,並持續到要求時間長度結束為止。系統會在預訂開始時間開始計費。

詳情請參閱「查看未來預留項目」。

如要查看預訂要求詳細資料,請使用 Google Cloud CLI 執行下列指令:

gcloud compute future-reservations describe RESERVATION_NAME \
    --zone=ZONE

更改下列內容:

  • RESERVATION_NAME:預留項目要求的名稱。
  • ZONE:Google 建立要求的可用區。

輸出結果會與下列內容相似:

creationTimestamp: '2025-04-01'
kind: compute#FutureReservation
name: 'RESERVATION_NAME'
   aggregateReservations:
     vmFamily:VM_FAMILY_CLOUD_TPU_LITE_DEVICE_CT6L
status:
  lockTime: 2024-03-01T17:00:00Z
  procurementStatus: APPROVED
timeWindow:
  endTime: 2025-06-01T17:00:00Z
  startTime: 2024-05-01T17:00:00Z
...

擴大現有資源要求

您可以透過現有預留項目取得額外容量。新增額外容量時,系統會沿用所有預訂資源屬性,例如預訂資源共用政策。您可以要求額外容量的 CUD。新的 CUD 會指向相同的預留項目。帳戶團隊會為您完成預訂擴展程序。

從 Google Cloud 控制台查看預訂詳細資料

未來預留項目完成後,您可以在 Google Cloud 控制台 預留項目頁面 中找到該項目,並查看詳細資料。部署類型為 Dense 的 TPU 預留項目表示這是「所有容量」模式的預留項目。