在「所有容量」模式中要求 TPU 容量
請與 Google Cloud 帳戶團隊聯絡,要求預留「所有容量」模式。
在「所有容量」模式下要求 TPU 容量,並視需要共用專案
請向帳戶團隊提供必要的資訊。帳戶團隊會為您建立未來預留項目草稿,供您透過 Google Cloud 控制台查看。
您可以要求預留項目,並與機構中的其他 Google Cloud專案共用。您也可以要求預留項目,並與 Vertex AI 等其他服務共用。 Google Cloud 在提供給帳戶團隊的資訊中,指出預訂分享偏好設定:
| 屬性 | 說明 |
|---|---|
| 專案編號 | 帳戶團隊建立要求,以及 Compute Engine 佈建容量的專案編號 (而非 ID)。 |
| TPU 代別 | Trillium 或 Ironwood |
| 可用區 | 要預留容量的可用區。 |
| 晶片數量 | 要預留的 TPU 晶片總數。 |
| 開始時間 | 預留期間的開始時間 |
| 結束時間 | 預留期間的結束時間 |
| 預留項目名稱 | Compute Engine 建立的預留項目名稱,用於提供預留容量 |
| 自動刪除預留項目 | 是否要讓 Compute Engine 在預留期間結束時,自動刪除自動建立的預留項目。如要手動刪除預訂,請聯絡帳戶團隊刪除預訂。 |
| 共用類型 | 只有您的專案可以使用自動建立的預留項目 (LOCAL),還是其他專案也可以使用預留項目 (SPECIFIC_PROJECTS)。提交要求後,您就無法變更這項設定。如要與貴機構的其他專案共用預留容量,請按照下列步驟操作:
|
| 承諾使用合約名稱 | 如果預留期間為一年以上,則 Google Cloud 會為這些資源建立依資源計算的承諾使用合約,並將承諾使用合約附加至預留項目。 如果預留項目期限少於 3 年,您會獲得承諾使用折扣 (CUD),適用於該承諾的 1 年期方案。如果預訂期為 3 年以上,您會收到適用於 3 年方案的 CUD。如果您與其他專案共用預留容量,只有在這些專案與預留容量的專案使用相同的 Cloud Billing 帳戶時,才能享有依資源計算的 CUD。詳情請參閱「讓多項專案共用資源 CUD」。 透過 Cloud TPU 的未來預留項目購買的約期,無法續約、延長、合併、分割或升級。 |
系統會為「所有容量」模式預留項目預先設定下列屬性:
| 屬性 | 說明 |
|---|---|
| 維護作業排程類型 | Compute Engine 如何為叢集中的 VM 安排主機維護作業。所有容量模式僅支援 GROUPED 選項,也就是說,預留項目子區塊中的所有 TPU VM 維護作業都會同步處理。 |
| 預留作業模式 | Google Cloud 在主機發生錯誤或回報主機故障後,如何管理 VM 復原程序。預留資源的運作模式預設為
ALL_CAPACITY,也就是說,您必須自行管理 VM 的維護和復原程序。不過,您可以完整存取預留的所有機器,並更精細地控制 VM 拓撲和維護作業。 |
| 部署作業類型 | 容量部署類型。所有容量模式僅支援 DENSE。 |
確認運算資源預留項目草稿
您必須確認帳戶團隊為您建立的預留草案,才能在專案中取得「所有容量」模式的容量。 Google Cloud 按照「查看並提交預留項目要求草稿」一文中的操作說明,確認預留項目。
查看容量要求狀態
您可以判斷「所有容量」模式容量要求的狀態。如果要求獲得核准,系統會在要求開始時間分配容量,並持續到要求時間長度結束為止。系統會在預訂開始時間開始計費。
詳情請參閱「查看未來預留項目」。
如要查看預訂要求詳細資料,請使用 Google Cloud CLI 執行下列指令:
gcloud compute future-reservations describe RESERVATION_NAME \ --zone=ZONE
更改下列內容:
- RESERVATION_NAME:預留項目要求的名稱。
- ZONE:Google 建立要求的可用區。
輸出結果會與下列內容相似:
creationTimestamp: '2025-04-01' kind: compute#FutureReservation name: 'RESERVATION_NAME' aggregateReservations: vmFamily:VM_FAMILY_CLOUD_TPU_LITE_DEVICE_CT6L status: lockTime: 2024-03-01T17:00:00Z procurementStatus: APPROVED timeWindow: endTime: 2025-06-01T17:00:00Z startTime: 2024-05-01T17:00:00Z ...
擴大現有資源要求
您可以透過現有預留項目取得額外容量。新增額外容量時,系統會沿用所有預訂資源屬性,例如預訂資源共用政策。您可以要求額外容量的 CUD。新的 CUD 會指向相同的預留項目。帳戶團隊會為您完成預訂擴展程序。
從 Google Cloud 控制台查看預訂詳細資料
未來預留項目完成後,您可以在 Google Cloud 控制台
預留項目頁面
中找到該項目,並查看詳細資料。部署類型為 Dense 的 TPU 預留項目表示這是「所有容量」模式的預留項目。