使用預留項目

如果您有 TPU 預留項目,可以使用預留資源建立符合預留項目屬性的 TPU。這項操作稱為「使用預訂」。如要瞭解如何在 Google Kubernetes Engine (GKE) 中使用 TPU 預留資源,請參閱 GKE 說明文件中的「TPU 預留資源」。

使用特定預留項目

使用 gcloud alpha compute tpus queued-resources create 指令建立資源時,請使用 --reservation 旗標指定要使用的預留項目名稱。如要為日曆模式中建立的未來預留項目設定標籤,您也必須將 --provisioning-model 旗標設為 reservation-bound

gcloud alpha compute tpus queued-resources create QUEUED_RESOURCE_ID \
    --node-id=TPU_NAME \
    --zone=ZONE \
    --accelerator-type=ACCELERATOR_TYPE \
    --runtime-version=SOFTWARE_VERSION \
    --reservation=RESERVATION_URL \
    --provisioning-model=reservation-bound # Only required for calendar mode

替換下列的預留位置變數:

  • QUEUED_RESOURCE_ID:使用者為佇列資源要求指派的 ID。
  • TPU_NAME:在分配已加入佇列的資源要求時,為建立的 TPU 指派的使用者 ID (名稱)。
  • ZONE:要建立 TPU VM 的可用區。如要進一步瞭解支援的區域,請參閱「地區和區域」。
  • ACCELERATOR_TYPE:指定要建立的 Cloud TPU 版本和大小。如要進一步瞭解各個 TPU 版本支援的加速器類型,請參閱「TPU 版本」。
  • SOFTWARE_VERSION:Cloud TPU 軟體版本
  • RESERVATION_URL:預訂網址。指定下列其中一個值:
    • 如果預留項目位於專案中: RESERVATION_NAME
    • 如果預留項目位於其他專案,且您的專案可以消耗該項目: projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME

使用任何相符的預留項目

您可以根據加速器類型、專案 ID 和區域,使用 --reserved 旗標自動判斷要使用的預留項目。

CreateNode

如要使用 CreateNode API 消耗任何相符的預訂,請使用 gcloud alpha compute tpus tpu-vm create 指令,並加上 --reserved 旗標

gcloud alpha compute tpus tpu-vm create TPU_NAME \
    --zone=ZONE \
    --accelerator-type=ACCELERATOR_TYPE \
    --version=SOFTWARE_VERSION \
    --reserved

替換下列的預留位置變數:

  • TPU_NAME:TPU 的名稱。
  • ZONE:要建立 TPU VM 的可用區,必須與預訂可用區相符。
  • ACCELERATOR_TYPE:指定要建立的 Cloud TPU 版本和大小。如要進一步瞭解各個 TPU 版本支援的加速器類型,請參閱「TPU 版本」。
  • SOFTWARE_VERSION:Cloud TPU 軟體版本

排入佇列的資源

如要使用佇列資源消耗任何相符的預訂,請使用 gcloud alpha compute tpus queued-resources create 指令並加上 --reserved 旗標

gcloud alpha compute tpus queued-resources create QUEUED_RESOURCE_ID \
    --node-id=TPU_NAME \
    --zone=ZONE \
    --accelerator-type=ACCELERATOR_TYPE \
    --runtime-version=SOFTWARE_VERSION \
    --reserved

替換下列的預留位置變數:

  • QUEUED_RESOURCE_ID:使用者為佇列資源要求指派的 ID。
  • TPU_NAME:在分配已加入佇列的資源要求時,為建立的 TPU 指派的使用者 ID (名稱)。
  • ZONE:要建立 TPU VM 的可用區,也是預訂項目所在的可用區。
  • ACCELERATOR_TYPE:指定要建立的 Cloud TPU 版本和大小。如要進一步瞭解各個 TPU 版本支援的加速器類型,請參閱「TPU 版本」。
  • SOFTWARE_VERSION:Cloud TPU 軟體版本

查看預留項目用量

您只能從擁有者專案查看共用預留項目的使用情況。如果您位於用戶專案,則必須切換至擁有者專案,才能查看預訂用量。

如要查看保留項目使用量,請使用 gcloud compute reservations describe 指令

gcloud compute reservations describe RESERVATION_NAME \
    --project=PROJECT_ID --zone=ZONE

替換下列的預留位置變數:

  • RESERVATION_NAME:預留項目的名稱。
  • PROJECT_ID:包含預留項目的專案 ID。
  • ZONE:預留項目所在的可用區。

如要列出專案中的所有預訂,請使用 gcloud compute reservations list 指令

gcloud compute reservations list --project=PROJECT_ID

替換下列預留位置變數:

  • PROJECT_ID:專案 ID。

後續步驟