使用預留項目

如果您有 TPU 預留項目，可以使用預留資源建立符合預留項目屬性的 TPU。這項動作稱為「使用預留項目」。如要瞭解使用 Google Kubernetes Engine (GKE) 時如何使用 TPU 預留項目，請參閱 GKE 說明文件中的「TPU 預留項目」。

預留項目的使用方式取決於 TPU VM 的建立方式。您可以建立 TPU VM 執行個體，或建立含有 TPU 的 MIG。

建立 TPU VM 時使用預留項目

建立 TPU VM 執行個體時，請使用 --reservation-affinity=specific 和 --reservation 參數指定要使用的預留項目：

  gcloud compute instances create TPU_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --reservation-affinity=specific \
    --reservation=projects/PROJECT_ID/reservations/RESERVATION_NAME \
    --provisioning-model=reservation-bound \
    --maintenance-policy=TERMINATE

替換下列預留位置：

  • TPU_NAME：TPU VM 的名稱。
  • MACHINE_TYPE：TPU VM 的機器類型 (例如 ct6e-standard-8t)。
  • IMAGE_FAMILY：TPU VM 的 OS 映像檔系列。如要安裝特定 OS 版本，請使用 --image 旗標。如要進一步瞭解 OS 映像檔，請參閱「OS 映像檔」。
  • IMAGE_PROJECT：OS 映像檔所在的專案。 如果是 TPU 映像檔，則為 ubuntu-os-accelerator-images。
  • ZONE：TPU VM 的可用區 (例如 us-central1-b)。
  • PROJECT_ID：預留項目所屬專案的 ID。
  • RESERVATION_NAME：預留項目的名稱，格式為 projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME。

建立 MIG 時使用預留項目

您可以使用 TPU VM 建立兩種 MIG：

  • 具備單一主機切片的 MIG。
  • 具備多主機配量的 MIG。

建立具備單一主機切片的 MIG 時，使用預留項目

如要在建立單一主機切片的 MIG 時使用預留項目，請在執行個體範本中指定預留項目。

如要建立具備單一主機切片的 MIG，請按照下列步驟操作：

  1. 建立執行個體範本
  2. 選用：建立工作負載政策
  3. 建立 MIG

建立會耗用預留項目的執行個體範本

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
     --machine-type=MACHINE_TYPE \
     --maintenance-policy=TERMINATE \
     --instance-termination-action=DELETE \
     --reservation-affinity=specific \
     --provisioning-model=reservation-bound \
     --reservation=RESERVATION_NAME \
     --image-family=IMAGE_FAMILY \
     --image-project=IMAGE_PROJECT

替換下列預留位置：

  • INSTANCE_TEMPLATE_NAME：執行個體範本的名稱。
  • MACHINE_TYPE：TPU VM 的機器類型 (例如 ct6e-standard-8t)。
  • RESERVATION_NAME：預留項目的名稱，格式為 projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME。
  • IMAGE_FAMILY：TPU VM 的 OS 映像檔系列。如要安裝特定 OS 版本，請使用 --image 旗標。如要進一步瞭解 OS 映像檔，請參閱「OS 映像檔」。
  • IMAGE_PROJECT：OS 映像檔所在的專案。 如果是 TPU 映像檔，則為 ubuntu-os-accelerator-images。

建立 MIG

您可以建立可用區 MIG 或區域 MIG。

建立可用區 MIG
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --template=INSTANCE_TEMPLATE_NAME \
    --zone=ZONE

替換下列預留位置：

  • MIG_NAME：MIG 的名稱。
  • SIZE：MIG 中的 TPU VM 數量。
  • INSTANCE_TEMPLATE_NAME：執行個體範本的名稱。
  • ZONE：要佈建 MIG 的可用區。
建立區域性 MIG
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --template=INSTANCE_TEMPLATE_NAME\
    --region=REGION \
    --target-distribution-shape=any

替換下列預留位置：

  • MIG_NAME：MIG 的名稱。
  • SIZE：MIG 中的 TPU VM 數量。
  • INSTANCE_TEMPLATE_NAME：執行個體範本的名稱。
  • REGION：要佈建 MIG 的可用區。

如要進一步瞭解 --target-distribution-shape 旗標，請參閱「在區域性 MIG 中為 VM 設定目標分配型態」一節。

建立含有多主機切片的 MIG 時使用預留項目

如要在建立具有多主機切片的 MIG 時使用預留項目，請在執行個體範本中指定預留項目。

建立會耗用預留項目的執行個體範本

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
     --machine-type=MACHINE_TYPE \
     --maintenance-policy=TERMINATE \
     --instance-termination-action=DELETE \
     --reservation-affinity=specific \
     --provisioning-model=reservation-bound \
     --reservation=RESERVATION_NAME \
     --image-family=IMAGE_FAMILY \
     --image-project=IMAGE_PROJECT

替換下列預留位置：

  • INSTANCE_TEMPLATE_NAME：執行個體範本的名稱。
  • MACHINE_TYPE：TPU VM 的機器類型 (例如 ct6e-standard-8t)。
  • RESERVATION_NAME：預留項目的名稱，格式為 projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME。
  • IMAGE_FAMILY：TPU VM 的 OS 映像檔系列。如要安裝特定 OS 版本，請使用 --image 旗標。如要進一步瞭解 OS 映像檔，請參閱「OS 映像檔」。
  • IMAGE_PROJECT：OS 映像檔所在的專案。 如果是 TPU 映像檔，則為 ubuntu-os-accelerator-images。

建立工作負載政策

您可以為 MIG 指定工作負載政策。詳情請參閱「MIG 適用的工作負載政策」。

gcloud compute resource-policies create workload WORKLOAD_POLICY_NAME \
  --type=high-throughput \
  --accelerator-topology=TOPOLOGY

替換下列預留位置：

  • WORKLOAD_POLICY_NAME：工作負載政策的名稱。
  • TOPOLOGY：TPU VM 的拓撲，例如 4x4x8。如要進一步瞭解各 TPU 版本的拓撲，請參閱「TPU 版本」。

建立 MIG

您可以建立可用區或區域 MIG。

建立可用區 MIG
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --target-size-policy-mode=bulk \
    --default-action-on-vm-failure=do-nothing \
    --template=INSTANCE_TEMPLATE_URL \
    --zone=ZONE \
    --workload-policy=WORKLOAD_POLICY_URL

替換下列預留位置：

  • MIG_NAME：MIG 的名稱。
  • SIZE：MIG 中的 TPU VM 數量。
  • INSTANCE_TEMPLATE_URL：執行個體範本的網址，用於在 MIG 中建立執行個體。網址可以包含執行個體範本的 ID 或名稱。請指定下列其中一個值：
    • 區域執行個體範本：projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • 全域執行個體範本：INSTANCE_TEMPLATE_ID
  • ZONE：要佈建 MIG 的可用區。
  • WORKLOAD_POLICY_URL：工作負載政策的網址，用於在 MIG 中建立執行個體。例如：projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME
建立區域性 MIG
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --target-size-policy-mode=bulk \
    --default-action-on-vm-failure=do-nothing \
    --template=INSTANCE_TEMPLATE_URL \
    --zone=ZONE \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none \
    --workload-policy=WORKLOAD_POLICY_URL

替換下列預留位置：

  • MIG_NAME：MIG 的名稱。
  • SIZE：MIG 中的 TPU VM 數量。
  • INSTANCE_TEMPLATE_URL：執行個體範本的網址，用於在 MIG 中建立執行個體。網址可以包含執行個體範本的 ID 或名稱。請指定下列其中一個值：
    • 區域執行個體範本：projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • 全域執行個體範本：INSTANCE_TEMPLATE_ID
  • ZONE：要佈建 MIG 的可用區。
  • WORKLOAD_POLICY_URL：工作負載政策的網址，用於在 MIG 中建立執行個體。例如： projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME

查看預留項目用量

您只能從擁有者專案查看共用預留項目的用量。如果您位於消費者專案中，則必須切換至擁有者專案，才能查看預留項目用量。

如要查看預留項目的使用量，請使用 gcloud compute reservations describe 指令：

gcloud compute reservations describe RESERVATION_NAME \
    --project=PROJECT_ID --zone=ZONE

替換下列的預留位置變數：

  • RESERVATION_NAME：預留項目名稱。
  • PROJECT_ID：預留項目所在專案的 ID。
  • ZONE：預留項目所在的可用區。

如要列出專案中的所有預留項目，請使用 gcloud compute reservations list 指令：

gcloud compute reservations list --project=PROJECT_ID

替換下列預留位置變數：

  • PROJECT_ID：專案 ID。

後續步驟