使用預留項目

如果您有 TPU 預留項目，可以使用預留資源建立符合預留項目屬性的 TPU。這項操作稱為「使用預訂」。如要瞭解如何在 Google Kubernetes Engine (GKE) 中使用 TPU 預留資源，請參閱 GKE 說明文件中的「TPU 預留資源」。

預留項目的使用方式取決於 TPU VM 的建立方式。您可以建立 TPU VM 執行個體，或含有 TPU 的 MIG。

建立 TPU VM 時使用預留項目

建立 TPU VM 執行個體時，請使用 --reservation-affinity 和 --reservation 參數指定要使用的預留項目：

  gcloud compute instances create TPU_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --reservation-affinity=specific \
    --reservation=projects/PROJECT_ID/reservations/RESERVATION_NAME \
    --provisioning-model=reservation-bound \
    --maintenance-policy=TERMINATE

替換下列預留位置：

  • TPU_NAME：TPU VM 的名稱。
  • MACHINE_TYPE：TPU VM 的機型 (例如 ct6e-standard-8t)。
  • IMAGE_FAMILY：TPU VM 的作業系統映像檔系列。如要安裝特定 OS 版本，請使用 --image 旗標。如要進一步瞭解 OS 映像檔，請參閱「OS 映像檔」。
  • IMAGE_PROJECT：包含 OS 映像檔的專案。如果是 TPU 映像檔，則為 ubuntu-os-accelerator-images。
  • ZONE：TPU VM 的區域 (例如 us-central1-b)。
  • PROJECT_ID：預訂資源的專案 ID。
  • RESERVATION_NAME：預訂名稱，格式為 projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME。

建立 MIG 時使用預留項目

您可以使用 TPU VM 建立兩種 MIG：

  • 具有單一主機切片的 MIG。
  • 具有多主機配量的 MIG。

建立具有單一主機節點的 MIG 時，使用預留項目

如要在使用單一主機切片建立 MIG 時使用預留項目，請在執行個體範本中指定預留項目。

如要建立具有單一主機切片的 MIG，請按照下列步驟操作：

  1. 建立執行個體範本
  2. 選用：建立工作負載政策
  3. 建立 MIG

建立使用保留項目的執行個體範本

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
     --machine-type=MACHINE_TYPE \
     --maintenance-policy=TERMINATE \
     --instance-termination-action=DELETE \
     --reservation-affinity=specific \
     --provisioning-model=reservation-bound \
     --reservation=RESERVATION_NAME \
     --image-family=IMAGE_FAMILY \
     --image-project=IMAGE_PROJECT

替換下列預留位置：

  • INSTANCE_TEMPLATE_NAME：執行個體範本的名稱。
  • MACHINE_TYPE：TPU VM 的機型 (例如 ct6e-standard-8t)。
  • RESERVATION_NAME：預訂的名稱，格式為 projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME。
  • IMAGE_FAMILY：TPU VM 的作業系統映像檔系列。如要安裝特定 OS 版本，請使用 --image 旗標。如要進一步瞭解 OS 映像檔，請參閱「OS 映像檔」。
  • IMAGE_PROJECT：包含 OS 映像檔的專案。如果是 TPU 映像檔，則為 ubuntu-os-accelerator-images。

建立 MIG

您可以建立可用區 MIG 或區域 MIG。

建立可用區 MIG
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --template=INSTANCE_TEMPLATE_NAME \
    --zone=ZONE

替換下列預留位置：

  • MIG_NAME：MIG 的名稱。
  • SIZE：MIG 中的 TPU VM 數量。
  • INSTANCE_TEMPLATE_NAME：執行個體範本的名稱。
  • ZONE：要佈建 MIG 的可用區。
建立區域性 MIG
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --template=INSTANCE_TEMPLATE_NAME\
    --region=REGION \
    --target-distribution-shape=any

替換下列預留位置：

  • MIG_NAME：MIG 的名稱。
  • SIZE：MIG 中的 TPU VM 數量。
  • INSTANCE_TEMPLATE_NAME：執行個體範本的名稱。
  • REGION：要佈建 MIG 的可用區。

如要進一步瞭解 --target-distribution-shape 旗標，請參閱「在區域性 MIG 中為 VM 設定目標分配型態」一文。

建立含有多主機切片的 MIG 時，使用預留項目

如要在建立含有多主機節點的 MIG 時使用預留項目，請在執行個體範本中指定預留項目。

建立使用保留項目的執行個體範本

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
     --machine-type=MACHINE_TYPE \
     --maintenance-policy=TERMINATE \
     --instance-termination-action=DELETE \
     --reservation-affinity=specific \
     --provisioning-model=reservation-bound \
     --reservation=RESERVATION_NAME \
     --image-family=IMAGE_FAMILY \
     --image-project=IMAGE_PROJECT

替換下列預留位置：

  • INSTANCE_TEMPLATE_NAME：執行個體範本的名稱。
  • MACHINE_TYPE：TPU VM 的機型 (例如 ct6e-standard-8t)。
  • RESERVATION_NAME：預訂的名稱，格式為 projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME。
  • IMAGE_FAMILY：TPU VM 的作業系統映像檔系列。如要安裝特定 OS 版本，請使用 --image 旗標。如要進一步瞭解 OS 映像檔，請參閱「OS 映像檔」。
  • IMAGE_PROJECT：包含 OS 映像檔的專案。如果是 TPU 映像檔，則為 ubuntu-os-accelerator-images。

建立工作負載政策

您可以為 MIG 指定工作負載政策。 詳情請參閱 MIG 適用的工作負載政策。

gcloud compute resource-policies create workload WORKLOAD_POLICY_NAME \
  --type=high-throughput \
  --accelerator-topology=TOPOLOGY

替換下列預留位置：

  • WORKLOAD_POLICY_NAME：Workload 政策的名稱。
  • TOPOLOGY：TPU VM 的拓撲，例如 4x4x8。如要進一步瞭解各個 TPU 版本的拓撲，請參閱「TPU 版本」。

建立 MIG

您可以建立可用區或區域性 MIG。

建立可用區 MIG
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --target-size-policy-mode=bulk \
    --default-action-on-vm-failure=do-nothing \
    --template=INSTANCE_TEMPLATE_URL \
    --zone=ZONE \
    --workload-policy=WORKLOAD_POLICY_URL

替換下列預留位置：

  • MIG_NAME：MIG 的名稱。
  • SIZE：MIG 中的 TPU VM 數量。
  • INSTANCE_TEMPLATE_URL：您要用於在 MIG 中建立執行個體的執行個體範本網址。網址可以包含執行個體範本的 ID 或名稱。請指定下列其中一個值：
    • 如果是區域執行個體範本：projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • 如果是全域執行個體範本：INSTANCE_TEMPLATE_ID
  • ZONE：要佈建 MIG 的可用區。
  • WORKLOAD_POLICY_URL：您要用來在 MIG 中建立執行個體的執行個體政策網址。例如：projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME
建立區域性 MIG
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --target-size-policy-mode=bulk \
    --default-action-on-vm-failure=do-nothing \
    --template=INSTANCE_TEMPLATE_URL \
    --zone=ZONE \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none \
    --workload-policy=WORKLOAD_POLICY_URL

替換下列預留位置：

  • MIG_NAME：MIG 的名稱。
  • SIZE：MIG 中的 TPU VM 數量。
  • INSTANCE_TEMPLATE_URL：您要用於在 MIG 中建立執行個體的執行個體範本網址。網址可以包含執行個體範本的 ID 或名稱。請指定下列其中一個值：
    • 如果是區域執行個體範本：projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • 如果是全域執行個體範本：INSTANCE_TEMPLATE_ID
  • ZONE：要佈建 MIG 的可用區。
  • WORKLOAD_POLICY_URL：您要用來在 MIG 中建立執行個體的執行個體政策網址。例如： projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME

查看預留項目用量

您只能從擁有者專案查看共用預留項目的使用情況。如果您位於用戶專案中，必須切換至擁有者專案，才能查看預訂用量。

如要查看保留項目使用量，請使用 gcloud compute reservations describe 指令：

gcloud compute reservations describe RESERVATION_NAME \
    --project=PROJECT_ID --zone=ZONE

替換下列的預留位置變數：

  • RESERVATION_NAME：預訂名稱。
  • PROJECT_ID：包含預留項目的專案 ID。
  • ZONE：預留項目所在的可用區。

如要列出專案中的所有預訂，請使用 gcloud compute reservations list 指令：

gcloud compute reservations list --project=PROJECT_ID

替換下列預留位置變數：

  • PROJECT_ID：專案 ID。

後續步驟