Menggunakan pemesanan

Jika memiliki pemesanan TPU, Anda dapat menggunakan resource yang dipesan untuk membuat TPU yang cocok dengan properti pemesanan. Tindakan ini dikenal sebagai menggunakan pemesanan. Untuk mengetahui informasi tentang cara menggunakan pemesanan TPU saat menggunakan Google Kubernetes Engine (GKE), lihat Pemesanan TPU dalam dokumentasi GKE.

Cara Anda menggunakan pemesanan bergantung pada cara Anda membuat VM TPU. Anda dapat membuat instance VM TPU atau MIG dengan TPU.

Menggunakan pemesanan saat membuat VM TPU

Saat Anda membuat instance VM TPU, tentukan pemesanan yang akan digunakan menggunakan parameter --reservation-affinity=specific dan --reservation:

  gcloud compute instances create TPU_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --reservation-affinity=specific \
    --reservation=projects/PROJECT_ID/reservations/RESERVATION_NAME \
    --provisioning-model=reservation-bound \
    --maintenance-policy=TERMINATE

Ganti placeholder berikut:

  • TPU_NAME: Nama VM TPU Anda.
  • MACHINE_TYPE: Jenis mesin untuk VM TPU (misalnya, ct6e-standard-8t).
  • IMAGE_FAMILY: Kelompok OS image untuk VM TPU. Jika Anda ingin menginstal versi OS tertentu, gunakan flag --image. Untuk mengetahui informasi selengkapnya tentang OS image, lihat OS image.
  • IMAGE_PROJECT: Project yang berisi image OS. Untuk image TPU, nilainya adalah ubuntu-os-accelerator-images.
  • ZONE: Zona untuk VM TPU (misalnya, us-central1-b).
  • PROJECT_ID: ID project tempat pemesanan dibuat.
  • RESERVATION_NAME: Nama pemesanan yang diformat sebagai projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME.

Menggunakan pemesanan saat membuat MIG

Ada dua jenis MIG yang dapat Anda buat dengan VM TPU:

  • MIG dengan slice host tunggal.
  • MIG dengan slice multi-host.

Menggunakan pemesanan saat Anda membuat MIG dengan slice host tunggal

Untuk menggunakan pemesanan saat membuat MIG dengan slice host tunggal, Anda harus menentukan pemesanan sebagai bagian dari template instance.

Untuk membuat MIG dengan slice host tunggal:

  1. Buat template instance
  2. Opsional: Membuat kebijakan workload
  3. Membuat MIG

Membuat template instance yang menggunakan pemesanan

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
     --machine-type=MACHINE_TYPE \
     --maintenance-policy=TERMINATE \
     --instance-termination-action=DELETE \
     --reservation-affinity=specific \
     --provisioning-model=reservation-bound \
     --reservation=RESERVATION_NAME \
     --image-family=IMAGE_FAMILY \
     --image-project=IMAGE_PROJECT

Ganti placeholder berikut:

  • INSTANCE_TEMPLATE_NAME: Nama template instance Anda.
  • MACHINE_TYPE: Jenis mesin untuk VM TPU (misalnya, ct6e-standard-8t).
  • RESERVATION_NAME: Nama pemesanan yang diformat sebagai projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME.
  • IMAGE_FAMILY: Kelompok OS image untuk VM TPU. Jika Anda ingin menginstal versi OS tertentu, gunakan flag --image. Untuk mengetahui informasi selengkapnya tentang OS image, lihat OS image.
  • IMAGE_PROJECT: Project yang berisi image OS. Untuk image TPU, nilainya adalah ubuntu-os-accelerator-images.

Membuat MIG

Anda dapat membuat MIG zona atau MIG regional.

Membuat MIG zona
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --template=INSTANCE_TEMPLATE_NAME \
    --zone=ZONE

Ganti placeholder berikut:

  • MIG_NAME: Nama MIG Anda.
  • SIZE: Jumlah VM TPU di MIG.
  • INSTANCE_TEMPLATE_NAME: Nama template instance Anda.
  • ZONE: Zona tempat Anda ingin MIG disediakan.
Membuat MIG regional
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --template=INSTANCE_TEMPLATE_NAME\
    --region=REGION \
    --target-distribution-shape=any

Ganti placeholder berikut:

  • MIG_NAME: Nama MIG Anda.
  • SIZE: Jumlah VM TPU di MIG.
  • INSTANCE_TEMPLATE_NAME: Nama template instance Anda.
  • REGION: Zona tempat Anda ingin MIG disediakan.

Untuk mengetahui informasi selengkapnya tentang flag --target-distribution-shape, lihat Menetapkan bentuk distribusi target untuk VM di MIG regional.

Menggunakan pemesanan saat Anda membuat MIG dengan slice multi-host

Untuk menggunakan pemesanan saat membuat MIG dengan slice multi-host, Anda menentukan pemesanan sebagai bagian dari template instance.

Membuat template instance yang menggunakan pemesanan

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
     --machine-type=MACHINE_TYPE \
     --maintenance-policy=TERMINATE \
     --instance-termination-action=DELETE \
     --reservation-affinity=specific \
     --provisioning-model=reservation-bound \
     --reservation=RESERVATION_NAME \
     --image-family=IMAGE_FAMILY \
     --image-project=IMAGE_PROJECT

Ganti placeholder berikut:

  • INSTANCE_TEMPLATE_NAME: Nama template instance Anda.
  • MACHINE_TYPE: Jenis mesin untuk VM TPU (misalnya, ct6e-standard-8t).
  • RESERVATION_NAME: Nama pemesanan yang diformat sebagai projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME.
  • IMAGE_FAMILY: Kelompok OS image untuk VM TPU. Jika Anda ingin menginstal versi OS tertentu, gunakan flag --image. Untuk mengetahui informasi selengkapnya tentang OS image, lihat OS image.
  • IMAGE_PROJECT: Project yang berisi image OS. Untuk image TPU, nilainya adalah ubuntu-os-accelerator-images.

Membuat kebijakan workload

Anda dapat menentukan kebijakan workload untuk MIG Anda. Untuk mengetahui informasi selengkapnya, lihat Kebijakan workload untuk MIG.

gcloud compute resource-policies create workload WORKLOAD_POLICY_NAME \
  --type=high-throughput \
  --accelerator-topology=TOPOLOGY

Ganti placeholder berikut:

  • WORKLOAD_POLICY_NAME: Nama untuk kebijakan workload Anda.
  • TOPOLOGY: Topologi VM TPU, misalnya, 4x4x8. Untuk mengetahui informasi selengkapnya tentang topologi untuk setiap versi TPU, lihat Versi TPU.

Membuat MIG

Anda dapat membuat MIG zonal atau regional.

Membuat MIG zona
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --target-size-policy-mode=bulk \
    --default-action-on-vm-failure=do-nothing \
    --template=INSTANCE_TEMPLATE_URL \
    --zone=ZONE \
    --workload-policy=WORKLOAD_POLICY_URL

Ganti placeholder berikut:

  • MIG_NAME: Nama MIG Anda.
  • SIZE: Jumlah VM TPU di MIG.
  • INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
    • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Untuk template instance global: INSTANCE_TEMPLATE_ID
  • ZONE: Zona tempat Anda ingin MIG disediakan.
  • WORKLOAD_POLICY_URL: URL kebijakan workload yang ingin Anda gunakan untuk membuat instance di MIG. Contoh: projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME
Membuat MIG regional
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --target-size-policy-mode=bulk \
    --default-action-on-vm-failure=do-nothing \
    --template=INSTANCE_TEMPLATE_URL \
    --zone=ZONE \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none \
    --workload-policy=WORKLOAD_POLICY_URL

Ganti placeholder berikut:

  • MIG_NAME: Nama MIG Anda.
  • SIZE: Jumlah VM TPU di MIG.
  • INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
    • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Untuk template instance global: INSTANCE_TEMPLATE_ID
  • ZONE: Zona tempat Anda ingin MIG disediakan.
  • WORKLOAD_POLICY_URL: URL kebijakan workload yang ingin Anda gunakan untuk membuat instance di MIG. Contoh: projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME

Memeriksa penggunaan pemesanan

Anda hanya dapat memeriksa penggunaan pemesanan bersama dari project pemiliknya. Jika Anda berada dalam project konsumen, Anda harus beralih ke project pemilik untuk memeriksa penggunaan pemesanan.

Untuk melihat jumlah pemesanan yang digunakan, gunakan perintah gcloud compute reservations describe:

gcloud compute reservations describe RESERVATION_NAME \
    --project=PROJECT_ID --zone=ZONE

Ganti variabel placeholder berikut:

  • RESERVATION_NAME: Nama pemesanan.
  • PROJECT_ID: ID project yang berisi pemesanan.
  • ZONE: Zona tempat pemesanan berada.

Untuk mencantumkan semua pemesanan dalam project, gunakan perintah gcloud compute reservations list:

gcloud compute reservations list --project=PROJECT_ID

Ganti variabel placeholder berikut:

  • PROJECT_ID: ID project.

Langkah berikutnya