Menggunakan reservasi

Jika memiliki reservasi TPU, Anda dapat menggunakan resource yang dipesan untuk membuat TPU yang cocok dengan properti reservasi. Tindakan ini dikenal sebagai menggunakan reservasi. Untuk mengetahui informasi tentang cara menggunakan reservasi TPU saat menggunakan Google Kubernetes Engine (GKE), lihat Reservasi TPU dalam dokumentasi GKE.

Cara Anda menggunakan reservasi bergantung pada cara Anda membuat VM TPU. Anda dapat membuat instance VM TPU atau MIG dengan TPU.

Menggunakan reservasi saat membuat VM TPU

Saat membuat instance VM TPU, tentukan reservasi yang akan digunakan dengan menggunakan parameter --reservation-affinity dan --reservation:

  gcloud compute instances create TPU_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --reservation-affinity=specific \
    --reservation=projects/PROJECT_ID/reservations/RESERVATION_NAME \
    --provisioning-model=reservation-bound \
    --maintenance-policy=TERMINATE

Ganti placeholder berikut:

  • TPU_NAME: Nama VM TPU Anda.
  • MACHINE_TYPE: Jenis mesin untuk VM TPU (misalnya, ct6e-standard-8t).
  • IMAGE_FAMILY: Kelompok image OS untuk VM TPU. Jika Anda ingin menginstal versi OS tertentu, gunakan flag --image. Untuk mengetahui informasi selengkapnya tentang image OS, lihat Image OS.
  • IMAGE_PROJECT: Project yang berisi image OS. Untuk image TPU, ini adalah ubuntu-os-accelerator-images.
  • ZONE: Zona untuk VM TPU (misalnya, us-central1-b).
  • PROJECT_ID: ID project tempat pemesanan dibuat.
  • RESERVATION_NAME: Nama pemesanan yang diformat sebagai projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME.

Menggunakan reservasi saat membuat MIG

Ada dua jenis MIG yang dapat Anda buat dengan VM TPU:

  • MIG dengan slice host tunggal.
  • MIG dengan slice multi-host.

Menggunakan reservasi saat Anda membuat MIG dengan slice host tunggal

Untuk menggunakan pemesanan saat Anda membuat MIG dengan slice host tunggal, Anda menentukan pemesanan sebagai bagian dari template instance.

Untuk membuat MIG dengan slice host tunggal:

  1. Buat template instance
  2. Opsional: Buat kebijakan beban kerja
  3. Membuat MIG

Membuat template instance yang menggunakan reservasi

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
     --machine-type=MACHINE_TYPE \
     --maintenance-policy=TERMINATE \
     --instance-termination-action=DELETE \
     --reservation-affinity=specific \
     --provisioning-model=reservation-bound \
     --reservation=RESERVATION_NAME \
     --image-family=IMAGE_FAMILY \
     --image-project=IMAGE_PROJECT

Ganti placeholder berikut:

  • INSTANCE_TEMPLATE_NAME: Nama template instance Anda.
  • MACHINE_TYPE: Jenis mesin untuk VM TPU (misalnya, ct6e-standard-8t).
  • RESERVATION_NAME: Nama pemesanan yang diformat sebagai projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME.
  • IMAGE_FAMILY: Kelompok image OS untuk VM TPU. Jika Anda ingin menginstal versi OS tertentu, gunakan flag --image. Untuk mengetahui informasi selengkapnya tentang image OS, lihat Image OS.
  • IMAGE_PROJECT: Project yang berisi image OS. Untuk image TPU, ini adalah ubuntu-os-accelerator-images.

Buat MIG

Anda dapat membuat MIG zona atau MIG regional.

Membuat MIG zona
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --template=INSTANCE_TEMPLATE_NAME \
    --zone=ZONE

Ganti placeholder berikut:

  • MIG_NAME: Nama MIG Anda.
  • SIZE: Jumlah VM TPU di MIG.
  • INSTANCE_TEMPLATE_NAME: Nama template instance Anda.
  • ZONE: Zona tempat Anda ingin MIG disediakan.
Buat MIG regional
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --template=INSTANCE_TEMPLATE_NAME\
    --region=REGION \
    --target-distribution-shape=any

Ganti placeholder berikut:

  • MIG_NAME: Nama MIG Anda.
  • SIZE: Jumlah VM TPU di MIG.
  • INSTANCE_TEMPLATE_NAME: Nama template instance Anda.
  • REGION: Zona tempat Anda ingin MIG disediakan.

Untuk mengetahui informasi selengkapnya tentang tanda --target-distribution-shape, lihat Menetapkan bentuk distribusi target untuk VM di MIG regional.

Menggunakan reservasi saat Anda membuat MIG dengan slice multi-host

Untuk menggunakan pemesanan saat Anda membuat MIG dengan slice multi-host, Anda menentukan pemesanan sebagai bagian dari template instance.

Membuat template instance yang menggunakan reservasi

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
     --machine-type=MACHINE_TYPE \
     --maintenance-policy=TERMINATE \
     --instance-termination-action=DELETE \
     --reservation-affinity=specific \
     --provisioning-model=reservation-bound \
     --reservation=RESERVATION_NAME \
     --image-family=IMAGE_FAMILY \
     --image-project=IMAGE_PROJECT

Ganti placeholder berikut:

  • INSTANCE_TEMPLATE_NAME: Nama template instance Anda.
  • MACHINE_TYPE: Jenis mesin untuk VM TPU (misalnya, ct6e-standard-8t).
  • RESERVATION_NAME: Nama pemesanan yang diformat sebagai projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME.
  • IMAGE_FAMILY: Kelompok image OS untuk VM TPU. Jika Anda ingin menginstal versi OS tertentu, gunakan flag --image. Untuk mengetahui informasi selengkapnya tentang image OS, lihat Image OS.
  • IMAGE_PROJECT: Project yang berisi image OS. Untuk image TPU, ini adalah ubuntu-os-accelerator-images.

Membuat kebijakan beban kerja

Anda dapat menentukan kebijakan workload untuk MIG Anda. Untuk mengetahui informasi selengkapnya, lihat Kebijakan workload untuk MIG.

gcloud compute resource-policies create workload WORKLOAD_POLICY_NAME \
  --type=high-throughput \
  --accelerator-topology=TOPOLOGY

Ganti placeholder berikut:

  • WORKLOAD_POLICY_NAME: Nama untuk kebijakan workload Anda.
  • TOPOLOGY: Topologi VM TPU, misalnya, 4x4x8. Untuk mengetahui informasi selengkapnya tentang topologi untuk setiap versi TPU, lihat Versi TPU.

Buat MIG

Anda dapat membuat MIG regional atau zona.

Membuat MIG zona
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --target-size-policy-mode=bulk \
    --default-action-on-vm-failure=do-nothing \
    --template=INSTANCE_TEMPLATE_URL \
    --zone=ZONE \
    --workload-policy=WORKLOAD_POLICY_URL

Ganti placeholder berikut:

  • MIG_NAME: Nama MIG Anda.
  • SIZE: Jumlah VM TPU di MIG.
  • INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
    • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Untuk template instance global: INSTANCE_TEMPLATE_ID
  • ZONE: Zona tempat Anda ingin MIG disediakan.
  • WORKLOAD_POLICY_URL: URL kebijakan beban kerja yang ingin Anda gunakan untuk membuat instance di MIG. Contoh: projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME
Buat MIG regional
gcloud compute instance-groups managed create MIG_NAME \
    --size=SIZE \
    --target-size-policy-mode=bulk \
    --default-action-on-vm-failure=do-nothing \
    --template=INSTANCE_TEMPLATE_URL \
    --zone=ZONE \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none \
    --workload-policy=WORKLOAD_POLICY_URL

Ganti placeholder berikut:

  • MIG_NAME: Nama MIG Anda.
  • SIZE: Jumlah VM TPU di MIG.
  • INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
    • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Untuk template instance global: INSTANCE_TEMPLATE_ID
  • ZONE: Zona tempat Anda ingin MIG disediakan.
  • WORKLOAD_POLICY_URL: URL kebijakan beban kerja yang ingin Anda gunakan untuk membuat instance di MIG. Contoh: projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME

Memeriksa penggunaan reservasi

Anda hanya dapat memeriksa penggunaan pemesanan bersama dari project pemiliknya. Jika Anda berada di project konsumen, Anda harus beralih ke project pemilik untuk memeriksa penggunaan reservasi.

Untuk melihat seberapa banyak pemesanan yang digunakan, gunakan perintah gcloud compute reservations describe:

gcloud compute reservations describe RESERVATION_NAME \
    --project=PROJECT_ID --zone=ZONE

Ganti variabel placeholder berikut:

  • RESERVATION_NAME: Nama pemesanan.
  • PROJECT_ID: ID project yang berisi pemesanan.
  • ZONE: Zona tempat pemesanan berada.

Untuk mencantumkan semua reservasi dalam project, gunakan perintah gcloud compute reservations list:

gcloud compute reservations list --project=PROJECT_ID

Ganti variabel placeholder berikut:

  • PROJECT_ID: ID project.

Langkah berikutnya