Meminta Spot VM TPU

Spot VM menawarkan kapasitas yang tidak digunakan dengan tarif yang didiskon secara signifikan. Meskipun Spot VM dapat di-preempt kapan saja, Spot VM tidak memiliki durasi runtime maksimum, tidak seperti TPU preemptible. Untuk memulai ulang instance atau MIG Spot VM, Anda harus menghapusnya, lalu membuatnya kembali.

Untuk mengetahui informasi selengkapnya tentang Spot VM, lihat dokumentasi Compute Engine tentang Spot VM.

Membuat Spot VM TPU

Anda dapat membuat Spot VM TPU sebagai instance individual atau sebagai bagian dari grup instance terkelola (MIG).

Menggunakan MIG untuk slice multi-host (Direkomendasikan)

Untuk membuat Spot VM TPU dengan MIG, tentukan model penyediaan Spot di template instance Anda.

1. Buat template instance:

       gcloud compute instance-templates create TEMPLATE_NAME \
           --provisioning-model=SPOT \
           --instance-termination-action=DELETE \
           --machine-type=MACHINE_TYPE \
           --image-family=IMAGE_FAMILY \
           --image-project=IMAGE_PROJECT \
           --zone=ZONE \
           --maintenance-policy=TERMINATE
   

   Ganti placeholder berikut:

   • TEMPLATE_NAME: Nama template instance.
   • MACHINE_TYPE: Jenis mesin VM.
   • IMAGE_FAMILY: Keluarga image OS untuk VM TPU.
   • IMAGE_PROJECT: Project image OS untuk VM TPU.
   • ZONE: Zona tempat template instance dibuat.

2. Buat kebijakan workload

   Perintah berikut akan membuat kebijakan workload. Kebijakan ini bersifat opsional untuk slice host tunggal.

   gcloud compute resource-policies create workload WORKLOAD_POLICY_NAME \
   --type=high-throughput \
   --accelerator-topology=TOPOLOGY
   

   Ganti placeholder berikut:

   • WORKLOAD_POLICY_NAME: Nama kebijakan workload Anda.
   • TOPOLOGY: Topologi VM TPU, misalnya, 4x4x8.

3. Buat MIG:

       gcloud compute instance-groups managed create MIG_NAME \
           --zone=ZONE \
           --template=TEMPLATE_NAME \
           --size=SIZE \
           --workload-policy=projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME
   

   Ganti placeholder berikut:

   • MIG_NAME: Nama MIG.
   • ZONE: Zona tempat MIG dibuat.
   • TEMPLATE_NAME: Nama template instance.
   • SIZE: Jumlah instance dalam MIG.
   • PROJECT_ID: ID Google Cloud project Anda.
   • WORKLOAD_POLICY_REGION: Region tempat kebijakan workload ditentukan.
   • WORKLOAD_POLICY_NAME: Nama kebijakan workload Anda.
   Catatan: Untuk slice TPU multi-host, Anda harus menentukan kebijakan workload dan menggunakan flag --target-size-policy-mode=bulk saat membuat MIG untuk memastikan semua VM dibuat di jaringan yang sama dan dapat berkomunikasi.

Menggunakan VM TPU tunggal

Anda juga dapat membuat Spot VM TPU tunggal.

gcloud compute instances create TPU_NAME \
    --zone=ZONE \
    --provisioning-model=SPOT \
    --instance-termination-action=DELETE \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --maintenance-policy=TERMINATE

Ganti placeholder berikut:

• TPU_NAME: Nama TPU.
• ZONE: Zona tempat TPU dibuat.
• MACHINE_TYPE: Jenis mesin VM.
• IMAGE_FAMILY: Keluarga image template instance.
• IMAGE_PROJECT: Project image OS untuk VM TPU.

Untuk mengetahui informasi selengkapnya tentang Spot VM di Compute Engine, lihat Spot VM.

Harga dan kuota

Harga untuk Spot VM TPU jauh lebih rendah daripada harga untuk TPU sesuai permintaan dan yang dicadangkan. Untuk mengetahui informasi selengkapnya tentang harga, lihat Harga Cloud TPU.

Anda memerlukan kuota preemptible untuk menggunakan Spot VM TPU. Untuk mengetahui informasi selengkapnya, lihat Kuota.

Langkah berikutnya

• Pelajari cara mengelola TPU