TPU preemptible

Penting: VM Spot TPU adalah versi terbaru dari TPU yang dapat di-preempt. TPU preemptible yang baru dan yang sudah ada akan tetap didukung, dan TPU Spot VM menggunakan model harga yang sama dengan TPU preemptible. Namun, TPU Spot VM menyediakan fitur baru yang tidak didukung oleh TPU preemptible. Misalnya, TPU Spot VM tidak memiliki batas waktu berjalan 24 jam seperti TPU preemptible. Untuk mengetahui informasi selengkapnya, lihat Mengelola Spot VM TPU.

Catatan: Halaman ini berlaku untuk Cloud TPU API. Untuk Ironwood (TPU7x), Anda harus menggunakan Google Kubernetes Engine (GKE). Untuk mengetahui informasi selengkapnya, lihat Tentang TPU di GKE.

TPU preemptible jauh lebih murah daripada TPU non-preemptible. Layanan Cloud TPU dapat menghentikan (mematikan) TPU ini kapan saja, jika memerlukan resource TPU tambahan.

Membuat preemptible TPU VM

gcloud

$ gcloud compute tpus tpu-vm create demo-tpu \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.17.1-pjrt \
  --preemptible
  

dengan:

• demo-tpu adalah nama untuk TPU.
• accelerator-type adalah jenis TPU. Untuk mengetahui informasi selengkapnya tentang jenis akselerator yang didukung untuk setiap versi TPU, lihat Versi TPU.
• version adalah versi software Cloud TPU yang akan diinstal.
• preemptible memungkinkan Cloud TPU menghentikan TPU.

Harga dan kuota untuk TPU preemptible

Harga untuk TPU yang dapat diakhiri jauh lebih rendah daripada untuk TPU normal. Untuk mengetahui detailnya, lihat halaman harga. Anda tidak akan dikenai biaya untuk TPU jika TPU di-preempt dalam menit pertama setelah Anda membuatnya.

Kuota untuk TPU yang dapat diakhiri umumnya lebih tinggi, dan terpisah dari kuota untuk TPU normal. Lihat halaman kuota.

Mendeteksi apakah TPU telah di-preempt

Anda menggunakan perintah gcloud berikut untuk memeriksa apakah layanan Cloud TPU telah mendahului TPU Anda:

Mencantumkan TPU yang tersedia:

gcloud compute tpus tpu-vm list
  --zone=us-central1-b
  

Output perintah menampilkan detail TPU yang dibuat di project Anda. Jika TPU telah di-preempt, statusnya akan berubah dari READY menjadi PREEMPTED.

Contoh:

NAME       ZONE           ACCELERATOR_TYPE  NETWORK_ENDPOINT   NETWORK  RANGE          STATUS
demo-tpu   us-central1-b  v2-8              10.240.1.2:8470    default  10.240.1.0/29  PREEMPTED

Catatan: Jika Cloud TPU Anda diakhiri, Anda harus menghapusnya dan membuat yang baru seperti yang dijelaskan dalam Mengelola TPU.

Mendesain aplikasi machine learning Anda untuk dijalankan di TPU yang dapat di-preempt

Pastikan aplikasi Anda tahan terhadap mulai ulang VM dan TPU, dengan menyimpan checkpoint model secara rutin dan mengonfigurasi aplikasi Anda untuk memulihkan checkpoint terbaru saat dimulai ulang.