TPU preemptible

Penting: TPU Spot VM adalah versi terbaru dari TPU yang dapat di-preempt. TPU preemptible yang baru dan yang sudah ada akan tetap didukung, dan VM Spot TPU menggunakan model harga yang sama dengan TPU preemptible. Namun, TPU Spot VM menyediakan fitur baru yang tidak didukung oleh TPU preemptible. Misalnya, TPU Spot VM tidak memiliki batas waktu berjalan 24 jam seperti TPU preemptible. Untuk mengetahui informasi selengkapnya, lihat Mengelola Spot VM TPU.

Perhatian: Halaman ini berlaku untuk Cloud TPU API, yang tidak lagi dalam pengembangan aktif. Cloud TPU API hanya akan menerima perbaikan bug dan update keamanan. Untuk fitur terbaru dan dukungan untuk versi TPU terbaru, sebaiknya gunakan Compute Engine atau Google Kubernetes Engine untuk mengelola resource TPU. Untuk mengetahui informasi selengkapnya, lihat Resource TPU di Compute Engine dan Tentang TPU di GKE. The Cloud TPU API tidak didukung di TPU7x dan versi TPU yang lebih baru.

TPU preemptible jauh lebih murah daripada TPU non-preemptible. Layanan Cloud TPU dapat menghentikan (mematikan) TPU ini kapan saja, jika memerlukan resource TPU tambahan.

Membuat preemptible TPU VM

gcloud

$ gcloud compute tpus tpu-vm create demo-tpu \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.17.1-pjrt \
  --preemptible
  

dengan:

• demo-tpu adalah nama untuk TPU.
• accelerator-type adalah jenis TPU. Untuk mengetahui informasi selengkapnya tentang jenis akselerator yang didukung untuk setiap versi TPU, lihat Versi TPU.
• version adalah versi software Cloud TPU yang akan diinstal.
• preemptible memungkinkan Cloud TPU menghentikan TPU.

Harga dan kuota untuk TPU preemptible

Harga untuk TPU yang dapat diakhiri jauh lebih rendah daripada harga untuk TPU normal. Untuk mengetahui detailnya, lihat halaman harga. Anda tidak akan dikenai biaya jika TPU di-preempt dalam menit pertama setelah Anda membuatnya.

Kuota untuk TPU yang dapat diakhiri umumnya lebih tinggi, dan terpisah dari kuota untuk TPU normal. Lihat halaman kuota.

Mendeteksi apakah TPU telah di-preempt

Anda menggunakan perintah gcloud berikut untuk memeriksa apakah layanan Cloud TPU telah mendahului TPU Anda:

Mencantumkan TPU yang tersedia:

gcloud compute tpus tpu-vm list
  --zone=us-central1-b
  

Output perintah menampilkan detail TPU yang dibuat di project Anda. Jika TPU telah di-preempt, statusnya akan berubah dari READY menjadi PREEMPTED.

Contoh:

NAME       ZONE           ACCELERATOR_TYPE  NETWORK_ENDPOINT   NETWORK  RANGE          STATUS
demo-tpu   us-central1-b  v2-8              10.240.1.2:8470    default  10.240.1.0/29  PREEMPTED

Catatan: Jika Cloud TPU Anda di-preempt, Anda harus menghapusnya dan membuat yang baru seperti yang dijelaskan dalam Mengelola TPU.

Mendesain aplikasi machine learning Anda untuk dijalankan di TPU yang dapat di-preempt

Pastikan aplikasi Anda tahan terhadap mulai ulang VM dan TPU, dengan menyimpan checkpoint model secara rutin dan mengonfigurasi aplikasi Anda untuk memulihkan checkpoint terbaru saat dimulai ulang.