TPU preemptible

Penting: TPU Spot VM adalah versi terbaru dari TPU preemptible. TPU preemptible yang baru dan yang sudah ada akan tetap didukung, dan TPU Spot VM menggunakan model harga yang sama dengan TPU preemptible. Namun, TPU Spot VM menyediakan fitur baru yang tidak didukung oleh TPU preemptible. Misalnya, TPU Spot VM tidak memiliki batas waktu proses 24 jam seperti TPU preemptible. Untuk mengetahui informasi selengkapnya, lihat Mengelola TPU Spot VM.

Catatan: Halaman ini berlaku untuk Cloud TPU API. Untuk Ironwood (TPU7x), Anda harus menggunakan Google Kubernetes Engine (GKE). Untuk mengetahui informasi selengkapnya, lihat Tentang TPU di GKE.

TPU preemptible harganya jauh lebih murah daripada TPU non-preemptible. Layanan Cloud TPU dapat mengakhiri (menutup) TPU ini kapan saja, jika memerlukan resource TPU tambahan.

Membuat VM TPU preemptible

gcloud

$ gcloud compute tpus tpu-vm create demo-tpu \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.17.1-pjrt \
  --preemptible
  

dengan:

• demo-tpu adalah nama untuk TPU.
• accelerator-type adalah jenis TPU. Untuk mengetahui informasi selengkapnya tentang jenis akselerator yang didukung untuk setiap versi TPU, lihat Versi TPU.
• version adalah versi software Cloud TPU yang akan diinstal.
• preemptible memungkinkan Cloud TPU mengakhiri TPU.

Harga dan kuota untuk TPU preemptible

Harga untuk TPU preemptible jauh lebih rendah daripada harga untuk TPU normal. Untuk mengetahui detailnya, lihat halaman harga. Anda tidak akan dikenai biaya jika TPU diakhiri dalam menit pertama setelah membuatnya.

Kuota untuk TPU preemptible umumnya lebih tinggi, dan terpisah dari kuota untuk TPU normal. Lihat halaman kuota.

Mendeteksi apakah TPU telah diakhiri

Anda menggunakan perintah gcloud berikut untuk memeriksa apakah layanan Cloud TPU telah mengakhiri TPU Anda:

Cantumkan TPU yang tersedia:

gcloud compute tpus tpu-vm list
  --zone=us-central1-b
  

Output perintah akan menampilkan detail TPU yang dibuat di project Anda. Jika TPU telah diakhiri, statusnya akan berubah dari READY menjadi PREEMPTED.

Contoh:

NAME       ZONE           ACCELERATOR_TYPE  NETWORK_ENDPOINT   NETWORK  RANGE          STATUS
demo-tpu   us-central1-b  v2-8              10.240.1.2:8470    default  10.240.1.0/29  PREEMPTED

Catatan: Jika Cloud TPU Anda diakhiri, Anda harus menghapusnya dan membuat yang baru seperti yang dijelaskan dalam Mengelola TPU.

Mendesain aplikasi machine learning untuk dijalankan di TPU preemptible

Pastikan aplikasi Anda tahan terhadap memulai ulang VM dan TPU, dengan menyimpan checkpoint model secara rutin dan mengonfigurasi aplikasi untuk memulihkan checkpoint terbaru saat dimulai ulang.