先占 TPU

先占 TPU 的價格遠低於非先占 TPU。如果需要更多 TPU 資源，Cloud TPU 服務可能會隨時先占 (關閉) 這些 TPU。

建立先占 TPU VM

gcloud

$ gcloud compute tpus tpu-vm create demo-tpu \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.17.1-pjrt \
  --preemptible

其中：

  • demo-tpu 是 TPU 的名稱。
  • accelerator-type 是 TPU 的類型。如要進一步瞭解各個 TPU 版本支援的加速器類型，請參閱「TPU 版本」。
  • version 是要安裝的 Cloud TPU 軟體版本。
  • preemptible 允許 Cloud TPU 先佔 TPU。

先占 TPU 的價格和配額

先佔 TPU 的價格遠低於一般 TPU。詳情請參閱定價頁面。如果 TPU 在建立後的一分鐘內即已先占，該 TPU 就不會產生費用。

先佔 TPU 的配額一般較高，並與一般 TPU 的配額分開。請參閱配額頁面。

偵測 TPU 是否遭到先佔

您可以使用下列 gcloud 指令，檢查 Cloud TPU 服務是否已先佔 TPU：

列出您的可用 TPU：

gcloud compute tpus tpu-vm list
  --zone=us-central1-b

指令輸出內容會顯示專案中建立的 TPU 詳細資料。如 TPU 遭到先佔，狀態就會由 READY 變更為 PREEMPTED。

例如：

NAME       ZONE           ACCELERATOR_TYPE  NETWORK_ENDPOINT   NETWORK  RANGE          STATUS
demo-tpu   us-central1-b  v2-8              10.240.1.2:8470    default  10.240.1.0/29  PREEMPTED

設計機器學習應用程式，在可搶占式 TPU 上執行

請確保您的應用程式能在 VM 及 TPU 重新啟動時恢復，方法為定期儲存模型檢查點，並設定應用程式在重新啟動時還原為最新檢查點。