TPU prerilasciabili

Importante: le VM spot TPU sono l'ultima versione delle TPU prerilasciabili. Le TPU prerilasciabili sia nuove che esistenti continuano a essere supportate, utilizzando lo stesso modello di prezzi delle VM spot TPU. Tuttavia, le VM spot TPU forniscono nuove funzionalità che le TPU prerilasciabili non supportano. Ad esempio, le VM spot TPU non hanno il limite di runtime di 24 ore delle TPU prerilasciabili. Per maggiori informazioni, consulta Gestire le VM spot TPU.

Nota: questa pagina si applica all'API Cloud TPU. Per Ironwood (TPU7x), devi utilizzare Google Kubernetes Engine (GKE). Per maggiori informazioni, consulta Informazioni sulle TPU in GKE.

Le TPU prerilasciabili costano molto meno delle TPU non prerilasciabili. Il servizio Cloud TPU potrebbe prerilasciare (arrestare) queste TPU in qualsiasi momento, se richiede risorse TPU aggiuntive.

Creare una VM TPU prerilasciabile

gcloud

$ gcloud compute tpus tpu-vm create demo-tpu \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.17.1-pjrt \
  --preemptible
  

dove:

• demo-tpu è un nome per la TPU.
• accelerator-type è il tipo di TPU. Per maggiori informazioni sui tipi di acceleratore supportati per ogni versione della TPU, consulta Versioni della TPU.
• version è la versione software di Cloud TPU da installare.
• preemptible consente a Cloud TPU di prerilasciare la TPU.

Prezzi e quota per le TPU prerilasciabili

I prezzi per le TPU prerilasciabili sono notevolmente inferiori rispetto a quelli delle TPU normali. Per i dettagli, consulta la pagina dei prezzi. Non viene addebitato alcun costo per le TPU che vengono prerilasciate nel primo minuto dopo la creazione.

La quota per le TPU prerilasciabili è generalmente più alta ed è separata dalla quota per le TPU normali. Consulta la pagina delle quote.

Rilevare se una TPU è stata prerilasciata

Utilizza il seguente comando gcloud per verificare se il servizio Cloud TPU ha prerilasciato la tua TPU:

Elenca le TPU disponibili:

gcloud compute tpus tpu-vm list
  --zone=us-central1-b
  

L'output del comando mostra i dettagli delle TPU create nel tuo progetto. Se una TPU è stata prerilasciata, lo stato cambia da READY a PREEMPTED.

Ad esempio:

NAME       ZONE           ACCELERATOR_TYPE  NETWORK_ENDPOINT   NETWORK  RANGE          STATUS
demo-tpu   us-central1-b  v2-8              10.240.1.2:8470    default  10.240.1.0/29  PREEMPTED

Nota: se la tua Cloud TPU viene prerilasciata, devi eliminarla e crearne una nuova come descritto in Gestire le TPU.

Progettare l'applicazione di machine learning per l'esecuzione su TPU prerilasciabili

Assicurati che l'applicazione sia resiliente ai riavvii della VM e della TPU salvando regolarmente i checkpoint del modello e configurando l'applicazione in modo che ripristini il checkpoint più recente al riavvio.