TPU prerilasciabili

Importante: le VM spot TPU sono l'ultima versione delle TPU prerilasciabili. Le TPU prerilasciabili sia nuove che esistenti continuano a essere supportate e le VM spot TPU utilizzano lo stesso modello di prezzi delle TPU prerilasciabili. Tuttavia, le VM spot TPU forniscono nuove funzionalità che le TPU prerilasciabili non supportano. Ad esempio, le VM spot TPU non hanno il limite di tempo di esecuzione di 24 ore delle TPU prerilasciabili. Per ulteriori informazioni, consulta Gestire le VM spot TPU.

Nota:questa pagina si applica all'API Cloud TPU. Per Ironwood (TPU7x), devi utilizzare Google Kubernetes Engine (GKE). Per maggiori informazioni, consulta Informazioni sulle TPU in GKE.

Le TPU prerilasciabili costano molto meno delle TPU non prerilasciabili. Il servizio Cloud TPU potrebbe prerilasciare (arrestare) queste TPU in qualsiasi momento, se richiede risorse TPU aggiuntive.

Creazione di una VM TPU preemptible

gcloud

$ gcloud compute tpus tpu-vm create demo-tpu \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.17.1-pjrt \
  --preemptible
  

dove:

• demo-tpu è un nome per la TPU.
• accelerator-type è il tipo di TPU. Per ulteriori informazioni sui tipi di acceleratore supportati per ogni versione della TPU, consulta Versioni della TPU.
• version è la versione software Cloud TPU da installare.
• preemptible consente a Cloud TPU di prerilasciare la TPU.

Prezzi e quota per le TPU prerilasciabili

I prezzi delle TPU prerilasciabili sono significativamente inferiori rispetto a quelli delle TPU normali. Per maggiori dettagli, consulta la pagina dei prezzi. Non viene addebitato alcun costo per le TPU che vengono prerilasciate nel primo minuto dopo la creazione.

La quota per le TPU prerilasciabili è generalmente più alta ed è separata dalla quota per le TPU normali. Consulta la pagina delle quote.

Rilevamento del prerilascio di una TPU

Utilizza il seguente comando gcloud per verificare se il servizio Cloud TPU ha eseguito il preempt della tua TPU:

Elenca le TPU disponibili:

gcloud compute tpus tpu-vm list
  --zone=us-central1-b
  

L'output del comando mostra i dettagli delle TPU create nel tuo progetto. Se una TPU è stata interrotta, lo stato cambia da READY a PREEMPTED.

Ad esempio:

NAME       ZONE           ACCELERATOR_TYPE  NETWORK_ENDPOINT   NETWORK  RANGE          STATUS
demo-tpu   us-central1-b  v2-8              10.240.1.2:8470    default  10.240.1.0/29  PREEMPTED

Nota: se la tua Cloud TPU viene prerilasciata, devi eliminarla e crearne una nuova come descritto in Gestione delle TPU.

Progettare l'applicazione di machine learning per l'esecuzione su TPU prerilasciabili

Assicurati che l'applicazione sia resiliente ai riavvii della VM e della TPU salvando regolarmente i checkpoint del modello e configurando l'applicazione in modo che ripristini il checkpoint più recente al riavvio.