TPUs preemptivas

Importante: as VMs spot de TPU são a versão mais recente das TPUs preemptivas. As TPUs preemptivas novas e atuais continuam sendo aceitas, e as VMs spot de TPU usam o mesmo modelo de preços que as TPUs preemptivas. No entanto, as VMs spot de TPU oferecem novos recursos que as TPUs preemptivas não aceitam. Por exemplo, as VMs spot de TPU não têm o limite de execução de 24 horas das TPUs preemptivas. Para mais informações, consulte Gerenciar VMs spot de TPU.

As TPUs preemptivas custam muito menos do que as não preventivas. O serviço do Cloud TPU poderá forçar a interrupção (encerrar) essas TPUs a qualquer momento se outros recursos de TPU forem necessários.

Como criar uma VM de TPU preemptiva

gcloud

$ gcloud compute tpus tpu-vm create demo-tpu \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.17.1-pjrt \
  --preemptible
  

em que:

• demo-tpu é um nome para a TPU.
• accelerator-type é o tipo da TPU. Para mais informações sobre tipos de aceleradores disponíveis com cada versão de TPU, consulte Versões de TPU.
• version é a versão do software do Cloud TPU a ser instalada.
• preemptible permite que o Cloud TPU force a interrupção da TPU.

Preços e cotas para TPUs preemptivas

O preço das TPUs preemptíveis é significativamente menor do que das TPUs normais. Para detalhes, consulte a página de preços. Não haverá cobranças pelas TPUs caso elas sejam interrompidas no primeiro minuto após a criação.

Geralmente, a cota para TPUs preemptivas é maior e contabilizada separadamente da cota para TPUs normais. Consulte a página de cotas.

Como descobrir se uma TPU foi interrompida

Use o comando gcloud abaixo para verificar se o serviço do Cloud TPU interrompeu sua TPU:

Liste as TPUs disponíveis:

gcloud compute tpus tpu-vm list
  --zone=us-central1-b
  

A saída do comando mostra os detalhes das TPUs criadas no projeto. Se uma TPU for interrompida, o status mudará de READY para PREEMPTED.

Por exemplo:

NAME       ZONE           ACCELERATOR_TYPE  NETWORK_ENDPOINT   NETWORK  RANGE          STATUS
demo-tpu   us-central1-b  v2-8              10.240.1.2:8470    default  10.240.1.0/29  PREEMPTED

Observação: se o Cloud TPU for interrompido, exclua-o e criar um novo, conforme descrito em Como gerenciar TPUs.

Como projetar um aplicativo de machine learning executável em TPUs preemptivas

Seu aplicativo precisa ser resiliente a reinicializações da VM e da TPU. Para isso, salve regularmente os checkpoints do modelo e configure o aplicativo para restaurar o checkpoint mais recente após a reinicialização.