TPUs preemptivas

As TPUs preemptivas custam muito menos do que as TPUs não preemptivas. O serviço Cloud TPU pode antecipar (encerrar) estas TPUs em qualquer altura, se precisar de recursos de TPU adicionais.

Criar uma VM de TPU preemptível

gcloud

$ gcloud compute tpus tpu-vm create demo-tpu \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.17.1-pjrt \
  --preemptible

where:

  • demo-tpu é um nome para a TPU.
  • accelerator-type é o tipo de TPU. Para mais informações sobre os tipos de aceleradores suportados para cada versão da TPU, consulte o artigo Versões da TPU.
  • version é a versão do software do Cloud TPU a instalar.
  • preemptible permite que o Cloud TPU interrompa a TPU.

Preços e quota para TPUs preemptíveis

O preço das TPUs preemptivas é significativamente inferior ao das TPUs normais. Para ver detalhes, consulte a página de preços. Não lhe é cobrado qualquer valor pelas TPUs se forem antecipadas no primeiro minuto após a respetiva criação.

Geralmente, a quota para TPUs preemptíveis é superior e está separada da quota para TPUs normais. Consulte a página de quotas.

Detetar se uma TPU foi anulada

Use o seguinte comando gcloud para verificar se o serviço Cloud TPU antecipou a sua TPU:

Liste as TPUs disponíveis:

gcloud compute tpus tpu-vm list
  --zone=us-central1-b

O resultado do comando apresenta os detalhes das UTPs criadas no seu projeto. Se uma TPU tiver sido anulada, o estado muda de READY para PREEMPTED.

Por exemplo: 

NAME       ZONE           ACCELERATOR_TYPE  NETWORK_ENDPOINT   NETWORK  RANGE          STATUS
demo-tpu   us-central1-b  v2-8              10.240.1.2:8470    default  10.240.1.0/29  PREEMPTED

Conceber a sua aplicação de aprendizagem automática para ser executada em TPUs preemptíveis

Certifique-se de que a sua aplicação é resiliente a reinícios da VM e da TPU, guardando regularmente pontos de verificação do modelo e configurando a aplicação para restaurar o ponto de verificação mais recente no reinício.