TPUs interrumpibles

Importante: Las VMs de TPU de Spot son la versión más reciente de las TPUs preemptivas. Las TPUs interrumpibles nuevas y las que ya existen se siguen admitiendo, y las VMs de TPU de Spot usan el mismo modelo de precios que las TPUs interrumpibles. Sin embargo, las VMs Spot de TPU ofrecen nuevas funciones que las TPUs preemptivas no admiten. Por ejemplo, las VMs de TPU Spot no tienen el límite de tiempo de ejecución de 24 horas de las TPUs interrumpibles. Para obtener más información, consulta Gestionar VMs de acceso puntual de TPU.

Nota: Esta página se aplica a la API de TPU de Cloud. En el caso de Ironwood (TPU7x), debes usar Google Kubernetes Engine (GKE). Para obtener más información, consulta Información sobre las TPUs en GKE.

Las TPU no garantizadas cuestan mucho menos que las TPU garantizadas. El servicio TPU de Cloud puede interrumpir (apagar) estas TPUs en cualquier momento si necesita recursos adicionales.

Crear una VM de TPU no garantizada

gcloud

$ gcloud compute tpus tpu-vm create demo-tpu \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.17.1-pjrt \
  --preemptible
  

donde:

• demo-tpu es el nombre de la TPU.
• accelerator-type es el tipo de TPU. Para obtener más información sobre los tipos de aceleradores compatibles con cada versión de TPU, consulta Versiones de TPU.
• version es la versión de software de TPU de Cloud que se va a instalar.
• preemptible permite que Cloud TPU interrumpa la TPU.

Precios y cuotas de las TPUs no garantizadas

Los precios de las TPU no garantizadas son considerablemente más bajos que los de las TPU normales. Para obtener más información, consulta la página de precios. No se te cobrará por las TPUs si se cancelan durante el primer minuto después de crearlas.

La cuota de las TPU no garantizadas suele ser más alta y es independiente de la cuota de las TPU normales. Consulta la página de cuotas.

Detectar si se ha interrumpido una TPU

Usa el siguiente comando gcloud para comprobar si el servicio TPU de Cloud ha desalojado tu TPU:

Lista de las TPUs disponibles:

gcloud compute tpus tpu-vm list
  --zone=us-central1-b
  

El resultado del comando muestra los detalles de las TPUs creadas en tu proyecto. Si se ha retirado una TPU, el estado cambia de READY a PREEMPTED.

Por ejemplo:

NAME       ZONE           ACCELERATOR_TYPE  NETWORK_ENDPOINT   NETWORK  RANGE          STATUS
demo-tpu   us-central1-b  v2-8              10.240.1.2:8470    default  10.240.1.0/29  PREEMPTED

Nota: Si tu TPU de Cloud se interrumpe, debes eliminarla y crear una nueva, tal como se describe en Gestionar TPUs.

Diseñar una aplicación de aprendizaje automático para que se ejecute en TPUs interrumpibles

Asegúrate de que tu aplicación sea resistente a los reinicios de la VM y la TPU guardando puntos de control del modelo con regularidad y configurando tu aplicación para que restaure el punto de control más reciente al reiniciarse.