Solicita VMs Spot de TPU

Las VMs Spot ofrecen capacidad sin usar a tarifas con descuentos significativos. Si bien las VMs Spot se pueden interrumpir en cualquier momento, no tienen una duración máxima del tiempo de ejecución, a diferencia de las TPUs interrumpibles. Para reiniciar una instancia de VM Spot o un MIG, debes borrarla y, luego, volver a crearla.

Para obtener más información sobre las VMs Spot, consulta la documentación de Compute Engine sobre las VMs Spot.

Crea VMs Spot de la TPU

Puedes crear VM Spot de TPU como instancias individuales o como parte de un grupo de instancias administrado (MIG).

Para crear VMs Spot de TPU con un MIG, especifica el modelo de aprovisionamiento de Spot en tu plantilla de instancias.

  1. Crea una plantilla de instancias:

        gcloud compute instance-templates create TEMPLATE_NAME \
        --provisioning-model=SPOT \
        --instance-termination-action=DELETE \
        --machine-type=MACHINE_TYPE \
        --image-family=IMAGE_FAMILY \
        --image-project=IMAGE_PROJECT \
        --zone=ZONE \
        --maintenance-policy=TERMINATE

    Reemplaza los marcadores de posición que se indican más abajo:

    • TEMPLATE_NAME: Es el nombre de la plantilla de instancias.
    • MACHINE_TYPE: Es el tipo de máquina de la VM.
    • IMAGE_FAMILY: Es la familia de imagen de SO para la VM de TPU.
    • IMAGE_PROJECT: Es el proyecto de imagen de SO para la VM de TPU.
    • ZONE: Es la zona en la que se crea la plantilla de instancias.

  2. Crea una política de cargas de trabajo

    El siguiente comando crea una política de cargas de trabajo. Esto es opcional para las segmentaciones de un solo host.

    gcloud compute resource-policies create workload WORKLOAD_POLICY_NAME \
--type=high-throughput \
--accelerator-topology=TOPOLOGY

    Reemplaza los marcadores de posición que se indican más abajo:

    • WORKLOAD_POLICY_NAME: Es el nombre de tu política de carga de trabajo.
    • TOPOLOGY: Es la topología de las VMs de TPU, por ejemplo, 4x4x8.

  3. Crea el MIG:

        gcloud compute instance-groups managed create MIG_NAME \
        --zone=ZONE \
        --template=TEMPLATE_NAME \
        --size=SIZE \
        --workload-policy=projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME

    Reemplaza los marcadores de posición que se indican más abajo:

    • MIG_NAME: el nombre del MIG
    • ZONE: Es la zona en la que se crea el MIG.
    • TEMPLATE_NAME: Es el nombre de la plantilla de instancias.
    • SIZE: Es la cantidad de instancias en el MIG.
    • PROJECT_ID: Es el ID de tu proyecto de Google Cloud .
    • WORKLOAD_POLICY_REGION: Es la región en la que se define la política de carga de trabajo.
    • WORKLOAD_POLICY_NAME: Es el nombre de tu política de carga de trabajo.

Usa VMs de TPU únicas

También puedes crear VMs Spot de TPU individuales.

gcloud compute instances create TPU_NAME \
    --zone=ZONE \
    --provisioning-model=SPOT \
    --instance-termination-action=DELETE \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --maintenance-policy=TERMINATE

Reemplaza los marcadores de posición que se indican más abajo:

  • TPU_NAME: Es el nombre de la TPU.
  • ZONE: Es la zona en la que se crea la TPU.
  • MACHINE_TYPE: Es el tipo de máquina de la VM.
  • IMAGE_FAMILY: Es la familia de imágenes de la plantilla de instancias.
  • IMAGE_PROJECT: Es el proyecto de imagen de SO para la VM de TPU.

Para obtener más información sobre las VMs Spot en Compute Engine, consulta VMs Spot.

Precios y cuota

Los precios de las VMs Spot de TPU son significativamente más bajos que los de las TPU reservadas y a pedido. Para obtener más información sobre los precios, consulta Precios de Cloud TPU.

Necesitas una cuota interrumpible para usar las VMs Spot de la TPU. Para obtener más información, consulta Cuotas.

¿Qué sigue?