Richiedi VM spot TPU

Le VM spot offrono capacità inutilizzata a tariffe scontate in modo significativo. Sebbene le VM spot siano prerilasciabili in qualsiasi momento, non hanno una durata massima di esecuzione, a differenza delle TPU prerilasciabili. Per riavviare un'istanza o un MIG di VM spot, devi eliminarlo e poi ricrearlo.

Per ulteriori informazioni sulle VM spot, consulta la documentazione di Compute Engine sulle VM spot.

Crea VM spot TPU

Puoi creare VM spot TPU come singole istanze o come parte di un gruppo di istanze gestite (MIG).

Per creare VM spot TPU con un MIG, specifica il modello di provisioning spot nel modello di istanza.

  1. Crea un template di istanza:

        gcloud compute instance-templates create TEMPLATE_NAME \
        --provisioning-model=SPOT \
        --instance-termination-action=DELETE \
        --machine-type=MACHINE_TYPE \
        --image-family=IMAGE_FAMILY \
        --image-project=IMAGE_PROJECT \
        --zone=ZONE \
        --maintenance-policy=TERMINATE

    Sostituisci i seguenti segnaposto:

    • TEMPLATE_NAME: il nome del template di istanza.
    • MACHINE_TYPE: il tipo di macchina della VM.
    • IMAGE_FAMILY: la famiglia di immagini del sistema operativo per la VM TPU.
    • IMAGE_PROJECT: il progetto di immagini del sistema operativo per la VM TPU.
    • ZONE: la zona in cui viene creato il modello di istanza.

  2. Crea una policy del workload

    Il seguente comando crea una policy del workload. Questo passaggio è facoltativo per le slice a host singolo.

    gcloud compute resource-policies create workload WORKLOAD_POLICY_NAME \
--type=high-throughput \
--accelerator-topology=TOPOLOGY

    Sostituisci i seguenti segnaposto:

    • WORKLOAD_POLICY_NAME: il nome della policy del workload.
    • TOPOLOGY: la topologia delle VM TPU, ad esempio 4x4x8.

  3. Crea il MIG:

        gcloud compute instance-groups managed create MIG_NAME \
        --zone=ZONE \
        --template=TEMPLATE_NAME \
        --size=SIZE \
        --workload-policy=projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME

    Sostituisci i seguenti segnaposto:

    • MIG_NAME: il nome del MIG.
    • ZONE: la zona in cui viene creato il MIG.
    • TEMPLATE_NAME: il nome del template di istanza.
    • SIZE: il numero di istanze nel MIG.
    • PROJECT_ID: l'ID del tuo Google Cloud progetto.
    • WORKLOAD_POLICY_REGION: la regione in cui è definita la policy del workload.
    • WORKLOAD_POLICY_NAME: il nome della policy del workload.

Utilizzo di singole VM TPU

Puoi anche creare singole VM spot TPU.

gcloud compute instances create TPU_NAME \
    --zone=ZONE \
    --provisioning-model=SPOT \
    --instance-termination-action=DELETE \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --maintenance-policy=TERMINATE

Sostituisci i seguenti segnaposto:

  • TPU_NAME: il nome della TPU.
  • ZONE: la zona in cui viene creata la TPU.
  • MACHINE_TYPE: il tipo di macchina della VM.
  • IMAGE_FAMILY: la famiglia di immagini del template di istanza.
  • IMAGE_PROJECT: il progetto di immagini del sistema operativo per la VM TPU.

Per ulteriori informazioni sulle VM spot in Compute Engine, consulta VM spot.

Prezzi e quote

I prezzi delle VM spot TPU sono notevolmente inferiori rispetto a quelli delle TPU on demand e riservate. Per ulteriori informazioni sui prezzi, consulta Prezzi di Cloud TPU.

Per utilizzare le VM spot TPU, devi avere una quota prerilasciabile. Per scoprire di più, consulta Quote.

Passaggi successivi