TPU-Spot-VMs anfordern

Spot-VMs bieten ungenutzte Kapazität zu deutlich ermäßigten Preisen. Spot-VMs können jederzeit vorzeitig beendet werden. Im Gegensatz zu TPUs auf Abruf haben sie jedoch keine maximale Laufzeit. Wenn Sie eine Spot-VM-Instanz oder eine MIG neu starten möchten, müssen Sie sie löschen und dann neu erstellen.

Weitere Informationen zu Spot-VMs finden Sie in der Compute Engine-Dokumentation unter Spot-VMs.

TPU-Spot-VMs erstellen

Sie können TPU-Spot-VMs als einzelne Instanzen oder als Teil einer verwalteten Instanzgruppe (MIG) erstellen.

Wenn Sie TPU-Spot-VMs mit einer MIG erstellen möchten, geben Sie in Ihrer Instanzvorlage das Spot-Bereitstellungsmodell an.

  1. Instanzvorlage erstellen:

        gcloud compute instance-templates create TEMPLATE_NAME \
        --provisioning-model=SPOT \
        --instance-termination-action=DELETE \
        --machine-type=MACHINE_TYPE \
        --image-family=IMAGE_FAMILY \
        --image-project=IMAGE_PROJECT \
        --zone=ZONE \
        --maintenance-policy=TERMINATE

    Ersetzen Sie die folgenden Platzhalter:

    • TEMPLATE_NAME: Der Name der Instanzvorlage.
    • MACHINE_TYPE: Der Maschinentyp der VM.
    • IMAGE_FAMILY: Die Betriebssystem-Image-Familie für die TPU-VM.
    • IMAGE_PROJECT: Das Betriebssystem-Image-Projekt für die TPU-VM.
    • ZONE: Die Zone, in der die Instanzvorlage erstellt wird.

  2. Arbeitslastrichtlinie erstellen

    Mit dem folgenden Befehl wird eine Arbeitslastrichtlinie erstellt. Dies ist für Single-Host-Slices optional.

    gcloud compute resource-policies create workload WORKLOAD_POLICY_NAME \
--type=high-throughput \
--accelerator-topology=TOPOLOGY

    Ersetzen Sie die folgenden Platzhalter:

    • WORKLOAD_POLICY_NAME: Der Name Ihrer Arbeitslastrichtlinie.
    • TOPOLOGY: Die Topologie der TPU-VMs, z. B. 4x4x8.

  3. MIG erstellen:

        gcloud compute instance-groups managed create MIG_NAME \
        --zone=ZONE \
        --template=TEMPLATE_NAME \
        --size=SIZE \
        --workload-policy=projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME

    Ersetzen Sie die folgenden Platzhalter:

    • MIG_NAME: Der Name der MIG.
    • ZONE: Die Zone, in der die MIG erstellt wird.
    • TEMPLATE_NAME: Der Name der Instanzvorlage.
    • SIZE: Die Anzahl der Instanzen in der MIG.
    • PROJECT_ID: Die ID Ihres Google Cloud Projekts.
    • WORKLOAD_POLICY_REGION: Die Region, in der die Arbeitslastrichtlinie definiert ist.
    • WORKLOAD_POLICY_NAME: Der Name Ihrer Arbeitslastrichtlinie.

Einzelne TPU-VMs verwenden

Sie können auch einzelne TPU-Spot-VMs erstellen.

gcloud compute instances create TPU_NAME \
    --zone=ZONE \
    --provisioning-model=SPOT \
    --instance-termination-action=DELETE \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --maintenance-policy=TERMINATE

Ersetzen Sie die folgenden Platzhalter:

  • TPU_NAME: Der Name der TPU.
  • ZONE: Die Zone, in der die TPU erstellt wird.
  • MACHINE_TYPE: Der Maschinentyp der VM.
  • IMAGE_FAMILY: Die Image-Familie der Instanzvorlage.
  • IMAGE_PROJECT: Das Betriebssystem-Image-Projekt für die TPU-VM.

Weitere Informationen zu Spot-VMs in Compute Engine finden Sie unter Spot-VMs.

Preise und Kontingente

Die Preise für TPU-Spot-VMs sind deutlich niedriger als für On-Demand- und reservierte TPUs. Weitere Informationen zu Preisen finden Sie unter Cloud TPU Preisen.

Sie benötigen ein Kontingent auf Abruf, um TPU-Spot-VMs zu verwenden. Weitere Informationen finden Sie unter Kontingente.

Nächste Schritte