Demander des VM Spot TPU

Les VM Spot offrent des capacités inutilisées à des tarifs très réduits. Bien que les VM Spot puissent être préemptées à tout moment, elles n'ont pas de durée d'exécution maximale, contrairement aux TPU préemptifs. Pour redémarrer une instance ou un MIG de VM Spot, vous devez le supprimer, puis le recréer.

Pour en savoir plus sur les VM Spot, consultez la documentation Compute Engine sur les VM Spot.

Créer des VM Spot TPU

Vous pouvez créer des VM Spot TPU en tant qu'instances individuelles ou dans un groupe d'instances géré (MIG).

Pour créer des VM Spot TPU avec un MIG, spécifiez le modèle de provisionnement Spot dans votre modèle d'instance.

  1. Créez un modèle d'instance :

        gcloud compute instance-templates create TEMPLATE_NAME \
        --provisioning-model=SPOT \
        --instance-termination-action=DELETE \
        --machine-type=MACHINE_TYPE \
        --image-family=IMAGE_FAMILY \
        --image-project=IMAGE_PROJECT \
        --zone=ZONE \
        --maintenance-policy=TERMINATE

    Remplacez les espaces réservés suivants :

    • TEMPLATE_NAME : nom du modèle d'instance.
    • MACHINE_TYPE : type de machine de la VM.
    • IMAGE_FAMILY : famille d'images de l'OS pour la VM TPU.
    • IMAGE_PROJECT : projet d'image de l'OS pour la VM TPU.
    • ZONE : zone dans laquelle le modèle d'instance est créé.

  2. Créer une règle de charge de travail

    La commande suivante crée une règle de charge de travail. Cette option est facultative pour les tranches à hôte unique.

    gcloud compute resource-policies create workload WORKLOAD_POLICY_NAME \
--type=high-throughput \
--accelerator-topology=TOPOLOGY

    Remplacez les espaces réservés suivants :

    • WORKLOAD_POLICY_NAME : nom de votre stratégie de charge de travail.
    • TOPOLOGY : topologie des VM TPU, par exemple 4x4x8.

  3. Créez le MIG :

        gcloud compute instance-groups managed create MIG_NAME \
        --zone=ZONE \
        --template=TEMPLATE_NAME \
        --size=SIZE \
        --workload-policy=projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME

    Remplacez les espaces réservés suivants :

    • MIG_NAME : nom du MIG.
    • ZONE : zone dans laquelle le MIG est créé.
    • TEMPLATE_NAME : nom du modèle d'instance.
    • SIZE : nombre d'instances dans le MIG.
    • PROJECT_ID : ID de votre projet Google Cloud .
    • WORKLOAD_POLICY_REGION : région dans laquelle la règle de charge de travail est définie.
    • WORKLOAD_POLICY_NAME : nom de votre stratégie de charge de travail.

Utiliser des VM TPU uniques

Vous pouvez également créer des VM Spot TPU individuelles.

gcloud compute instances create TPU_NAME \
    --zone=ZONE \
    --provisioning-model=SPOT \
    --instance-termination-action=DELETE \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --maintenance-policy=TERMINATE

Remplacez les espaces réservés suivants :

  • TPU_NAME : nom du TPU.
  • ZONE : zone dans laquelle le TPU est créé.
  • MACHINE_TYPE : type de machine de la VM.
  • IMAGE_FAMILY : famille d'images du modèle d'instance.
  • IMAGE_PROJECT : projet d'image de l'OS pour la VM TPU.

Pour en savoir plus sur les VM Spot dans Compute Engine, consultez VM Spot.

Tarifs et quotas

Le prix des VM Spot TPU est nettement inférieur à celui des TPU à la demande et réservés. Pour en savoir plus sur la tarification, consultez la page Tarifs de Cloud TPU.

Vous avez besoin d'un quota préemptif pour utiliser les VM Spot TPU. Pour en savoir plus, consultez Quotas.

Étapes suivantes