Créer une instance de VM Cloud TPU à l'aide de Compute Engine
Ce document explique comment créer une seule VM TPU avec la commande gcloud compute instances create de Compute Engine. Vous pouvez également créer une instance de VM TPU en spécifiant un modèle d'instance. Pour en savoir plus, consultez Créer une VM à partir d'un modèle d'instance.
Prérequis
Remplissez les conditions préalables suivantes :
Créez un projet Google Cloud pour vos TPU, comme décrit dans Configurer un projet Google Cloud pour les TPU.
Déterminez vos besoins en TPU comme décrit dans Planifier vos ressources Cloud TPU.
Créer une instance de VM TPU
Les paramètres que vous utilisez pour créer une instance de VM TPU dépendent de l'option de consommation que vous utilisez : à la demande, Spot, liée à une réservation ou à démarrage flexible. Pour en savoir plus, consultez Planifier vos ressources TPU.
Créer une instance de VM TPU à la demande
Pour créer une instance de VM TPU à la demande, utilisez la commande gcloud compute instances create :
gcloud compute instances create TPU_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--maintenance-policy=TERMINATE
Remplacez les espaces réservés suivants :
- TPU_NAME : nom de votre VM TPU.
- MACHINE_TYPE : type de machine pour la VM TPU (par exemple,
ct6e-standard-8t). - IMAGE_FAMILY : famille d'images d'OS pour la VM TPU. Si vous souhaitez installer une version spécifique de l'OS, utilisez l'option
--image. Pour en savoir plus sur les images d'OS, consultez Images d'OS. - IMAGE_PROJECT : projet contenant l'image de l'OS.
Pour les images TPU, il s'agit de
ubuntu-os-accelerator-images. - ZONE : zone de la VM TPU (par exemple,
us-central1-b).
Créer une instance de VM Spot TPU
Pour créer une instance de VM Spot TPU, utilisez la commande gcloud compute instances create avec l'indicateur --provisioning-model=SPOT :
gcloud compute instances create TPU_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--provisioning-model=SPOT \
--instance-termination-action=DELETE \
--maintenance-policy=TERMINATE
Remplacez les espaces réservés suivants :
- TPU_NAME : nom de votre VM TPU.
- MACHINE_TYPE : type de machine pour la VM TPU (par exemple,
ct6e-standard-8t). - IMAGE_FAMILY : famille d'images d'OS pour la VM TPU. Si vous souhaitez installer une version spécifique de l'OS, utilisez l'option
--image. Pour en savoir plus sur les images d'OS, consultez Images d'OS. - IMAGE_PROJECT : projet contenant l'image de l'OS.
Pour les images TPU, il s'agit de
ubuntu-os-accelerator-images. - ZONE : zone de la VM TPU (par exemple,
us-central1-b).
Créer une instance de VM TPU à l'aide d'une réservation
Pour créer une instance de VM TPU à l'aide de l'option de consommation liée à une réservation, utilisez la commande gcloud compute instances create avec les indicateurs --reservation-affinity=specific et --reservation :
gcloud compute instances create TPU_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--provisioning-model=reservation-bound \
--reservation-affinity=specific \
--reservation=RESERVATION_NAME \
--instance-termination-action=DELETE \
--maintenance-policy=TERMINATE
Remplacez les espaces réservés suivants :
- TPU_NAME : nom de votre VM TPU.
- MACHINE_TYPE : type de machine pour la VM TPU (par exemple,
ct6e-standard-8t). - IMAGE_FAMILY : famille d'images d'OS pour la VM TPU. Si vous souhaitez installer une version spécifique de l'OS, utilisez l'option
--image. Pour en savoir plus sur les images d'OS, consultez Images d'OS. - IMAGE_PROJECT : projet contenant l'image de l'OS.
Pour les images TPU, il s'agit de
ubuntu-os-accelerator-images. - ZONE : zone de la VM TPU (par exemple,
us-central1-b). - RESERVATION_NAME : nom de votre réservation.
Créer une VM TPU à démarrage flexible
Pour créer une instance de VM TPU à démarrage flexible, utilisez la commande gcloud compute instances create avec l'option --provisioning-model=FLEX_START :
gcloud compute instances create TPU_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--provisioning-model=FLEX_START \
--max-run-duration=MAX_RUN_DURATION \
--request-valid-for-duration=VALID_DURATION \
--instance-termination-action=DELETE \
--maintenance-policy=TERMINATE
Remplacez les espaces réservés suivants :
- TPU_NAME : nom de votre VM TPU.
- MACHINE_TYPE : type de machine pour la VM TPU (par exemple,
ct6e-standard-8t). - IMAGE_FAMILY : famille d'images d'OS pour la VM TPU. Si vous souhaitez installer une version spécifique de l'OS, utilisez l'option
--image. Pour en savoir plus sur les images d'OS, consultez Images d'OS. - IMAGE_PROJECT : projet contenant l'image de l'OS.
Pour les images TPU, il s'agit de
ubuntu-os-accelerator-images. - ZONE : zone de la VM TPU (par exemple,
us-central1-b). - MAX_RUN_DURATION : durée d'exécution maximale de la VM TPU (par exemple,
6h). - VALID_DURATION : durée maximale de validité de la requête.
Pour en savoir plus sur la création d'instances Compute Engine, consultez Créer et démarrer une instance Compute Engine.
Étapes suivantes
- Découvrez comment créer un MIG avec des tranches Cloud TPU à hôte unique.
- Découvrez comment créer un MIG avec une tranche Cloud TPU multi-hôte.
- Découvrez comment gérer les VM TPU.
- En savoir plus sur les TPU dans GKE
- Découvrez comment exécuter une charge de travail de ML sur des TPU, par exemple Diffuser Qwen2-72B-Instruct avec vLLM sur des TPU.