Présentation de la création d'une instance avec des GPU associés

Ce document présente les étapes requises pour créer une instance Compute Engine à laquelle sont associés des processeurs graphiques (GPU). Vous pouvez utiliser des GPU pour accélérer des charges de travail spécifiques, telles que le machine learning et le traitement des données.

Vous pouvez également utiliser certains types de machines GPU sur AI Hypercomputer. AI Hypercomputer est un système de supercalcul optimisé pour gérer vos charges de travail d'intelligence artificielle (IA) et de machine learning (ML). Cette option est recommandée pour créer une infrastructure à allocation dense et optimisée pour les performances, qui intègre les planificateurs Google Kubernetes Engine (GKE) et Slurm.

Pour en savoir plus sur les GPU sur Compute Engine, consultez À propos des GPU.

Sélectionner le modèle de GPU

Pour obtenir la liste des modèles de GPU disponibles, consultez Plates-formes GPU. Notez également le type de machine compatible avec le modèle de GPU sélectionné.

Il peut également être utile de passer en revue les éléments suivants pour chaque modèle :

Limites

Outre les restrictions applicables à toutes les instances avec GPU, chaque série de machines avec des GPU associés présente les limites suivantes :

Instances A4X

Instances A4

Instances A3 Ultra

Instances A3 Mega

Instances A3 High

Instances A3 Edge

Instances A2 Standard

  • Seules les options de consommation prises en charge pour un type de machine A2 Standard peuvent être utilisées pour demander de la capacité.
  • Vous ne bénéficiez ni de remises automatiques proportionnelles à une utilisation soutenue ni de remises sur engagement d'utilisation flexible pour les instances qui utilisent un type de machine A2 Standard.
  • Vous ne pouvez utiliser un type de machine A2 Standard que dans certaines régions et zones.
  • Les types de machines A2 Standard ne sont disponibles que sur la plate-forme Cascade Lake.
  • Si votre instance utilise un type de machine A2 Standard, vous ne pouvez passer d'un type de machine A2 Standard qu'à un autre type de machine A2 Standard. Vous ne pouvez pas passer à un autre type de machine. Pour en savoir plus, consultez Modifier des instances optimisées pour les accélérateurs.
  • Vous ne pouvez pas utiliser le système d'exploitation Windows avec le type de machine a2-megagpu-16g. Lorsque vous utilisez un système d'exploitation Windows, choisissez un autre type de machine A2 Standard.
  • Vous ne pouvez pas effectuer un formatage rapide des disques SSD locaux associés à des instances Windows qui utilisent des types de machines A2 Standard. Pour formater ces disques SSD locaux, vous devez effectuer un formatage complet en utilisant l'utilitaire diskpart et en spécifiant format fs=ntfs label=tmpfs.
  • Les types de machines A2 Standard ne prennent pas en charge la location unique.

Instances A2 Ultra

  • Seules les options de consommation prises en charge pour un type de machine A2 Ultra peuvent être utilisées pour demander de la capacité.
  • Vous ne bénéficiez ni de remises automatiques proportionnelles à une utilisation soutenue ni de remises sur engagement d'utilisation flexible pour les instances qui utilisent un type de machine A2 Ultra.
  • Vous ne pouvez utiliser un type de machine A2 Ultra que dans certaines régions et zones.
  • Les types de machines A2 Ultra ne sont disponibles que sur la plate-forme Cascade Lake.
  • Si votre instance utilise un type de machine A2 Ultra, vous ne pouvez pas modifier le type de machine. Si vous devez utiliser un type de machine A2 Ultra différent ou tout autre type de machine, vous devez créer une nouvelle instance.
  • Vous ne pouvez pas remplacer un autre type de machine par un type de machine A2 Ultra. Si vous avez besoin d'une instance utilisant un type de machine A2 Ultra, vous devez en créer une.
  • Vous ne pouvez pas effectuer un formatage rapide des disques SSD locaux associés à des instances Windows qui utilisent des types de machines A2 Ultra. Pour formater ces disques SSD locaux, vous devez effectuer un formatage complet en utilisant l'utilitaire diskpart et en spécifiant format fs=ntfs label=tmpfs.

Instances G4

Instances G2

  • Seules les options de consommation prises en charge pour un type de machine G2 peuvent être utilisées pour demander de la capacité.
  • Vous ne bénéficiez ni de remises automatiques proportionnelles à une utilisation soutenue ni de remises sur engagement d'utilisation flexible pour les instances qui utilisent un type de machine G2.
  • Vous ne pouvez utiliser un type de machine G2 que dans certaines régions et zones.
  • Le type de machine G2 n'est disponible que sur la plate-forme Cascade Lake.
  • Les disques persistants standards (pd-standard) ne sont pas pris en charge par les instances qui utilisent le type de machine G2. Pour connaître les types de disques pris en charge, consultez Types de disques pris en charge pour G2.
  • Vous ne pouvez pas créer de GPU multi-instances sur une instance qui utilise un type de machine G2.
  • Si vous devez modifier le type de machine d'une instance G2, consultez Modifier des instances optimisées pour les accélérateurs.
  • Vous ne pouvez pas utiliser Deep Learning VM Images en tant que disques de démarrage pour les instances utilisant le type de machine G2.
  • Le pilote par défaut actuel de Container-Optimized OS ne prend pas en charge les GPU L4 s'exécutant sur des types de machines G2. Qui plus est, Container-Optimized OS ne prend en charge qu'un ensemble sélectionné de pilotes. Si vous souhaitez utiliser Container-Optimized OS sur des types de machines G2, consultez les notes suivantes :
    • Utilisez une version de Container-Optimized OS qui prend en charge la version minimum recommandée 525.60.13 du pilote NVIDIA ou une version ultérieure. Pour en savoir plus, consultez les notes de version de Container-Optimized OS.
    • Lorsque vous installez le pilote, spécifiez la dernière version disponible compatible avec les GPU L4. Par exemple, sudo cos-extensions install gpu -- -version=525.60.13.
  • Vous devez utiliser la Google Cloud CLI ou REST pour créer des instances G2 dans les scénarios suivants :
    • Vous souhaitez spécifier des valeurs personnalisées de mémoire.
    • Vous souhaitez personnaliser le nombre de cœurs de processeur visibles.

Instances N1+GPU

Pour en savoir plus sur les limites des instances N1 avec GPU, consultez fonctionnalités pour la série de machines N1 et GPU pour la série de machines N1.

Choisir un système d'exploitation

Si vous utilisez des GPU pour le machine learning, utilisez l'un des systèmes d'exploitation suivants :

  • Images optimisées pour les charges de travail d'IA. Vous pouvez utiliser des images Ubuntu et Rocky, disponibles dans des versions optimisées pour les accélérateurs avec les pilotes NVIDIA et CUDA Toolkit préinstallés. Consultez Images de l'OS dans la documentation AI Hypercomputer.

  • Images Deep Learning VM Image. Chaque image Deep Learning VM dispose d'un outil d'installation de pilote GPU et inclut des packages tels que TensorFlow et PyTorch. Vous pouvez également utiliser une image Deep Learning VM pour les charges de travail générales des GPU. Pour en savoir plus sur les images disponibles et les packages installés sur ces images, consultez Choisir une image dans la documentation de Deep Learning VM.

Vous pouvez également utiliser une image publique ou personnalisée. Pour la plupart des images publiques ou des images personnalisées, vous devez installer les pilotes NVIDIA et CUDA Toolkit. Pour identifier les pilotes adaptés à votre modèle de GPU, consultez Installer des pilotes de GPU.

Vérifier le quota de GPU

Pour protéger les systèmes et les utilisateurs de Compute Engine, les nouveaux projets bénéficient d'un quota global de GPU, ce qui limite le nombre total de GPU que vous pouvez créer dans les zones disponibles. Pour examiner le quota de GPU, consultez Quota de GPU.

Si vous avez besoin d'un quota de GPU supplémentaire, demandez une augmentation de quota. Lorsque vous demandez un quota de GPU, vous devez demander un quota pour les types de GPU que vous souhaitez créer dans chaque région, mais également un quota mondial supplémentaire pour le nombre total de GPU de tout type dans toutes les zones.

Si votre projet a un historique de facturation établi, il recevra automatiquement un quota après l'envoi de la demande.

Instances de GPU et quotas d'allocation préemptifs

Les instances qui utilisent le modèle de provisionnement standard ne peuvent généralement pas utiliser les quotas d'allocation préemptifs. Les quotas préemptifs sont destinés aux charges de travail temporaires et sont généralement davantage disponibles. Si votre projet ne dispose pas de quota préemptif et que vous n'en avez jamais fait la demande, toutes les instances de votre projet consomment des quotas d'allocation standards.

Si vous demandez un quota d'allocation préemptif, les instances qui utilisent le modèle de provisionnement standard doivent répondre à tous les critères suivants pour consommer le quota d'allocation préemptif :

Lorsque vous consommez une allocation préemptive pour des charges de travail GPU temporalisées, vous pouvez bénéficier à la fois d'une durée d'exécution ininterrompue et d'une meilleur disponibilité grâce au quota d'allocation préemptif. Pour en savoir plus, consultez Quotas préemptifs.

Créer une instance dotée de GPU associés

Pour créer une instance à laquelle sont associés des GPU, procédez comme suit :

  1. Créez l'instance. La méthode utilisée pour créer une instance dépend de la charge de travail que vous souhaitez exécuter.

    Types de machines avec GPU
    Charges de travail d'IA et de ML Graphiques et visualisation Autres charges de travail GPU
    Les types de machines de série A optimisées pour les accélérateurs sont conçus pour les charges de travail de calcul hautes performances (HPC), d'intelligence artificielle (IA) et de machine learning (ML).

    Pour ces types de machines, le modèle de GPU est automatiquement associé à l'instance.

    		 Les types de machines de série G optimisées pour les accélérateurs sont conçus pour les charges de travail de simulation NVIDIA Omniverse, les applications exigeantes en ressources graphiques, le transcodage vidéo et les bureaux virtuels. Ces types de machines sont compatibles avec les postes de travail virtuels (vWS) NVIDIA RTX.

    Pour ces types de machines, le modèle de GPU est automatiquement associé à l'instance.

    Pour les types de machines à usage général N1, à l'exception des types N1 à cœur partagé (f1-micro et g1-small), vous pouvez associer une sélection de modèles de GPU. Certains de ces modèles de GPU sont également compatibles avec les postes de travail virtuels (vWS) NVIDIA RTX.

    Pour les charges de travail d'IA, de ML et de HPC, choisissez l'une des options suivantes :

    		 Pour créer une instance G2 (L4) ou G4 (RTX PRO 6000), consultez Créer une instance G2 ou G4. Pour créer une instance N1 à laquelle sont associés des GPU NVIDIA T4, P4, P100 ou V100, consultez Créer une instance N1 associée à des GPU.

  2. Installez le pilote de GPU sur votre instance pour que celle-ci puisse utiliser le GPU. Si vous avez activé un poste de travail virtuel NVIDIA RTX (anciennement appelé NVIDIA GRID), installez un pilote pour le poste de travail virtuel.

Étapes suivantes