Présentation des options de déploiement

GPU généraux GPU en cluster

Pour exécuter des charges de travail d'intelligence artificielle (IA), de machine learning (ML) ou de calcul hautes performances (HPC), vous pouvez déployer des instances et des clusters Compute Engine optimisés pour l'IA qui utilisent des machines A4X, A4, A3 Ultra, A3 Mega et A3 High (8 GPU). Pour en savoir plus sur les fonctionnalités de ces machines qui vous permettent d'exécuter des clusters d'IA et de ML à grande échelle, consultez la présentation de la gestion des clusters.

Remarque : Les guides Cluster Director et Cluster Toolkit ne s'appliquent qu'aux types de machines A4X, A4, A3 Ultra, A3 Mega et A3 High (8 GPU). Nous vous recommandons de consulter la documentation appropriée pour le type de machine de votre choix. Pour identifier le guide de création d'instances de calcul et de clusters pour d'autres types de machines, consultez Choisir une stratégie de déploiement.

Vous pouvez créer des instances A4X, A4, A3 Ultra, A3 Mega et A3 High (8 GPU) directement à partir de Compute Engine, via des services gérés tels que Google Kubernetes Engine (GKE) ou à l'aide d'outils de déploiement tels que Cluster Toolkit.

Pour choisir l'option la plus appropriée pour créer vos instances ou clusters de calcul pour votre cas d'utilisation, sélectionnez l'une des options suivantes :

Option	Cas d'utilisation
Cluster Director	Vous souhaitez un service entièrement géré qui automatise la configuration de vos clusters Slurm. Cluster Director vous aide à configurer les ressources de calcul, de réseau et de stockage de vos clusters pour maximiser les performances et réduire les temps d'arrêt. Pour en savoir plus, consultez Créer un cluster Slurm entièrement géré pour les charges de travail d'IA.
Cluster Toolkit	Vous souhaitez utiliser un logiciel Open Source qui simplifie le processus de déploiement des clusters Slurm et GKE. Cluster Toolkit est conçu pour être hautement personnalisable et extensible. Vous pouvez utiliser des plans pour provisionner des ressources de mise en réseau et de stockage. Pour en savoir plus, consultez les ressources suivantes : Créer un cluster Slurm autogéré pour les charges de travail d'IA Créer un cluster GKE optimisé pour l'IA avec Cluster Toolkit
GKE	Vous souhaitez une flexibilité maximale pour configurer votre cluster GKE en fonction des besoins de votre charge de travail. Pour en savoir plus, consultez la ressource suivante : Créer un cluster GKE optimisé pour l'IA qui utilise A4 ou A3 Ultra Créer un cluster GKE optimisé pour l'IA qui utilise A3 Edge Créer un cluster GKE optimisé pour l'IA qui utilise A2 Créer un cluster GKE optimisé pour l'IA qui utilise G2 ou G4 Créer un cluster GKE optimisé pour l'IA qui utilise N1
Utiliser Compute Engine	Vous souhaitez contrôler entièrement la couche d'infrastructure pour pouvoir configurer votre propre orchestrateur. Pour en savoir plus, consultez la ressource suivante : Créer une instance optimisée par l'IA Créer A4X Max Créer A4X Créer une instance A4 ou A3 Ultra Créer une instance A3 Mega ou A3 High Créer un A3 Edge Créer A2 Créer une propriété G4 Créer G2 Créer N1 Créer des instances optimisées pour l'IA de manière groupée Créer A4X Max Créer A4X Créer une instance A4 ou A3 Ultra Créer une instance A3 Mega ou A3 High Créer une A3 Edge Créer A2 Créer une propriété G4 Créer G2 Créer N1 Créer un groupe d'instances géré (MIG) optimisé pour l'IA Créer A4X Max Créer A4X Créer une instance A4 ou A3 Ultra Créer une instance A3 Mega ou A3 High Créer un A3 Edge Créer A2 Créer une propriété G4 Créer G2 Créer N1

Étapes suivantes

• Découvrez l'infrastructure optimisée pour les performances d'AI Hypercomputer :
  • À propos des accélérateurs GPU
  • Services de mise en réseau
  • Services de stockage