À partir de juillet 2026, les plug-ins NCCL gIB seront directement intégrés aux conteneurs de deep learning NGC de NVIDIA. Vous bénéficierez ainsi d'une expérience "prête à l'emploi" qui vous permettra d'obtenir les performances attendues pour les opérations collectives sur les plates-formes de GPU Google Cloud , sans configuration ni réglage manuels.
Présentation de l'intégration
Les images de base NGC intégrées incluent les artefacts suivants :
- Plug-in d'environnement : il vérifie automatiquement la résidence Google Cloud et détecte le profil matériel spécifique (H200 ou GB200, par exemple) pour appliquer dynamiquement les variables d'environnement optimales au moment de l'exécution.
- Plug-in réseau (gIB) : fournit un multipath au niveau de l'invité pour les transferts point à point hautes performances et un équilibrage de charge amélioré sur les réseaux Google.
- Plug-in Tuner : optimise de manière dynamique les opérations de communication collective, en particulier pour les topologies matérielles à grande échelle. Google Cloud
- Plug-in Profiler (CoMMA) : il propose des fonctionnalités de télémétrie et de profilage avancées pour détecter quand une charge de travail ne progresse pas et identifier les processus NCCL bloqués.
Les plug-ins détectent lorsqu'ils s'exécutent sur des plates-formes Google Cloud compatibles et se configurent automatiquement, tout en revenant aux configurations standards dans les environnements non compatibles.
Avantages
En utilisant les conteneurs NVIDIA NGC avec les plug-ins Google Cloud intégrés, vous pouvez vous attendre aux résultats suivants :
- Diffusion fluide : performances immédiates sur toutes les plates-formes GPU Google Cloudcompatibles, sans configuration complexe.
- Performances optimales : la détection automatisée de l'environnement interne garantit une bande passante et une latence collectives optimales dès le départ.
- Diagnostics prêts à l'emploi : client de télémétrie avancée intégré, qui aide l'assistance Google à mieux vous aider.
Plates-formes compatibles
Les conteneurs NGC avec plug-ins NCCL gIB sont compatibles avec les types de machinesGoogle Cloud suivants :
- A3 Ultra (H200)
- A4 (B200)
- A4X (GB200)
- A4X Max (GB300)