À partir de juillet 2026, les plug-ins NCCL gIB seront directement intégrés aux conteneurs de deep learning NGC de NVIDIA. Vous bénéficierez ainsi d'une expérience "prête à l'emploi" qui vous permettra d'obtenir les performances attendues pour les opérations collectives sur les plates-formes de GPU Google Cloud , sans configuration ni réglage manuels.
Présentation de l'intégration
Les images de base NGC intégrées incluent les artefacts suivants :
- Plug-in d'environnement : il vérifie automatiquement la résidence Google Cloud et détecte le profil matériel spécifique (H200 ou GB200, par exemple) pour appliquer dynamiquement les variables d'environnement optimales au moment de l'exécution.
- Plug-in réseau (gIB) : fournit un multipath au niveau de l'invité pour les transferts point à point hautes performances et un équilibrage de charge amélioré sur les réseaux Google.
- Plug-in Tuner : optimise de manière dynamique les opérations de communication collective, en particulier pour les topologies matérielles à grande échelle. Google Cloud
- Plug-in Profiler (CoMMA) : il propose des fonctionnalités de télémétrie et de profilage avancées pour détecter quand une charge de travail ne progresse pas et identifier les processus NCCL bloqués.
Les plug-ins détectent lorsqu'ils s'exécutent sur des plates-formes Google Cloud compatibles et se configurent automatiquement, tout en revenant aux configurations standards dans les environnements non compatibles.
Les plug-ins NCCL gIB intégrés sont basés sur le même code qui n'était auparavant disponible que sous forme d'images de conteneur Docker ou de packages .deb et .rpm. Pour en savoir plus sur les packages autonomes, consultez les notes de version pour les architectures x86 et ARM64.
Les conteneurs NGC incluent les plug-ins gIB version 1.1.2 ou ultérieure.
Avantages
En utilisant les conteneurs NVIDIA NGC avec les plug-ins Google Cloud intégrés, vous pouvez vous attendre aux résultats suivants :
- Diffusion fluide : performances immédiates sur toutes les plates-formes GPU Google Cloudcompatibles, sans configuration complexe.
- Performances optimales : la détection automatisée de l'environnement interne garantit une bande passante et une latence collectives optimales dès le départ.
- Diagnostics prêts à l'emploi : client de télémétrie avancée intégré, qui aide l'assistance Google à mieux vous aider.
Plates-formes compatibles
Les conteneurs NGC avec plug-ins NCCL gIB sont compatibles avec les types de machinesGoogle Cloud suivants :
- A3 Ultra (H200)
- A4 (B200)
- A4X (GB200)
- A4X Max (GB300)