A partire da luglio 2026, i plug-in gIB NCCL sono integrati direttamente in container di deep learning NGC di NVIDIA, fornendo un'esperienza "pronta all'uso" che ti consente di ottenere le prestazioni previste per le operazioni collettive su piattaforme Google Cloud GPU senza configurazione o ottimizzazione manuale.
Panoramica sull'integrazione
Le immagini di base NGC integrate includono i seguenti artefatti:
- Plug-in ambiente: verifica automaticamente la residenza e Google Cloud rileva il profilo hardware specifico (ad esempio H200 o GB200) per applicare dinamicamente le variabili di ambiente ottimali in fase di runtime.
- Plug-in di rete (gIB): fornisce il multi-pathing a livello di guest per trasferimenti point-to-point ad alte prestazioni e un bilanciamento del carico migliorato sulle reti di Google.
- Plug-in Tuner: ottimizza dinamicamente le operazioni di comunicazione collettiva in modo specifico per Google Cloud le topologie hardware su larga scala.
- Plug-in Profiler (CoMMA): offre telemetria e profilazione avanzate per rilevare quando un carico di lavoro non sta procedendo e identificare i processi NCCL bloccati.
I plug-in rilevano quando vengono eseguiti su piattaforme supportate e si configurano automaticamente, mentre eseguono un fallback graduale alle configurazioni standard negli ambienti non supportati. Google Cloud
I plug-in gIB NCCL integrati si basano sullo stesso codice precedentemente disponibile solo come immagini container Docker o pacchetti .deb e .rpm. Per ulteriori
informazioni sui pacchetti autonomi, consulta le
note di rilascio per le architetture x86
e ARM64.
I container NGC includono i plug-in gIB versione 1.1.2 o successive.
Vantaggi
Se utilizzi i container NVIDIA NGC con i plug-in incorporati Google Cloud , puoi aspettarti quanto segue:
- Distribuzione senza interruzioni: prestazioni immediate su tutte le piattaforme GPU supportate senza configurazioni complesse. Google Cloud
- Prestazioni ottimali: il rilevamento automatico dell'ambiente interno garantisce una larghezza di banda collettiva e una latenza ottimali.
- Diagnostica pronta: client di telemetria avanzato integrato, che aiuta l'assistenza Google ad assisterti meglio.
Piattaforme supportate
I container NGC con plug-in gIB NCCL supportano i seguenti Google Cloud tipi di macchine:
- A3 Ultra (H200)
- A4 (B200)
- A4X (GB200)
- A4X Max (GB300)