A partire da luglio 2026, i plug-in gIB NCCL sono integrati direttamente in container di deep learning NGC di NVIDIA, fornendo un'esperienza "out-of-the-box" che ti consente di ottenere le prestazioni previste per le operazioni collettive su Google Cloud piattaforme GPU senza configurazione o ottimizzazione manuale.
Panoramica sull'integrazione
Le immagini di base NGC integrate includono i seguenti artefatti:
- Plug-in ambiente: verifica automaticamente la residenza e Google Cloud rileva il profilo hardware specifico (ad esempio H200 o GB200) per applicare dinamicamente le variabili di ambiente ottimali in fase di runtime.
- Plug-in di rete (gIB): fornisce il multi-pathing a livello di guest per trasferimenti point-to-point ad alte prestazioni e un bilanciamento del carico migliorato sulle reti di Google.
- Plug-in Tuner: ottimizza dinamicamente le operazioni di comunicazione collettiva in modo specifico per Google Cloud le topologie hardware su larga scala.
- Plug-in Profiler (CoMMA): offre telemetria e profilazione avanzate per rilevare quando un carico di lavoro non sta procedendo e identificare i processi NCCL bloccati.
I plug-in rilevano quando sono in esecuzione su piattaforme supportate Google Cloud e si configurano automaticamente, mentre eseguono il fallback alle configurazioni standard negli ambienti non supportati.
Vantaggi
Se utilizzi i container NVIDIA NGC con i plug-in incorporati Google Cloud , puoi aspettarti quanto segue:
- Distribuzione senza interruzioni: prestazioni immediate su tutte le piattaforme GPU supportate senza una configurazione complessa. Google Cloud
- Prestazioni ottimali: il rilevamento automatico dell'ambiente interno garantisce una larghezza di banda collettiva e una latenza ottimali.
- Diagnostica pronta: client di telemetria avanzato integrato, che aiuta l'assistenza Google ad assisterti meglio.
Piattaforme supportate
I container NGC con plug-in gIB NCCL supportano i seguenti Google Cloud tipi di macchine:
- A3 Ultra (H200)
- A4 (B200)
- A4X (GB200)
- A4X Max (GB300)