Ab Juli 2026 sind die gIB NCCL-Plug-ins direkt in die NGC-Deep-Learning-Container von NVIDIA integriert. So können Sie die erwartete Leistung für kollektive Vorgänge auf Google Cloud GPU-Plattformen ohne manuelle Konfiguration oder Optimierung erzielen.
Übersicht über die Integration
Die integrierten NGC-Basis-Images enthalten die folgenden Artefakte:
- Umgebungs-Plug-in:Überprüft automatisch den Google Cloud -Standort und erkennt das spezifische Hardwareprofil (z. B. H200 oder GB200), um die optimalen Umgebungsvariablen dynamisch zur Laufzeit anzuwenden.
- Netzwerk-Plug-in (gIB): Bietet Multipath-Routing auf Gastebene für leistungsstarke Punkt-zu-Punkt-Übertragungen und verbessertes Load-Balancing in den Netzwerken von Google.
- Tuner-Plug-in:Optimiert kollektive Kommunikationsvorgänge dynamisch für Google Cloud Hardwaretopologien im großen Maßstab.
- Profiler-Plug-in (CoMMA):Bietet erweiterte Telemetrie- und Profilingfunktionen, um zu erkennen, wann eine Arbeitslast nicht voranschreitet, und um blockierte NCCL-Prozesse zu identifizieren.
Die Plug-ins erkennen, wenn sie auf unterstützten Google Cloud Plattformen ausgeführt werden, und konfigurieren sich automatisch selbst. In nicht unterstützten Umgebungen wird auf Standardkonfigurationen zurückgegriffen.
Vorteile
Wenn Sie die NVIDIA NGC-Container mit den eingebetteten Google Cloud Plug-ins verwenden, können Sie Folgendes erwarten:
- Nahtlose Bereitstellung:Sofortige Leistung auf allen unterstützten Google Cloud-GPU-Plattformen ohne komplexe Einrichtung.
- Optimale Leistung:Die automatische Erkennung der internen Umgebung sorgt für optimale kollektive Bandbreite und Latenz.
- Diagnosebereit:Ein erweiterter Telemetrieclient ist integriert, damit der Google-Support Sie besser unterstützen kann.
Unterstützte Plattformen
Die NGC-Container mit gIB-NCCL-Plug-ins unterstützen die folgendenGoogle Cloud -Maschinentypen:
- A3 Ultra (H200)
- A4 (B200)
- A4X (GB200)
- A4X Max (GB300)