Release Notes zu NCCL/gIB (x86 64-Bit)

Auf dieser Seite finden Sie Versionshinweise für jede Version von NCCL/gIB auf x86-64-Bit-Systemen. In jedem Release-Abschnitt werden die enthaltenen Binärdateien, die unterstützten Maschinenserien sowie die neuen Funktionen und Verbesserungen beschrieben.

NCCL/gIB v1.1.2

Veröffentlichungsdatum: 14. Mai 2026

Vordefinierte Binärdateien

In den folgenden Abschnitten werden die vorgefertigten Release- und Diagnose-Binärdateien aufgeführt.

Release

Installieren Sie diese Binärdateien für Produktionsarbeitslasten. Eine Installationsanleitung finden Sie unter NCCL auf Compute Engine-Instanzen ausführen.

Docker-Installationsprogramm
Bild us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib:v1.1.2
SHA256 b71627dcf88862cd0e64434dfd0224441960db58f2022f94b5f56123659c207e
Basis Alpine 3.21.0
Integriert Ubuntu 22.04 + CUDA 13.0
.deb-Paket
Repository https://packages.cloud.google.com/apt gpudirect-gib-apt
Pakete nccl-gib (1.1.2), nccl-gib-plugins (1.1.2)
Basis Ubuntu 22.04
Integriert Ubuntu 22.04 + CUDA 13.0
.rpm-Paket
Repository https://packages.cloud.google.com/yum/repos/gpudirect-gib-rpm
Pakete nccl-gib (1.1.2-1), nccl-gib-plugins (1.1.2-1)
Basis Rocky Linux 9
Integriert Ubuntu 22.04 + CUDA 13.0

Diagnostisch

Installieren Sie diese Binärdateien, um die Netzwerkleistung zu testen oder Fehler zu beheben.

Docker-Container
Bild us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic:v1.1.2
SHA256 61c917022538e59d24f597038a8ad7087a026d60715256ae39e7f06ef20ebde0
Basis Ubuntu 22.04 + CUDA 13.0

Versionskompatibilität

Maschinenserie Enthaltene NCCL-Version Unterstützte NCCL-Versionen Mindestversion des GPU-Treibers Mindestversion der CUDA-Laufzeit
A3 Ultra 2.30.4 >= 2.23 550.90.07 12.6
A4 2.30.4 >= 2.25 580.126.09 12,8

Aufschlüsselung nach Komponenten

Komponente Version
rdma-core (nicht in .deb- und .rpm-Paketen enthalten) 2307mlnx47
nccl 2.30.4
nccl-plugin-gib 1.1.2

Versionsprotokollierung

Wenn Sie die Versionslogs sehen möchten, legen Sie die Umgebungsvariablen NCCL_DEBUG=INFO und NCCL_DEBUG_SUBSYS=INIT fest.

Komponente Versionsprotokollierung
nccl NCCL-Version 2.30.4+cuda13.0
nccl-plugin-gib NET/gIB : Initializing gIB v1.1.2

Funktionen und Verbesserungen

Umgebungs-Plug-in

  • Das Google Cloud NCCL-Umgebungs-Plug-in wird eingeführt, das automatisch die besten NCCL-Umgebungsvariablen basierend auf der Laufzeitplattform anwendet. Das Umgebungsp-Plug-in wird automatisch geladen, wenn Sie NCCL 2.28.7 oder höher verwenden.

gIB net-Plug-in

Diverse Fehlerkorrekturen
  • Ein Fehler im gIB-Netzwerk-Plug-in wurde behoben, der bei der Verarbeitung großer isend()-Anfragen auftrat.
  • Es wurde ein Problem behoben, bei dem das gIB-Netzwerk-Plug‑in möglicherweise nicht mit NCCL 2.27 oder höher kompatibel war.
  • Behebt Stabilitätsprobleme in CoMMA

CoMMA (Profiler-Plug-in):

gIB-Tuner-Plug-in

  • Wendet automatisch optimale Konfigurationen für die Abstimmung auf jede erkannte Google Cloud-Plattform an.

nccl.conf

  • gIB schreibt in /etc/nccl.conf, wenn die Datei schreibbar ist. Wenn Sie die Pakete „nccl-gib“ oder „nccl-gib-plugins“ installieren, müssen Sie daher keine Umgebungsvariableneinstellungen ändern, einschließlich LD_LIBRARY_PATH.

Neues Paket

  • nccl-gib-plugins ist ein neues Paket, das nur die NCCL-Plug-ins von Google enthält. Wenn Sie dieses Paket verwenden möchten, müssen Sie NCCL aus NVIDIA-Repositories und das APT-Paket nccl-gib-plugins package aus dem Google-Repository installieren.

  • Das Docker-Installationsprogramm, der Diagnosecontainer und nccl-gib package enthalten eine vorkompilierte NCCL und sind weiterhin verfügbar.

NCCL/gIB v1.1.0

Veröffentlichungsdatum: 14. Juli 2025

Vordefinierte Binärdateien

In den folgenden Abschnitten werden die vorgefertigten Release- und Diagnose-Binärdateien aufgeführt.

Release

Installieren Sie diese Binärdateien für Produktionsarbeitslasten. Eine Installationsanleitung finden Sie unter NCCL auf Compute Engine-Instanzen ausführen.

Docker-Installationsprogramm
Bild us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib:v1.1.0
SHA256 81c7165f1b41ee096d86f4cfe5a61f5c788546cf6ddc88aba3f0b88a5902af49
Basis Alpine 3.21.0
Integriert Ubuntu 20.04 + CUDA 12.8
.deb-Paket
Repository https://packages.cloud.google.com/apt gpudirect-gib-apt
Paket nccl-gib (1.1.0)
Basis Ubuntu 20.04
Integriert Ubuntu 20.04 + CUDA 12.8
.rpm-Paket
Repository https://packages.cloud.google.com/yum/repos/gpudirect-gib-rpm
Paket nccl-gib (1.1.0-1)
Basis Rocky Linux 9
Integriert Ubuntu 20.04 + CUDA 12.8

Diagnostisch

Installieren Sie diese Binärdateien, um die Netzwerkleistung zu testen oder Fehler zu beheben.

Docker-Container
Bild us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic:v1.1.0
SHA256 ee9682122220105b83187bd6eecc8cafbe739dcfb631a54b6059a8f1141038f9
Basis Ubuntu 20.04 + CUDA 12.8

Versionskompatibilität

Maschinenserie Enthaltene NCCL-Version Unterstützte NCCL-Versionen Mindestversion des GPU-Treibers Mindestversion der CUDA-Laufzeit
A3 Ultra 2.27.5 >= 2.23 550.90.07 12.6
A4 2.27.5 >= 2.25 570.124.06 12,8

Aufschlüsselung nach Komponenten

Komponente Version
rdma-core (nicht in .deb- und .rpm-Paketen enthalten) 2307mlnx47
nccl 2.27.5
nccl-plugin-gib 1.1.0

Versionsprotokollierung

Wenn Sie die Versionslogs sehen möchten, legen Sie die Umgebungsvariablen NCCL_DEBUG=INFO und NCCL_DEBUG_SUBSYS=INIT fest.

Komponente Versionsprotokollierung
nccl NCCL-Version 2.27.5+cuda12.8
nccl-plugin-gib NET/gIB : Initializing gIB v1.1.0

Funktionen und Verbesserungen

Gesamt

  • Allgemeine Verfügbarkeit der NCCL-Telemetrie
  • Diese Version enthält alle Telemetriedaten, die für die Erkennung von Nachzüglern erforderlich sind.

CoMMA (Profiler-Plug-in) – allgemeine Verfügbarkeit

  • Stabilitätsverbesserungen
  • Fügt die Möglichkeit hinzu, die Wartezeit auf Empfängerseite zu erfassen
  • Die Open-Source-Version finden Sie im CoMMA-GitHub-Repository.

Weitere Informationen finden Sie in der CoMMA-Übersicht.

NCCL/gIB v1.0.6

Veröffentlichungsdatum: 16. Juni 2025

Vordefinierte Binärdateien

In den folgenden Abschnitten werden die vorgefertigten Release- und Diagnose-Binärdateien aufgeführt.

Release

Installieren Sie diese Binärdateien für Produktionsarbeitslasten. Eine Installationsanleitung finden Sie unter NCCL auf Compute Engine-Instanzen ausführen.

Docker-Installationsprogramm
Bild us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib:v1.0.6
SHA256 b0d5e1f29ca89c33b5b6252ca635a8c3889f553de3a382ba07c9b1f43fcf452f
Basis Alpine 3.21.0
Integriert Ubuntu 20.04 + CUDA 12.8
.deb-Paket
Repository us-apt.pkg.dev/projects/gce-ai-infra/gpudirect-gib-apt
Paket nccl-gib (1.0.6.1)
Basis Debian 12
Integriert Ubuntu 20.04 + CUDA 12.8
.rpm-Paket
Repository us-yum.pkg.dev/projects/gce-ai-infra/gpudirect-gib-rpm
Paket nccl-gib (1.0.6-1)
Basis Rocky Linux 9
Integriert Ubuntu 20.04 + CUDA 12.8

Diagnostisch

Installieren Sie diese Binärdateien, um die Netzwerkleistung zu testen oder Fehler zu beheben.

Docker-Container
Bild us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic:v1.0.6
SHA256 a9ad0984f28e0c2ab40ea21f2c4e861c4ff9fffe1ba4a73f5efa2ec911ad7ca4
Basis Ubuntu 20.04 + CUDA 12.8

Versionskompatibilität

Maschinenserie Enthaltene NCCL-Version Unterstützte NCCL-Versionen Mindestversion des GPU-Treibers Mindestversion der CUDA-Laufzeit
A3 Ultra 2.26.6 2.23, 2.24, 2.25, 2.26 550.90.07 12.6
A4 2.26.6 2.25, 2.26 570.124.06 12,8

Aufschlüsselung nach Komponenten

Komponente Version
rdma-core (nicht in .deb- und .rpm-Paketen enthalten) 2307mlnx47
nccl 2.26.6
nccl-plugin-gib 1.0.6

Versionsprotokollierung

Wenn Sie die Versionslogs sehen möchten, legen Sie die Umgebungsvariablen NCCL_DEBUG=INFO und NCCL_DEBUG_SUBSYS=INIT fest.

Komponente Versionsprotokollierung
nccl NCCL-Version 2.26.6+cuda12.8
nccl-plugin-gib NET/gIB : Initializing gIB v1.0.6

Funktionen und Verbesserungen

Gesamt

  • Wichtige Updates für das NCCL-Profiler
  • A4-Leistungsoptimierung
  • NCCL-Shim-Korrekturen für NCCL 2.26

NCCL-Profiler

  • Unterstützung für die v3 API hinzugefügt (ohne CUDA-Kernel-Tracking)
  • Profiler-Plug-in wird standardmäßig in der Gastumgebung geladen

Leistung

  • Aktualisiert die Abstimmungsskripts für die A4-Plattform auf bis zu 64 Knoten
  • Wendet spezifische kollektive Optimierung für All-Gather, All-Reduce, Reduce-Scatter und Broadcast an.

Sonstiges

  • NCCL-Shim: Behebt das Problem beim Laden von gIB in NCCL 2.26
  • NCCL-Gastkonfiguration: Die Erzwingung von P2P-Chunk-Größen innerhalb von Knoten wird entfernt.
  • NCCL-Gastkonfiguration: Die Erzwingung von NCCL_IB_GID_INDEX wird entfernt.
  • NCCL-Kern: Updates auf Version 2.26.5
  • Entfernt die pci-utils-Abhängigkeit

NCCL/gIB v1.0.5

Veröffentlichungsdatum: 12. März 2025

Vordefinierte Binärdateien

In den folgenden Abschnitten werden die vorgefertigten Release- und Diagnose-Binärdateien aufgeführt.

Release

Installieren Sie diese Binärdateien für Produktionsarbeitslasten. Eine Installationsanleitung finden Sie unter NCCL auf Compute Engine-Instanzen ausführen.

Docker-Installationsprogramm
Bild us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib:v1.0.5
SHA256 19eb592ec6ba4c5fae0257bbff5a29af5a7a94a0a59f7b0afc1ace488b69dc39
Basis Alpine 3.21.0
Integriert Ubuntu 22.04 + CUDA 12.8
.deb-Paket
Repository us-apt.pkg.dev/projects/gce-ai-infra/gpudirect-gib-apt
Paket nccl-gib (1.0.5)
Basis Debian 12
Integriert Ubuntu 22.04 + CUDA 12.8
.rpm-Paket
Repository us-yum.pkg.dev/projects/gce-ai-infra/gpudirect-gib-rpm
Paket nccl-gib (1.0.5-2)
Basis Rocky Linux 9
Integriert Ubuntu 20.04 + CUDA 12.8

Diagnostisch

Installieren Sie diese Binärdateien, um die Netzwerkleistung zu testen oder Fehler zu beheben.

Docker-Container
Bild us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic:v1.0.5
SHA256 e8edbfe3cf6695d578dd38d7dda6ecdc8a357a1ed56f7f8593fc38cacd9fa05a
Basis Ubuntu 22.04 + CUDA 12.8

Versionskompatibilität

Maschinenserie Enthaltene NCCL-Version Unterstützte NCCL-Versionen Mindestversion des GPU-Treibers Mindestversion der CUDA-Laufzeit
A3 Ultra 2,25 2.23, 2.24, 2.25 550.90.07 12.6
A4 2,25 2,25 570.124.06 12,8

Aufschlüsselung nach Komponenten

Komponente Version
rdma-core (nicht in .deb- und .rpm-Paketen enthalten) 2307mlnx47
nccl 2.25.1
nccl-plugin-gib 1.0.5

Versionsprotokollierung

Wenn Sie die Versionslogs sehen möchten, legen Sie die Umgebungsvariablen NCCL_DEBUG=INFO und NCCL_DEBUG_SUBSYS=INIT fest.

Komponente Versionsprotokollierung
nccl NCCL-Version 2.25.1+cuda12.8
nccl-plugin-gib NET/gIB : Initializing gIB v1.0.5

Funktionen und Verbesserungen

Gesamt

  • Neu:NCCL/gIB-Pakete im .deb- und .rpm-Format hinzugefügt

Profiler-Plug-in

  • Experimentell:Implementierung des CoMMA-Profiler-Plug-ins von Google hinzugefügt

Leistung

  • Verbessert die Leistung von „all_reduce“ und „all_to_all“ auf A4-VMs
  • Verbessert die Leistung von kollektiven und all_to_all-Vorgängen im großen Maßstab auf A3 Ultra-VMs

Sonstiges

  • Automatisiert NCCL-Konfigurationen basierend auf der erkannten Maschinenform
  • Empfiehlt die Verwendung des gIB-Netzwerk-Plug-ins zu erzwingen

Bekannte Probleme

  • Wenn Sie NCCL 2.26 oder höher verwenden, kann das Festlegen von NCCL_NET=gIB zu einem NCCL-Absturz führen. Dieses Problem wurde in NCCL/gIB v1.0.6 behoben.

NCCL/gIB v1.0.4

Veröffentlichungsdatum: 24. Februar 2025

Vordefinierte Binärdateien

In den folgenden Abschnitten werden die vorgefertigten Release- und Diagnose-Binärdateien aufgeführt.

Release

Installieren Sie diese Binärdateien für Produktionsarbeitslasten. Eine Installationsanleitung finden Sie unter NCCL auf Compute Engine-Instanzen ausführen.

Docker-Installationsprogramm
Bild us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib:v1.0.4
SHA256 400bfb76ad4f3c153028a4e744ed3c4e924d2dae46e09b0efb2056804b8ed7cf
Basis Alpine 3.21.0
Integriert Ubuntu 22.04 + CUDA 12.8

Diagnostisch

Installieren Sie diese Binärdateien, um die Netzwerkleistung zu testen oder Fehler zu beheben.

Docker-Container
Bild us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic:v1.0.4
SHA256 fd7b1999e175306d4ac62b1cb8039b1b3386dbb8a529fae03256714f3284e460
Basis Ubuntu 22.04 + CUDA 12.8

Versionskompatibilität

Maschinenserie Enthaltene NCCL-Version Unterstützte NCCL-Versionen Mindestversion des GPU-Treibers Mindestversion der CUDA-Laufzeit
A3 Ultra 2,25 2.23, 2.24, 2.25 550.90.07 12.6

Aufschlüsselung nach Komponenten

Komponente Version
rdma-core (nicht in .deb- und .rpm-Paketen enthalten) 2307mlnx47
nccl 2.25.1
nccl-plugin-gib 1.0.4

Versionsprotokollierung

Wenn Sie die Versionslogs sehen möchten, legen Sie die Umgebungsvariablen NCCL_DEBUG=INFO und NCCL_DEBUG_SUBSYS=INIT fest.

Komponente Versionsprotokollierung
nccl NCCL-Version 2.25.1+cuda12.8
nccl-plugin-gib NET/gIB : Initializing gIB v1.0.4

Funktionen und Verbesserungen

Gesamt

  • Auf NCCL-Core 2.25 umgestellt, um A4- und A4X-VMs zu unterstützen
  • arm64-Builds hinzugefügt

GPUViz

  • GPUViz wurde dem Release-Build hinzugefügt.

Sonstiges

  • NCCL darf die zu verwendende Socket-Schnittstelle während des Bootstrapping automatisch erkennen.

Diverse Fehlerkorrekturen

  • Kleinere Fehlerkorrekturen für GPUViz

Bekannte Probleme

  • Wenn Sie NCCL 2.26 oder höher verwenden, kann das Festlegen von NCCL_NET=gIB zu einem NCCL-Absturz führen. Dieses Problem wurde in NCCL/gIB v1.0.6 behoben.

NCCL/gIB v1.0.3

Veröffentlichungsdatum: 18. Dezember 2024

Vordefinierte Binärdateien

In den folgenden Abschnitten werden die vorgefertigten Release- und Diagnose-Binärdateien aufgeführt.

Release

Installieren Sie diese Binärdateien für Produktionsarbeitslasten. Eine Installationsanleitung finden Sie unter NCCL auf Compute Engine-Instanzen ausführen.

Docker-Installationsprogramm
Bild us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib:v1.0.3
SHA256 04e288a184d5eac1eae7feedb275ddb1e8d7df9c1c0c5f794824151a47eafe90
Basis Alpine 3.21.0
Integriert Ubuntu 22.04 + CUDA 12.2

Diagnostisch

Installieren Sie diese Binärdateien, um die Netzwerkleistung zu testen oder Fehler zu beheben.

Docker-Container
Bild us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic:v1.0.3
SHA256 29f7a13a7a55fd09bfb266275fabec60835e0bde9d5deecffd676005e514a6f5
Basis Ubuntu 22.04 + CUDA 12.2

Versionskompatibilität

Maschinenserie Enthaltene NCCL-Version Unterstützte NCCL-Versionen Mindestversion des GPU-Treibers Mindestversion der CUDA-Laufzeit
A3 Ultra 2.23 2.23, 2.24, 2.25 550.90.07 12.6

Aufschlüsselung nach Komponenten

Komponente Version
rdma-core (nicht in .deb- und .rpm-Paketen enthalten) 2307mlnx47
nccl 2.23.4
nccl-plugin-gib 1.0.3

Versionsprotokollierung

Wenn Sie die Versionslogs sehen möchten, legen Sie die Umgebungsvariablen NCCL_DEBUG=INFO und NCCL_DEBUG_SUBSYS=INIT fest.

Komponente Versionsprotokollierung
nccl NCCL-Version 2.23.4+cuda12.2
nccl-plugin-gib NET/gIB : Initializing gIB v1.0.3

Funktionen und Verbesserungen

gIB net-Plug-in

  • Fügt Logging für Umgebungsvariablen des gIB-Netzwerk-Plug-ins hinzu
  • Aktiviert standardmäßig die Unterstützung mehrerer Pfade durch Gäste
  • Standardmäßig werden mehr QPs für komplexere P2P-Muster verwendet.

gIB-Gastkonfigurationsprüfung

  • Warnung, wenn die Gastkonfigurationsprüfung keine Konfigurationsdatei findet
  • Aktualisiert die Gastkonfiguration, sodass sie den empfohlenen Umgebungsvariablen für gIB v1.0.3 entspricht.

gIB-Tuner-Plug-in

  • Unterstützung für den PAT-Algorithmus (Parallel Aggregated Tree) hinzugefügt
  • Aktualisiert die Tuner-Konfigurationen für All-Reduce auf Weltebene bei 9 oder mehr Knoten für gIB v1.0.3.
  • Es wurden Tuner-Konfigurationen für kollektive Inhalte hinzugefügt, die sich an den Richtlinien orientieren.

GPUViz

  • GPUViz wurde dem Diagnose-Build hinzugefügt.

Sonstiges

  • Wichtige, nicht abwärtskompatible Änderung: Der NCCL/gIB-Container wird jetzt in zwei Container-Images aufgeteilt: „release“ und „diagnostic“.
    • Release
      • ~230 MB ohne Komprimierung, ~100 MB mit Komprimierung
      • Enthält nur die unbedingt erforderlichen Dateien für ein minimales Installationsprogramm.
      • Nicht abwärtskompatible Änderung:Die Shell- und Daemon-Unterbefehle wurden aus diesem Image entfernt.
    • Diagnose
      • ~10 GB ohne Komprimierung, ~5 GB mit Komprimierung
      • Für das Debugging entwickelt und enthält viele Debugging-Tools und Benchmarks wie NCCL-Tests und perftest
  • Das Skript wurde aktualisiert, um empfohlene NCCL-Umgebungsvariablen für gIB v1.0.3 festzulegen.
  • Diagnose: Installierter Ping im Diagnose-Build
  • Diagnose: Dem Diagnose-Build wurde „Neper“ hinzugefügt.
  • Diagnose: Ein Skript zum Ausgeben des RDMA-bezogenen Systemstatus wurde hinzugefügt.

Diverse Fehlerkorrekturen

  • Ein Problem wurde behoben, bei dem NCCL-Kern-Symlinks nicht optimal kopiert wurden.

Bekannte Probleme

  • Bei Verwendung von NCCL 2.26 oder höher kann das Festlegen von NCCL_NET=gIB zu einem NCCL-Absturz führen. Dieses Problem wurde in NCCL/gIB v1.0.6 behoben.