NCCL/gIB 출시 노트 (x86 64비트)

이 페이지에서는 x86 64비트 시스템의 NCCL/gIB 각 버전에 관한 출시 노트를 제공합니다. 각 출시 섹션에서는 포함된 바이너리, 지원되는 머신 시리즈, 새로운 기능과 개선사항을 설명합니다.

NCCL/gIB v1.1.2

출시일: 2026년 5월 14일

사전 빌드된 바이너리

다음 섹션에는 사전 빌드된 출시 및 진단 바이너리가 나열되어 있습니다.

출시

프로덕션 워크로드용 바이너리를 설치합니다. 설치 안내는 Compute Engine 인스턴스에서 NCCL 실행을 참고하세요.

Docker 설치 프로그램
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib:v1.1.2
SHA256 b71627dcf88862cd0e64434dfd0224441960db58f2022f94b5f56123659c207e
기본 Alpine 3.21.0
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 13.0
.deb 패키지
저장소 https://packages.cloud.google.com/apt gpudirect-gib-apt
패키지 nccl-gib (1.1.2), nccl-gib-plugins (1.1.2)
기본 Ubuntu 22.04
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 13.0
.rpm 패키지
저장소 https://packages.cloud.google.com/yum/repos/gpudirect-gib-rpm
패키지 nccl-gib (1.1.2-1), nccl-gib-plugins (1.1.2-1)
기본 Rocky Linux 9
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 13.0

진단

이러한 바이너리를 설치하여 네트워크 성능을 테스트하거나 문제를 해결합니다.

Docker 컨테이너
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic:v1.1.2
SHA256 61c917022538e59d24f597038a8ad7087a026d60715256ae39e7f06ef20ebde0
기본 Ubuntu 22.04 + CUDA 13.0

버전 호환성

머신 계열 번들로 제공되는 NCCL 버전 지원되는 NCCL 버전 최소 GPU 드라이버 버전 최소 CUDA 런타임 버전
A3 Ultra 2.30.4 >= 2.23 550.90.07 12.6
A4 2.30.4 >= 2.25 580.126.09 12.8

구성요소 분석

구성요소 버전
rdma-core(.deb 및 .rpm 패키지에 포함되지 않음) 2307mlnx47
nccl 2.30.4
nccl-plugin-gib 1.1.2

버전 로깅

버전 로그를 보려면 NCCL_DEBUG=INFO 및 NCCL_DEBUG_SUBSYS=INIT 환경 변수를 설정하세요.

구성요소 버전 로깅
nccl NCCL 버전 2.30.4+cuda13.0
nccl-plugin-gib NET/gIB : gIB 초기화 v1.1.2

기능 및 개선사항

환경 플러그인

  • 런타임 플랫폼에 따라 최적의 NCCL 환경 변수를 자동으로 적용하는 Google Cloud NCCL 환경 플러그인을 도입합니다. 환경 플러그인은 NCCL 2.28.7 이상을 사용할 때 자동으로 로드됩니다.

gIB net 플러그인

버그 수정
  • 대규모 isend() 요청을 처리할 때 gIB net 플러그인의 버그 수정
  • gIB net 플러그인이 NCCL 2.27 이상과 호환되지 않을 수 있는 문제 수정
  • CoMMA의 안정성 문제 수정

CoMMA (프로파일러 플러그인):

  • 응답하지 않는 워크로드 감지를 도입합니다. 이는 Google Cloud 의 새로운 기능으로, 하트비트 원격 분석을 사용하여 정체된 NCCL 프로세스를 감지합니다.

gIB 튜너 플러그인

  • 감지된 모든 Google Cloud플랫폼에 최적의 조정 구성을 자동으로 적용합니다.

nccl.conf

  • 파일에 쓰기 액세스 권한이 있으면 gIB가 /etc/nccl.conf에 씁니다. 따라서 nccl-gib 또는 nccl-gib-plugins 패키지를 설치할 때 LD_LIBRARY_PATH를 비롯한 환경 변수 설정을 변경할 필요가 없습니다.

새 패키지

  • nccl-gib-plugins는 Google의 NCCL 플러그인만 포함하는 새 패키지입니다. 이 패키지를 사용하려면 NVIDIA 저장소에서 NCCL을 설치하고 Google 저장소에서 APT 패키지 nccl-gib-plugins package를 설치해야 합니다.

  • Docker 설치 프로그램, 진단 컨테이너, nccl-gib package에는 사전 컴파일된 NCCL이 포함되어 있으며 계속 사용할 수 있습니다.

NCCL/gIB v1.1.0

출시일: 2025년 7월 14일

사전 빌드된 바이너리

다음 섹션에는 사전 빌드된 출시 및 진단 바이너리가 나열되어 있습니다.

출시

프로덕션 워크로드용 바이너리를 설치합니다. 설치 안내는 Compute Engine 인스턴스에서 NCCL 실행을 참고하세요.

Docker 설치 프로그램
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib:v1.1.0
SHA256 81c7165f1b41ee096d86f4cfe5a61f5c788546cf6ddc88aba3f0b88a5902af49
기본 Alpine 3.21.0
기본 제공 정보 유형 Ubuntu 20.04 + CUDA 12.8
.deb 패키지
저장소 https://packages.cloud.google.com/apt gpudirect-gib-apt
패키지 nccl-gib (1.1.0)
기본 Ubuntu 20.04
기본 제공 정보 유형 Ubuntu 20.04 + CUDA 12.8
.rpm 패키지
저장소 https://packages.cloud.google.com/yum/repos/gpudirect-gib-rpm
패키지 nccl-gib (1.1.0-1)
기본 Rocky Linux 9
기본 제공 정보 유형 Ubuntu 20.04 + CUDA 12.8

진단

이러한 바이너리를 설치하여 네트워크 성능을 테스트하거나 문제를 해결합니다.

Docker 컨테이너
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic:v1.1.0
SHA256 ee9682122220105b83187bd6eecc8cafbe739dcfb631a54b6059a8f1141038f9
기본 Ubuntu 20.04 + CUDA 12.8

버전 호환성

머신 계열 번들로 제공되는 NCCL 버전 지원되는 NCCL 버전 최소 GPU 드라이버 버전 최소 CUDA 런타임 버전
A3 Ultra 2.27.5 >= 2.23 550.90.07 12.6
A4 2.27.5 >= 2.25 570.124.06 12.8

구성요소 분석

구성요소 버전
rdma-core(.deb 및 .rpm 패키지에 포함되지 않음) 2307mlnx47
nccl 2.27.5
nccl-plugin-gib 1.1.0

버전 로깅

버전 로그를 보려면 NCCL_DEBUG=INFO 및 NCCL_DEBUG_SUBSYS=INIT 환경 변수를 설정하세요.

구성요소 버전 로깅
nccl NCCL 버전 2.27.5+cuda12.8
nccl-plugin-gib NET/gIB : gIB v1.1.0 초기화

기능 및 개선사항

전체

  • 상시 NCCL 텔레메트리 GA
  • 이 버전은 낙오 항목 감지에 필요한 모든 원격 분석을 제공합니다.

CoMMA (프로파일러 플러그인) GA

  • 안정성 개선
  • 수신자를 위한 발신자 측 대기를 추적하는 기능 추가
  • 오픈소스 버전은 CoMMA GitHub 저장소에서 확인할 수 있습니다.

자세한 내용은 CoMMA 개요를 참고하세요.

NCCL/gIB v1.0.6

출시일: 2025년 6월 16일

사전 빌드된 바이너리

다음 섹션에는 사전 빌드된 출시 및 진단 바이너리가 나열되어 있습니다.

출시

프로덕션 워크로드용 바이너리를 설치합니다. 설치 안내는 Compute Engine 인스턴스에서 NCCL 실행을 참고하세요.

Docker 설치 프로그램
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib:v1.0.6
SHA256 b0d5e1f29ca89c33b5b6252ca635a8c3889f553de3a382ba07c9b1f43fcf452f
기본 Alpine 3.21.0
기본 제공 정보 유형 Ubuntu 20.04 + CUDA 12.8
.deb 패키지
저장소 us-apt.pkg.dev/projects/gce-ai-infra/gpudirect-gib-apt
패키지 nccl-gib (1.0.6.1)
기본 Debian 12
기본 제공 정보 유형 Ubuntu 20.04 + CUDA 12.8
.rpm 패키지
저장소 us-yum.pkg.dev/projects/gce-ai-infra/gpudirect-gib-rpm
패키지 nccl-gib (1.0.6-1)
기본 Rocky Linux 9
기본 제공 정보 유형 Ubuntu 20.04 + CUDA 12.8

진단

이러한 바이너리를 설치하여 네트워크 성능을 테스트하거나 문제를 해결합니다.

Docker 컨테이너
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic:v1.0.6
SHA256 a9ad0984f28e0c2ab40ea21f2c4e861c4ff9fffe1ba4a73f5efa2ec911ad7ca4
기본 Ubuntu 20.04 + CUDA 12.8

버전 호환성

머신 계열 번들로 제공되는 NCCL 버전 지원되는 NCCL 버전 최소 GPU 드라이버 버전 최소 CUDA 런타임 버전
A3 Ultra 2.26.6 2.23, 2.24, 2.25, 2.26 550.90.07 12.6
A4 2.26.6 2.25, 2.26 570.124.06 12.8

구성요소 분석

구성요소 버전
rdma-core(.deb 및 .rpm 패키지에 포함되지 않음) 2307mlnx47
nccl 2.26.6
nccl-plugin-gib 1.0.6

버전 로깅

버전 로그를 보려면 NCCL_DEBUG=INFO 및 NCCL_DEBUG_SUBSYS=INIT 환경 변수를 설정하세요.

구성요소 버전 로깅
nccl NCCL 버전 2.26.6+cuda12.8
nccl-plugin-gib NET/gIB : gIB v1.0.6 초기화

기능 및 개선사항

전체

  • NCCL 프로파일러 주요 업데이트
  • A4 성능 조정 최적화
  • NCCL 2.26용 NCCL shim 수정사항

NCCL 프로파일러

  • CUDA 커널 추적 없이 v3 API 지원 추가
  • 프로파일러 플러그인이 게스트 환경에서 기본적으로 로드됨

성능

  • 최대 64개 노드 규모의 A4 플랫폼용 튜닝 스크립트 업데이트
  • all-gather, all-reduce, reduce-scatter, broadcast에 특정 집단 튜닝 적용

기타

  • NCCL shim: NCCL 2.26 gIB 로드 문제 수정
  • NCCL 게스트 구성: 노드 내 P2P 청크 크기에 대한 강제 적용 삭제
  • NCCL 게스트 구성: NCCL_IB_GID_INDEX 적용 삭제
  • NCCL 코어: 2.26.5로 업데이트
  • pci-utils 종속 항목 삭제

NCCL/gIB v1.0.5

출시일: 2025년 3월 12일

사전 빌드된 바이너리

다음 섹션에는 사전 빌드된 출시 및 진단 바이너리가 나열되어 있습니다.

출시

프로덕션 워크로드용 바이너리를 설치합니다. 설치 안내는 Compute Engine 인스턴스에서 NCCL 실행을 참고하세요.

Docker 설치 프로그램
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib:v1.0.5
SHA256 19eb592ec6ba4c5fae0257bbff5a29af5a7a94a0a59f7b0afc1ace488b69dc39
기본 Alpine 3.21.0
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 12.8
.deb 패키지
저장소 us-apt.pkg.dev/projects/gce-ai-infra/gpudirect-gib-apt
패키지 nccl-gib (1.0.5)
기본 Debian 12
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 12.8
.rpm 패키지
저장소 us-yum.pkg.dev/projects/gce-ai-infra/gpudirect-gib-rpm
패키지 nccl-gib (1.0.5-2)
기본 Rocky Linux 9
기본 제공 정보 유형 Ubuntu 20.04 + CUDA 12.8

진단

이러한 바이너리를 설치하여 네트워크 성능을 테스트하거나 문제를 해결합니다.

Docker 컨테이너
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic:v1.0.5
SHA256 e8edbfe3cf6695d578dd38d7dda6ecdc8a357a1ed56f7f8593fc38cacd9fa05a
기본 Ubuntu 22.04 + CUDA 12.8

버전 호환성

머신 계열 번들로 제공되는 NCCL 버전 지원되는 NCCL 버전 최소 GPU 드라이버 버전 최소 CUDA 런타임 버전
A3 Ultra 2.25 2.23, 2.24, 2.25 550.90.07 12.6
A4 2.25 2.25 570.124.06 12.8

구성요소 분석

구성요소 버전
rdma-core(.deb 및 .rpm 패키지에 포함되지 않음) 2307mlnx47
nccl 2.25.1
nccl-plugin-gib 1.0.5

버전 로깅

버전 로그를 보려면 NCCL_DEBUG=INFO 및 NCCL_DEBUG_SUBSYS=INIT 환경 변수를 설정하세요.

구성요소 버전 로깅
nccl NCCL 버전 2.25.1+cuda12.8
nccl-plugin-gib NET/gIB : gIB v1.0.5 초기화

기능 및 개선사항

전체

  • 신규: NCCL/gIB .deb 및 .rpm 패키지 추가

프로파일러 플러그인

  • 실험용: Google의 CoMMA 프로파일러 플러그인 구현 추가

성능

  • A4 VM에서 all_reduce 및 all_to_all 성능 개선
  • A3 Ultra VM에서 대규모 집단 및 all_to_all 성능 개선

기타

  • 감지된 머신 형태에 따라 NCCL 구성을 자동화합니다.
  • gIB net 플러그인 사용을 강제하도록 권장

알려진 문제

  • NCCL 2.26 이상을 사용하는 경우 NCCL_NET=gIB를 설정하면 NCCL이 비정상 종료될 수 있습니다. 이 문제는 NCCL/gIB v1.0.6에서 해결되었습니다.

NCCL/gIB v1.0.4

출시일: 2025년 2월 24일

사전 빌드된 바이너리

다음 섹션에는 사전 빌드된 출시 및 진단 바이너리가 나열되어 있습니다.

출시

프로덕션 워크로드용 바이너리를 설치합니다. 설치 안내는 Compute Engine 인스턴스에서 NCCL 실행을 참고하세요.

Docker 설치 프로그램
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib:v1.0.4
SHA256 400bfb76ad4f3c153028a4e744ed3c4e924d2dae46e09b0efb2056804b8ed7cf
기본 Alpine 3.21.0
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 12.8

진단

이러한 바이너리를 설치하여 네트워크 성능을 테스트하거나 문제를 해결합니다.

Docker 컨테이너
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic:v1.0.4
SHA256 fd7b1999e175306d4ac62b1cb8039b1b3386dbb8a529fae03256714f3284e460
기본 Ubuntu 22.04 + CUDA 12.8

버전 호환성

머신 계열 번들로 제공되는 NCCL 버전 지원되는 NCCL 버전 최소 GPU 드라이버 버전 최소 CUDA 런타임 버전
A3 Ultra 2.25 2.23, 2.24, 2.25 550.90.07 12.6

구성요소 분석

구성요소 버전
rdma-core(.deb 및 .rpm 패키지에 포함되지 않음) 2307mlnx47
nccl 2.25.1
nccl-plugin-gib 1.0.4

버전 로깅

버전 로그를 보려면 NCCL_DEBUG=INFO 및 NCCL_DEBUG_SUBSYS=INIT 환경 변수를 설정하세요.

구성요소 버전 로깅
nccl NCCL 버전 2.25.1+cuda12.8
nccl-plugin-gib NET/gIB : gIB 초기화 v1.0.4

기능 및 개선사항

전체

  • A4 및 A4X VM을 지원하기 위해 NCCL 코어 2.25로 리베이스
  • arm64 빌드 추가

GPUViz

  • 출시 빌드에 GPUViz 추가

기타

  • 부트스트랩 중에 사용할 소켓 인터페이스를 NCCL이 자동으로 감지하도록 허용

버그 수정

  • GPUViz의 사소한 버그 수정

알려진 문제

  • NCCL 2.26 이상을 사용하는 경우 NCCL_NET=gIB를 설정하면 NCCL이 비정상 종료될 수 있습니다. 이 문제는 NCCL/gIB v1.0.6에서 해결되었습니다.

NCCL/gIB v1.0.3

출시일: 2024년 12월 18일

사전 빌드된 바이너리

다음 섹션에는 사전 빌드된 출시 및 진단 바이너리가 나열되어 있습니다.

출시

프로덕션 워크로드용 바이너리를 설치합니다. 설치 안내는 Compute Engine 인스턴스에서 NCCL 실행을 참고하세요.

Docker 설치 프로그램
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib:v1.0.3
SHA256 04e288a184d5eac1eae7feedb275ddb1e8d7df9c1c0c5f794824151a47eafe90
기본 Alpine 3.21.0
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 12.2

진단

이러한 바이너리를 설치하여 네트워크 성능을 테스트하거나 문제를 해결합니다.

Docker 컨테이너
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic:v1.0.3
SHA256 29f7a13a7a55fd09bfb266275fabec60835e0bde9d5deecffd676005e514a6f5
기본 Ubuntu 22.04 + CUDA 12.2

버전 호환성

머신 계열 번들로 제공되는 NCCL 버전 지원되는 NCCL 버전 최소 GPU 드라이버 버전 최소 CUDA 런타임 버전
A3 Ultra 2.23 2.23, 2.24, 2.25 550.90.07 12.6

구성요소 분석

구성요소 버전
rdma-core(.deb 및 .rpm 패키지에 포함되지 않음) 2307mlnx47
nccl 2.23.4
nccl-plugin-gib 1.0.3

버전 로깅

버전 로그를 보려면 NCCL_DEBUG=INFO 및 NCCL_DEBUG_SUBSYS=INIT 환경 변수를 설정하세요.

구성요소 버전 로깅
nccl NCCL 버전 2.23.4+cuda12.2
nccl-plugin-gib NET/gIB : gIB v1.0.3 초기화

기능 및 개선사항

gIB net 플러그인

  • gIB net 플러그인 환경 변수 로깅 추가
  • 기본적으로 게스트 지원 멀티 패스 사용 설정
  • 기본적으로 더 정교한 P2P 패턴에 더 많은 QP 사용

gIB 게스트 구성 검사기

  • 게스트 구성 검사기에서 구성 파일을 찾을 수 없는 경우 경고 제공
  • gIB v1.0.3의 권장 환경 변수와 일치하도록 게스트 구성을 업데이트합니다.

gIB 튜너 플러그인

  • 병렬 집계 트리 (PAT) 알고리즘 지원 추가
  • gIB v1.0.3의 노드가 9개 이상인 경우 전 세계 수준의 all-reduce에 대한 튜너 구성을 업데이트합니다.
  • 레일 정렬 집단의 튜너 구성 추가

GPUViz

  • 진단 빌드에 GPUViz가 추가되었습니다.

기타

  • 중요, 이전 버전과 호환되지 않는 변경사항: NCCL/gIB 컨테이너가 이제 release 및 diagnostic이라는 두 개의 컨테이너 이미지로 분할됩니다.
    • 출시
      • 압축하지 않은 경우 약 230MB, 압축한 경우 약 100MB
      • 최소 설치 프로그램에 꼭 필요한 파일만 포함합니다.
      • 하위 호환되지 않는 변경사항: 셸 및 데몬 하위 명령어가 이 이미지에서 삭제되었습니다.
    • 진단
      • 압축하지 않은 경우 약 10GB, 압축한 경우 약 5GB
      • 디버깅용으로 설계되었으며 NCCL 테스트 및 perftest와 같은 여러 디버깅 유틸리티와 벤치마크가 포함되어 있습니다.
  • gIB v1.0.3에 권장되는 NCCL 환경 변수를 설정하도록 스크립트가 업데이트되었습니다.
  • 진단: 진단 빌드에 핑 설치
  • 진단: 진단 빌드에 neper 추가
  • 진단: RDMA 관련 시스템 상태를 덤프하는 스크립트 추가

버그 수정

  • NCCL 코어 심볼릭 링크가 최적으로 복사되지 않는 문제가 해결되었습니다.

알려진 문제

  • NCCL 2.26 이상을 사용하는 경우 NCCL_NET=gIB를 설정하면 NCCL이 비정상 종료될 수 있습니다. 이 문제는 NCCL/gIB v1.0.6에서 해결되었습니다.