NCCL/gIB 출시 노트 (ARM 64비트)

이 페이지에서는 ARM 64비트 시스템의 NCCL/gIB 각 버전에 관한 출시 노트를 제공합니다. 각 출시 섹션에서는 포함된 바이너리, 지원되는 머신 시리즈, 새로운 기능과 개선사항을 설명합니다.

NCCL/gIB v1.1.2

출시일: 2026년 5월 14일

사전 빌드된 바이너리

다음 섹션에는 사전 빌드된 출시 및 진단 바이너리가 나열되어 있습니다.

출시

프로덕션 워크로드용 바이너리를 설치합니다. 설치 안내는 Compute Engine 인스턴스에서 NCCL 실행을 참고하세요.

Docker 설치 프로그램
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-arm64:v1.1.2
SHA256 6b7950cac6e6833661d4206920f5633b6e361b18bfd5315b63f9bf4a4b84a80e
기본 Alpine 3.21.0
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 13.0
.deb 패키지
저장소 https://packages.cloud.google.com/apt gpudirect-gib-apt
패키지 nccl-gib (1.1.2), nccl-gib-plugins (1.1.2)
기본 Debian 12
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 13.0
.rpm 패키지
저장소 https://packages.cloud.google.com/yum/repos/gpudirect-gib-rpm
패키지 nccl-gib (1.1.2-1), nccl-gib-plugins (1.1.2-1)
기본 Rocky Linux 9
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 13.0

진단

이러한 바이너리를 설치하여 네트워크 성능을 테스트하거나 문제를 해결합니다.

Docker 컨테이너
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic-arm64:v1.1.2
SHA256 44067b8118bf982fba30a1a61ab56d346aca30aedd1fe41d3880ab0a78cafbc8
기본 Ubuntu 22.04 + CUDA 13.0

버전 호환성

머신 계열 번들로 제공되는 NCCL 버전 지원되는 NCCL 버전 최소 GPU 드라이버 버전 최소 CUDA 런타임 버전
A4X 2.30.4 >= 2.25 580.95.05 13.0
A4X-Max 2.30.4 >= 2.28.9 580.95.05 13.0

구성요소 분석

구성요소 버전
rdma-core(.deb 및 .rpm 패키지에 포함되지 않음) 2307mlnx47
nccl 2.30.4
nccl-plugin-gib 1.1.2

버전 로깅

버전 로그를 보려면 NCCL_DEBUG=INFO 및 NCCL_DEBUG_SUBSYS=INIT 환경 변수를 설정하세요.'

구성요소 버전 로깅
nccl NCCL 버전 2.30.4+cuda13.0
nccl-plugin-gib NET/gIB : gIB 초기화 v1.1.2

기능 및 개선사항

환경 플러그인

  • 런타임 플랫폼에 따라 최적의 NCCL 환경 변수를 자동으로 적용하는 Google Cloud NCCL 환경 플러그인을 도입합니다. 환경 플러그인은 NCCL 2.28.7 이상을 사용할 때 자동으로 로드됩니다.

CoMMA (프로파일러 플러그인)

  • 응답하지 않는 워크로드 감지를 도입합니다. 이는 Google Cloud 의 새로운 기능으로, 하트비트 원격 분석을 사용하여 정체된 NCCL 프로세스를 감지합니다.

gIB 튜너 플러그인

  • 감지된 모든 Google Cloud플랫폼에 최적의 조정 구성을 자동으로 적용합니다.

nccl.conf

  • 파일에 쓰기 액세스 권한이 있으면 gIB가 /etc/nccl.conf에 씁니다. 따라서 nccl-gib 또는 nccl-gib-plugins 패키지를 설치할 때 LD_LIBRARY_PATH와 같은 환경 변수 설정을 변경할 필요가 없습니다.

새 패키지

  • nccl-gib-plugins는 Google의 NCCL 플러그인만 포함하는 새 패키지입니다. 이 패키지를 사용하려면 NVIDIA 저장소에서 NCCL을 설치하고 Google 저장소에서 APT 패키지 nccl-gib-plugins package를 설치해야 합니다.

  • Docker 설치 프로그램, 진단 컨테이너, nccl-gib package에는 사전 컴파일된 NCCL이 포함되어 있으며 계속 사용할 수 있습니다.

버그 수정

  • 대규모 isend() 요청을 처리할 때 gIB net 플러그인의 버그 수정
  • gIB net 플러그인이 NCCL 2.27 이상 버전과 호환되지 않을 수 있는 문제 수정
  • CoMMA의 안정성 문제 수정

NCCL/gIB v1.1.0

출시일: 2025년 12월 19일

사전 빌드된 바이너리

다음 섹션에는 사전 빌드된 출시 및 진단 바이너리가 나열되어 있습니다.

출시

프로덕션 워크로드용 바이너리를 설치합니다. 설치 안내는 Compute Engine 인스턴스에서 NCCL 실행을 참고하세요.

Docker 설치 프로그램
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-arm64:v1.1.0
SHA256 87197466ded5b2fb45887d37e104bb2550068b7ff7399bd3d35cbda8ee65a239
기본 Alpine 3.21.0
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 12.8
.deb 패키지
저장소 https://packages.cloud.google.com/apt gpudirect-gib-apt
패키지 nccl-gib (1.1.0)
기본 Debian 12
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 12.8
.rpm 패키지
저장소 https://packages.cloud.google.com/yum/repos/gpudirect-gib-rpm
패키지 nccl-gib (1.1.0)
기본 Rocky Linux 9
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 12.8

진단

이러한 바이너리를 설치하여 네트워크 성능을 테스트하거나 문제를 해결합니다.

Docker 컨테이너
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic-arm64:v1.1.0
SHA256 sha256:99caf8e01b3ded3b98775a141a78f31ee2745935aa6630eb6e0444790ce31cd7
기본 Ubuntu 22.04 + CUDA 12.8

버전 호환성

머신 계열 번들로 제공되는 NCCL 버전 지원되는 NCCL 버전 최소 GPU 드라이버 버전 최소 CUDA 런타임 버전
A4X 2.28.9-1 >= 2.28 570.124.06 12.8

구성요소 분석

구성요소 버전
rdma-core(.deb 및 .rpm 패키지에 포함되지 않음) 2307mlnx47 (MOFED 23.10-3.2.2.0 LTS 출시)
nccl 2.28.9
nccl-plugin-gib 1.1.0

버전 로깅

버전 로그를 보려면 NCCL_DEBUG=INFO 및 NCCL_DEBUG_SUBSYS=INIT 환경 변수를 설정하세요.

구성요소 버전 로깅
nccl NCCL 버전 2.28.9+cuda12.8
nccl-plugin-gib NET/gIB : gIB v1.1.0 초기화

기능 및 개선사항

전체

  • NCCL 원격 분석 (CoMMA)은 ARM 64비트 VM에서 사용할 수 있습니다.
  • 원격 분석 기능은 기본적으로 사용 설정되어 있습니다.

자세한 내용은 CoMMA 개요를 참고하세요.

gIB net 플러그인

  • v11 net 플러그인 인터페이스 지원 추가

기타

  • NCCL을 2.28.9로 업그레이드

버그 수정

  • gIB net 플러그인이 사용되고 NCCL_IB_MERGE_VFS이 명시적으로 0으로 설정되지 않은 경우 NCCL에서 세그먼트 오류가 발생할 수 있는 문제 수정

NCCL/gIB v1.0.7

출시일: 2025년 9월 15일

사전 빌드된 바이너리

다음 섹션에는 사전 빌드된 출시 및 진단 바이너리가 나열되어 있습니다.

출시

프로덕션 워크로드용 바이너리를 설치합니다. 설치 안내는 Compute Engine 인스턴스에서 NCCL 실행을 참고하세요.

Docker 설치 프로그램
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-arm64:v1.0.7
SHA256 27cb36a8d63746c16229bbf348ca34d2e18f7bb91ff8863635a299f599e3dd02
기본 Alpine 3.21.0
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 12.8
.deb 패키지
저장소 https://packages.cloud.google.com/apt gpudirect-gib-apt
패키지 nccl-gib (1.0.7)
기본 Debian 12
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 12.8
.rpm 패키지
저장소 https://packages.cloud.google.com/yum/repos/gpudirect-gib-rpm
패키지 nccl-gib (1.0.7)
기본 Rocky Linux 9
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 12.8

진단

이러한 바이너리를 설치하여 네트워크 성능을 테스트하거나 문제를 해결합니다.

Docker 컨테이너
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic-arm64:v1.0.7
SHA256 6a55af23d9671b7aa4ad5aed583b1875a935156117f6e659c1fde052837c0bff
기본 Ubuntu 22.04 + CUDA 12.8

버전 호환성

머신 계열 번들로 제공되는 NCCL 버전 지원되는 NCCL 버전 최소 GPU 드라이버 버전 최소 CUDA 런타임 버전
A4X 2.27.6 >= 2.25 570.124.06 12.8

구성요소 분석

구성요소 버전
rdma-core(.deb 및 .rpm 패키지에 포함되지 않음) 2307mlnx47
nccl 2.27.6
nccl-plugin-gib 1.0.7

버전 로깅

버전 로그를 보려면 NCCL_DEBUG=INFO 및 NCCL_DEBUG_SUBSYS=INIT 환경 변수를 설정하세요.

구성요소 버전 로깅
nccl NCCL 버전 2.27.6+cuda12.8
nccl-plugin-gib NET/gIB : gIB v1.0.7 초기화

기능 및 개선사항

gIB net 플러그인

  • 더 작은 청크 크기가 감지되면 더 적은 QP를 사용합니다. 이 업데이트는 더 복잡한 P2P 패턴의 성능을 크게 개선합니다.

기타

  • NCCL을 2.27.6으로 업그레이드
  • GB200에서 NCCL이 특정 상황에서 GPUDirect RDMA를 사용 중지할 수 있는 NCCL_CROSS_NIC=0 추천 중지
  • 더 정교한 P2P 패턴을 위해 권장 성능 조정 개선

버그 수정

gIB net 플러그인

  • 여러 NVLink 도메인에서 실행될 때 gIB net 플러그인으로 인해 더 복잡한 P2P 패턴에서 비정상 종료가 발생할 수 있는 문제 수정
  • NCCL_IB_DISABLE가 설정된 경우 gIB net 플러그인이 세그먼트 오류를 일으키는 문제 수정

기타

  • 메시 RC 핑퐁 스크립트가 mlx5_* 규칙을 따르는 RDMA NIC 이름만 인식하는 문제 수정

NCCL/gIB v1.0.6

출시일: 2025년 7월 2일

사전 빌드된 바이너리

다음 섹션에는 사전 빌드된 출시 및 진단 바이너리가 나열되어 있습니다.

출시

프로덕션 워크로드용 바이너리를 설치합니다. 설치 안내는 Compute Engine 인스턴스에서 NCCL 실행을 참고하세요.

Docker 설치 프로그램
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-arm64:v1.0.6
SHA256 4295c2f221a07d5c897db3f0cef113d7641e78b2a0bfba0803d030b6726e25c0
기본 Alpine 3.21.0
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 12.8
.deb 패키지
저장소 us-apt.pkg.dev/projects/gce-ai-infra/gpudirect-gib-apt
패키지 nccl-gib (1.0.6)
기본 Debian 12
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 12.8
.rpm 패키지
저장소 us-yum.pkg.dev/projects/gce-ai-infra/gpudirect-gib-rpm
패키지 nccl-gib (1.0.6)
기본 Rocky Linux 9
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 12.8

진단

이러한 바이너리를 설치하여 네트워크 성능을 테스트하거나 문제를 해결합니다.

Docker 컨테이너
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic-arm64:v1.0.6
SHA256 95062caa7cc72c857a2b0092970759bb775d35999ed5168ff2938062f68817c5
기본 Ubuntu 22.04 + CUDA 12.8

버전 호환성

머신 계열 번들로 제공되는 NCCL 버전 지원되는 NCCL 버전 최소 GPU 드라이버 버전 최소 CUDA 런타임 버전
A4X 2.27.5 >= 2.25 570.124.06 12.8

구성요소 분석

구성요소 버전
rdma-core(.deb 및 .rpm 패키지에 포함되지 않음) 2307mlnx47
nccl 2.27.5
nccl-plugin-gib 1.0.6

버전 로깅

버전 로그를 보려면 NCCL_DEBUG=INFO 및 NCCL_DEBUG_SUBSYS=INIT 환경 변수를 설정하세요.

구성요소 버전 로깅
nccl NCCL 버전 2.27.5+cuda12.8
nccl-plugin-gib NET/gIB : gIB v1.0.6 초기화

기능 및 개선사항

전체

  • arm64에 NCCL/gIB .deb 및 .rpm 패키지 추가
  • NCCL을 2.27.5로 업그레이드
  • 성능 조정 개선

기타

  • Google RoCE 네트워크용 gIB net 플러그인 튜닝 추가
  • 권장 설정에서 NVLink-SHARP를 사용 설정합니다.

NCCL/gIB v1.0.4

출시일: 2025년 2월 24일

사전 빌드된 바이너리

다음 섹션에는 사전 빌드된 출시 및 진단 바이너리가 나열되어 있습니다.

출시

프로덕션 워크로드용 바이너리를 설치합니다. 설치 안내는 Compute Engine 인스턴스에서 NCCL 실행을 참고하세요.

Docker 설치 프로그램
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-arm64:v1.0.4
SHA256 95b0f4c982a1824f488681179cea24249e95def7a82b918fd587836fd158a124
기본 Alpine 3.21.0
기본 제공 정보 유형 Ubuntu 22.04 + CUDA 12.8

진단

이러한 바이너리를 설치하여 네트워크 성능을 테스트하거나 문제를 해결합니다.

Docker 컨테이너
이미지 us-docker.pkg.dev/gce-ai-infra/gpudirect-gib/nccl-plugin-gib-diagnostic-arm64:v1.0.4
SHA256 3753ef5b6d7422ec0dd83e8ea83f4ebf16540c373067708a269ddae0aa97d509
기본 Ubuntu 22.04 + CUDA 12.8

구성요소 분석

구성요소 버전
rdma-core(.deb 및 .rpm 패키지에 포함되지 않음) 2307mlnx47
nccl 2.25.1
nccl-plugin-gib 1.0.4

버전 로깅

버전 로그를 보려면 NCCL_DEBUG=INFO 및 NCCL_DEBUG_SUBSYS=INIT 환경 변수를 설정하세요.

구성요소 버전 로깅
nccl NCCL 버전 2.25.1+cuda12.8
nccl-plugin-gib NET/gIB : gIB 초기화 v1.0.4

기능 및 개선사항

  • A4 (B200) 및 A4X (GB200)를 지원하기 위해 NCCL 코어 2.25로 리베이스
  • arm64 빌드 추가