통합 개요
통합된 NGC 기본 이미지에는 다음 아티팩트가 포함됩니다.
- 환경 플러그인: 상주를 자동으로 확인하고 Google Cloud 특정 하드웨어 프로필 (예: H200 또는 GB200)을 감지하여 런타임에 최적의 환경 변수를 동적으로 적용합니다.
- 네트워크 플러그인 (gIB): 고성능 지점 간 전송을 위한 게스트 수준 멀티패스와 Google 네트워크의 향상된 부하 분산을 제공합니다.
- 튜너 플러그인: 집단 통신 작업을 동적으로 최적화합니다. 특히 Google Cloud 대규모 하드웨어 토폴로지를 위해.
- 프로파일러 플러그인 (CoMMA): 워크로드가 진행되지 않는 시점을 감지하고 정체된 NCCL 프로세스를 식별하는 고급 원격 분석 및 프로파일링을 제공합니다.
플러그인은 지원되는 Google Cloud 플랫폼에서 실행 중인 시점을 감지하고 자동으로 자체 구성하며, 지원되지 않는 환경에서는 표준 구성으로 정상적으로 대체됩니다.
통합된 gIB NCCL 플러그인은 이전에 Docker 컨테이너 이미지 또는 .deb 및 .rpm 패키지로만 제공되었던 동일한 코드를 기반으로 합니다. 독립형 패키지에 대한 자세한 내용은 x86
및 ARM64 아키텍처의
출시 노트를 참고하세요.
NGC 컨테이너에는 gIB 플러그인 버전 1.1.2 이상이 포함되어 있습니다.
이점
삽입된 Google Cloud 플러그인이 포함된 NVIDIA NGC 컨테이너를 사용하면 다음과 같은 이점을 누릴 수 있습니다.
- 원활한 제공: 복잡한 설정 없이 지원되는 모든 Google Cloud GPU 플랫폼에서 즉각적인 성능을 제공합니다.
- 최적의 성능: 자동화된 내부 환경 감지를 통해 기본적으로 최적의 집단 대역폭과 지연 시간을 보장합니다.
- 진단 준비: 고급 원격 분석 클라이언트가 기본 제공되어 Google 지원팀이 더 나은 지원을 제공할 수 있도록 도와줍니다.
지원되는 플랫폼
gIB NCCL 플러그인이 포함된 NGC 컨테이너는 다음 Google Cloud 머신 유형을 지원합니다.
- A3 Ultra (H200)
- A4 (B200)
- A4X (GB200)
- A4X Max (GB300)