自 2026 年 7 月起,gIB NCCL 外掛程式將直接整合至 NVIDIA 的 NGC 深度學習容器,提供「開箱即用」的體驗,讓您在 GPU 平台上執行集體作業時,不必手動設定或調整,就能達到預期效能。 Google Cloud
整合總覽
整合式 NGC 基礎映像檔包含下列構件:
- 環境外掛程式:自動驗證 Google Cloud 居住地,並偵測特定硬體設定檔 (例如 H200 或 GB200),以便在執行階段動態套用最佳環境變數。
- 網路外掛程式 (gIB):為高效能點對點傳輸提供客層級多路徑功能,並改善 Google 網路的負載平衡。
- 調整器外掛程式:動態最佳化集體通訊作業,特別是針對大規模的 Google Cloud 硬體拓撲。
- 分析器外掛程式 (CoMMA):提供進階遙測和分析功能,可偵測工作負載何時停止進度,並找出停滯的 NCCL 程序。
外掛程式會偵測是否在支援的 Google Cloud 平台上執行,並自動完成設定,在不支援的環境中則會順利回復為標準設定。
整合式 gIB NCCL 外掛程式是以先前僅以 Docker 容器映像檔或 .deb 和 .rpm 套件形式提供的相同程式碼為基礎。如要進一步瞭解獨立套件,請參閱 x86 和 ARM64 架構的版本資訊。NGC 容器包含 gIB 外掛程式 1.1.2 以上版本。
優點
使用內建外掛程式的 NVIDIA NGC 容器,可獲得以下優勢: Google Cloud
- 無縫交付:在所有支援的 Google CloudGPU 平台上立即提供效能,不需進行複雜設定。
- 最佳效能:自動偵測內部環境,確保提供最佳的集體頻寬和延遲。
- 診斷準備就緒:內建進階遙測用戶端,可協助 Google 支援團隊提供更完善的服務。
支援的平台
搭載 gIB NCCL 外掛程式的 NGC 容器支援下列Google Cloud 機器類型:
- A3 Ultra (H200)
- A4 (B200)
- A4X (GB200)
- A4X Max (GB300)