在 NVIDIA NGC 容器中使用 gIB NCCL 外掛程式

自 2026 年 7 月起，gIB NCCL 外掛程式將直接整合至 NVIDIA 的 NGC 深度學習容器，提供「開箱即用」的體驗，讓您在 Google Cloud GPU 平台上執行集體作業時，無需手動設定或調整，即可達到預期效能。

整合總覽

整合式 NGC 基礎映像檔包含下列構件：

  • 環境外掛程式：自動驗證 Google Cloud 居住地，並偵測特定硬體設定檔 (例如 H200 或 GB200)，以便在執行階段動態套用最佳環境變數。
  • 網路外掛程式 (gIB)：為高效能點對點傳輸提供客層級多路徑功能，並改善 Google 網路的負載平衡。
  • 調整器外掛程式：動態最佳化集體通訊作業，特別是針對大規模的 Google Cloud 硬體拓撲。
  • 分析器外掛程式 (CoMMA)：提供進階遙測和分析功能，可偵測工作負載何時停止進度，並找出停滯的 NCCL 程序。

外掛程式會偵測是否在支援的 Google Cloud 平台上執行，並自動完成設定，在不支援的環境中則會順利回復為標準設定。

優點

使用內建外掛程式的 NVIDIA NGC 容器，可獲得以下優勢： Google Cloud

  • 無縫交付：在所有支援的 Google CloudGPU 平台上立即提供效能，不需進行複雜設定。
  • 最佳效能：自動偵測內部環境，確保提供最佳的集體頻寬和延遲。
  • 診斷準備就緒：內建進階遙測用戶端，可協助 Google 支援團隊提供更完善的服務。

支援的平台

搭載 gIB NCCL 外掛程式的 NGC 容器支援下列Google Cloud 機器類型：

  • A3 Ultra (H200)
  • A4 (B200)
  • A4X (GB200)
  • A4X Max (GB300)