Mulai Juli 2026, plugin gIB NCCL akan diintegrasikan langsung ke dalam container deep learning NGC NVIDIA, sehingga memberikan pengalaman "langsung pakai" yang memungkinkan Anda mencapai performa yang diharapkan untuk operasi kolektif di platform GPU Google Cloud tanpa konfigurasi atau penyesuaian manual.
Ringkasan integrasi
Image dasar NGC terintegrasi mencakup artefak berikut:
- Plugin lingkungan: Secara otomatis memverifikasi Google Cloud tempat tinggal dan mendeteksi profil hardware tertentu (seperti H200 atau GB200) untuk menerapkan variabel lingkungan yang optimal secara dinamis saat runtime.
- Plugin jaringan (gIB): Menyediakan multi-pathing tingkat tamu untuk transfer point-to-point berperforma tinggi dan load balancing yang lebih baik di jaringan Google.
- Plugin tuner: Mengoptimalkan operasi komunikasi kolektif secara dinamis khusus untuk Google Cloud topologi hardware dalam skala besar.
- Plugin profiler (CoMMA): Menampilkan telemetri dan pembuatan profil tingkat lanjut untuk mendeteksi saat workload tidak berjalan dan mengidentifikasi proses NCCL yang terhenti.
Plugin mendeteksi saat berjalan di platform Google Cloud yang didukung dan mengonfigurasi diri secara otomatis, sekaligus melakukan penggantian ke konfigurasi standar dengan baik di lingkungan yang tidak didukung.
Manfaat
Dengan menggunakan container NVIDIA NGC dengan plugin Google Cloud yang disematkan, Anda dapat mengharapkan hal berikut:
- Pengiriman yang lancar: Performa langsung di semua platform GPU yang didukung tanpa penyiapan yang rumit. Google Cloud
- Performa optimal: Deteksi lingkungan internal otomatis memastikan bandwidth dan latensi kolektif yang optimal secara langsung.
- Siap untuk diagnostik: Klien telemetri lanjutan bawaan, yang membantu dukungan Google memberikan bantuan yang lebih baik kepada Anda.
Platform yang didukung
Kontainer NGC dengan plugin gIB NCCL mendukungGoogle Cloud jenis mesin berikut:
- A3 Ultra (H200)
- A4 (B200)
- A4X (GB200)
- A4X Max (GB300)