A partir de julio de 2026, los complementos de NCCL de gIB se integrarán directamente en los contenedores de aprendizaje profundo de NGC de NVIDIA, lo que proporcionará una experiencia "lista para usar" que te permitirá alcanzar el rendimiento esperado para las operaciones colectivas en las plataformas de Google Cloud GPU sin necesidad de configuración o ajuste manuales.
Descripción general de la integración
Las imágenes base integradas de NGC incluyen los siguientes artefactos:
- Complemento de entorno: Verifica automáticamente la residencia de Google Cloud y detecta el perfil de hardware específico (como H200 o GB200) para aplicar de forma dinámica las variables de entorno óptimas durante el tiempo de ejecución.
- Complemento de red (gIB): Proporciona rutas múltiples a nivel del huésped para transferencias punto a punto de alto rendimiento y un mejor balanceo de cargas en las redes de Google.
- Complemento Tuner: Optimiza de forma dinámica las operaciones de comunicación colectiva específicamente para las topologías de hardware de Google Cloud a gran escala.
- Complemento Profiler (CoMMA): Ofrece telemetría y generación de perfiles avanzados para detectar cuándo una carga de trabajo no avanza y para identificar procesos NCCL detenidos.
Los complementos detectan cuándo se ejecutan en plataformas Google Cloud compatibles y se autoconfiguran automáticamente, mientras que vuelven a las configuraciones estándar en entornos no compatibles.
Beneficios
Si usas los contenedores de NVIDIA NGC con los complementos Google Cloud integrados, puedes esperar lo siguiente:
- Entrega sin interrupciones: Rendimiento inmediato en todas las plataformas de GPU Google Cloudcompatibles sin una configuración compleja.
- Rendimiento óptimo: La detección automatizada del entorno interno garantiza un ancho de banda y una latencia colectivos óptimos de inmediato.
- Listo para el diagnóstico: Cliente de telemetría avanzado integrado que ayuda al equipo de asistencia de Google a brindarte una mejor asistencia.
Plataformas compatibles
Los contenedores de NGC con complementos de NCCL de gIB admiten los siguientesGoogle Cloud tipos de máquinas:
- A3 Ultra (H200)
- A4 (B200)
- A4X (GB200)
- A4X Max (GB300)