A partir de julio de 2026, los complementos gIB NCCL se integrarán directamente en los contenedores de aprendizaje profundo de NGC de NVIDIA, lo que proporcionará una experiencia "lista para usar" que te permitirá lograr el rendimiento esperado para las operaciones colectivas en plataformas de GPU Google Cloud sin configuración ni ajuste manuales.
Descripción general de la integración
Las imágenes base de NGC integradas incluyen los siguientes artefactos:
- Complemento de entorno: Verifica automáticamente la Google Cloud residencia y detecta el perfil de hardware específico (como H200 o GB200) para aplicar de forma dinámica las variables de entorno óptimas en el tiempo de ejecución.
- Complemento de red (gIB): Proporciona varias rutas a nivel de invitado para transferencias de punto a punto de alto rendimiento y un mejor balanceo de cargas en las redes de Google.
- Complemento de ajuste: Optimiza de forma dinámica las operaciones de comunicación colectiva específicamente para las Google Cloud topologías de hardware a gran escala.
- Complemento de generador de perfiles (CoMMA): Incluye telemetría y generación de perfiles avanzadas para detectar cuándo una carga de trabajo no avanza y para identificar los procesos de NCCL detenidos.
Los complementos detectan cuándo se ejecutan en plataformas Google Cloud compatibles y se configuran automáticamente, mientras que vuelven a las configuraciones estándar en entornos no compatibles.
Los complementos gIB NCCL integrados se basan en el mismo código que antes solo estaba disponible como imágenes de contenedor de Docker o paquetes .deb y .rpm. Para obtener más
información sobre los paquetes independientes, consulta las
notas de la versión para las arquitecturas x86
y ARM64.
Los contenedores de NGC incluyen los complementos gIB versión 1.1.2 o posterior.
Beneficios
Si usas los contenedores de NGC de NVIDIA con los complementos incorporados Google Cloud , puedes esperar lo siguiente:
- Entrega sin interrupciones: Rendimiento inmediato en todas las plataformas de GPU compatibles sin configuración compleja. Google Cloud
- Rendimiento óptimo: La detección automática del entorno interno garantiza un ancho de banda y una latencia colectivos óptimos listos para usar.
- Diagnóstico listo: Cliente de telemetría avanzado integrado, lo que ayuda a la asistencia de Google a brindarte una mejor asistencia.
Plataformas compatibles
Los contenedores de NGC con complementos gIB NCCL admiten los siguientes Google Cloud tipos de máquinas:
- A3 Ultra (H200)
- A4 (B200)
- A4X (GB200)
- A4X Max (GB300)