A partir de julho de 2026, os plug-ins gIB NCCL serão integrados diretamente aos contêineres de aprendizado profundo da NGC da NVIDIA, oferecendo uma experiência "pronta para uso" que permite alcançar o desempenho esperado para operações coletivas em plataformas de GPU Google Cloud sem configuração ou ajuste manual.
Visão geral da integração
As imagens de base integradas do NGC incluem os seguintes artefatos:
- Plug-in de ambiente:verifica automaticamente a residência do Google Cloud e detecta o perfil de hardware específico (como H200 ou GB200) para aplicar dinamicamente as variáveis de ambiente ideais no tempo de execução.
- Plug-in de rede (gIB): oferece multipath no nível do convidado para transferências ponto a ponto de alta performance e balanceamento de carga aprimorado nas redes do Google.
- Plug-in Tuner:otimiza dinamicamente as operações de comunicação coletiva especificamente para topologias de hardware Google Cloud em grande escala.
- Plug-in Profiler (CoMMA):recursos de telemetria e criação de perfis avançados para detectar quando uma carga de trabalho não está progredindo e identificar processos NCCL paralisados.
Os plug-ins detectam quando estão sendo executados em plataformas Google Cloud compatíveis e se autoconfiguram automaticamente, voltando para configurações padrão em ambientes sem suporte.
Vantagens
Ao usar os contêineres NVIDIA NGC com os plug-ins Google Cloud incorporados, você pode esperar o seguinte:
- Entrega integrada:performance imediata em todas as plataformas de GPU Google Cloudcompatíveis sem configuração complexa.
- Performance ideal:a detecção automatizada do ambiente interno garante largura de banda e latência coletivas ideais de imediato.
- Diagnósticos prontos:cliente de telemetria avançada integrado para ajudar o suporte do Google a oferecer uma assistência melhor.
Plataformas compatíveis
Os contêineres da NGC com plug-ins gIB NCCL são compatíveis com os seguintes tipos de máquinaGoogle Cloud :
- A3 Ultra (H200)
- A4 (B200)
- A4X (GB200)
- A4X Max (GB300)