Recursos de computação

Se você tiver interesse nos clusters de treinamento da Gemini Enterprise Agent Platform, entre em contato com seu representante de vendas para solicitar acesso.

Os clusters de treinamento da Gemini Enterprise Agent Platform são compatíveis com vários tipos de máquina para acomodar diferentes cargas de trabalho. É possível escolher entre as opções a seguir ao configurar os pools de nós do cluster.

Tipos de máquina com otimização para aceleradores

Tipo de máquina GPU GPUs por nó
a4x-highgpu-4g NVIDIA GB200 4
a4-highgpu-8g NVIDIA B200 8
a3-ultragpu-8g NVIDIA H200 8
a3-megagpu-8g NVIDIA H100 8
a3-highgpu-8g NVIDIA H100 8
g4-standard-48 NVIDIA RTX PRO 6000 Blackwell 1
g4-standard-96 NVIDIA RTX PRO 6000 Blackwell 2
g4-standard-192 NVIDIA RTX PRO 6000 Blackwell 4
g4-standard-384 NVIDIA RTX PRO 6000 Blackwell 8

Tipos de máquina de CPU e HPC

Tipo de máquina Descrição
Família N2: n2-standard-*, n2-highmem-*, n2-highcpu-* Nós de uso geral para pré-processamento de dados, orquestração de jobs e outras tarefas que não exigem um acelerador. A N2 também é compatível com nós de login do Slurm.
Família C4A: c4a-standard-*, c4a-highmem-*, c4a-highcpu-* Nós baseados em Arm (Axion), compatíveis apenas com nós de login do Slurm e apenas em clusters com pools de nós de computação também baseados em Arm. As variantes -lssd e -metal não são compatíveis.
Família H4D: h4d-standard-*, h4d-highmem-* Nós otimizados para HPC com rede RDMA, para cargas de trabalho de simulação e pré-processamento com acoplamento rígido.

Nós de login C4A

Os nós de login C4A são baseados em Arm e são compatíveis apenas com clusters em que todos os pool de nós de computação também são baseados em Arm, como A4X. Um cluster que combina um nó de login C4A com um pool de nós de computação x86, como N2 ou A3, é rejeitado quando você o cria.

Como o nó de login e os nós de computação compartilham a mesma arquitetura, os binários e as imagens de contêiner criados no nó de login são executados nos nós de computação para os quais são enviados.

A C4A só é compatível com um disco de inicialização hyperdisk-balanced, que é o padrão.

Tipo de máquina A4X

Os clusters de treinamento da Gemini Enterprise Agent Platform são compatíveis com o tipo de máquina otimizado para acelerador A4X (a4x-highgpu-4g), uma plataforma de exaescala baseada na arquitetura de escala de rack NVIDIA GB200 NVL72.

Comparação de arquitetura

A tabela a seguir descreve as diferenças fundamentais de hardware entre a família A4X e outras famílias otimizadas para aceleradores.

Recurso A4X (a4x-highgpu-4g) A3 / A4H
Arquitetura de CPU ARM X86
Contagem de GPUs 4 GPUs por nó 8 GPUs por nó
Tipo de reserva Modo de capacidade total Modo gerenciado
Política de posicionamento Rigoroso (compacto) Flexível

Diretrizes específicas para A4X

  • A contagem de VMs do pool de nós A4X precisa ser um múltiplo de 18 (por exemplo, 18, 36, 54). Isso é necessário porque a capacidade do A4X é provisionada em blocos fixos e não compartilháveis de 18 nós, chamados de domínios NVLink. Esses domínios estão vinculados a uma política de posicionamento compacto rigorosa, e os blocos parcialmente alocados não podem ser usados por outros clusters.
  • Devido à arquitetura baseada em ARM dos nós A4X, é necessário fazer duas mudanças importantes nas cargas de trabalho de treinamento:
    • Use imagens compatíveis com ARM: todos os jobs de treinamento precisam usar uma imagem do contêiner criada para a arquitetura ARM.
    • Adaptação para 4 GPUs: sua lógica de treinamento distribuído precisa ser atualizada para reconhecer e usar corretamente as 4 GPUs disponíveis em cada nó A4X.
  • Processo de relatório de falhas do host e inatividade Ao informar que um host está com falha, esteja ciente do seguinte processo de recuperação:
    • Sem capacidade de espera: o sistema não usa um pool de reserva em espera para uma substituição instantânea de nó.
    • Recuperação baseada em reparo: o nó permanece indisponível até que o host físico subjacente seja reparado.
    • Tempo de inatividade prolongado: esse processo de reparo geralmente leva de 3 a 14 dias.

Provisionamento de capacidade

Escolher o modelo de provisionamento certo é fundamental para equilibrar custo, velocidade e disponibilidade de recursos. Confira as seguintes opções de provisionamento:

  • RESERVATION: aloca nós de uma reserva específica do Compute Engine que você criou com antecedência. Esse modelo garante a capacidade e é a opção recomendada para recursos de alta demanda.

  • FLEX_START: usa o Dynamic Workload Scheduler para colocar o job na fila. O job começa automaticamente assim que os recursos de computação solicitados ficam disponíveis, oferecendo um horário de início flexível sem exigir uma reserva.

  • SPOT: provisiona o pool de nós usando VMs spot. Essa é a opção mais econômica, mas só deve ser usada para cargas de trabalho tolerantes a falhas e que possam lidar com interrupções, já que as VMs podem ser interrompidas a qualquer momento.

  • ON_DEMAND: essa é a opção padrão para pools de nós somente de CPU e é mais adequada para tipos de máquina que não são escassos. Ele fornece instâncias de VM padrão com preços previsíveis de pagamento por uso.

Use as orientações a seguir para fazer sua escolha:

  • Para recursos de GPU de alta demanda (como A3 e A4): o modelo RESERVATION é altamente recomendado. Ela garante que você tenha acesso dedicado à capacidade necessária para jobs de treinamento críticos.

  • Para cargas de trabalho flexíveis ou com picos: considere FLEX_START ou SPOT. O FLEX_START coloca o job em fila até que os recursos estejam disponíveis, enquanto o SPOT oferece uma economia de custos significativa para jobs tolerantes a falhas que podem lidar com preempção.

  • Para tipos de máquina abundantes: o modelo ON_DEMAND é a escolha preferida. Use-o para tipos de máquina que não são escassos e em que a disponibilidade imediata não é uma preocupação.

Como usar uma reserva compartilhada (opcional)

Se você quiser usar uma reserva compartilhada em vez de uma reserva local, há outras etapas a serem seguidas antes de criar um cluster.

Antes de usar uma reserva compartilhada com clusters de treinamento da Gemini Enterprise Agent Platform, verifique se ela funciona criando manualmente uma VM que use a reserva compartilhada. Se a criação da VM funcionar, siga para a próxima etapa. Na configuração de criação do cluster, use o nome da reserva no seguinte formato: projects/RESERVATION_HOST_PROJECT_ID/zones/RESERVATION_ZONE/reservations/RESERVATION_NAME.

A seguir

Depois de selecionar as opções de computação e provisionamento para o cluster de treinamento, você poderá criar o cluster e executar uma carga de trabalho nele.