Sobre a inicialização mais rápida da carga de trabalho com nós de início rápido

Autopilot

Nesta página, mostramos como implantar e escalonar cargas de trabalho mais rapidamente em clusters do Google Kubernetes Engine (GKE) usando nós de inicialização rápida. Os nós de inicialização rápida são usados no GKE com o modo Autopilot da melhor maneira possível quando as cargas de trabalho usam configurações compatíveis.

Os nós do GKE de inicialização rápida têm um tempo de inicialização significativamente menor para famílias de máquinas compatíveis. O tempo de inicialização acelerado oferece os seguintes benefícios:

Inicialização a frio mais rápida
Escalonamento automático mais rápido
Melhoria na latência de cauda longa do agendamento de pods
Melhoria na eficiência de custos da infraestrutura

Com nós de inicialização rápida, o GKE pré-inicializa recursos de hardware para acelerar o tempo de inicialização. Os recursos pré-inicializados estão disponíveis com base no melhor esforço. As solicitações de aumento repentino podem ser atendidas apenas parcialmente. Sem nós de inicialização rápida, os recursos são inicializados sob demanda, e os nós são atendidos no tempo de inicialização normal.

Requisitos

Os nós de inicialização rápida não exigem configuração adicional. O GKE usa automaticamente nós de inicialização rápida se as cargas de trabalho usarem configurações compatíveis. Você precisa atender a todos os requisitos a seguir para usar nós de inicialização rápida:

Use clusters do Autopilot ou execute cargas de trabalho no modo Autopilot nos clusters padrão.
Não use recursos incompatíveis com nós de inicialização rápida. Para mais informações, consulte Limitações.
Use um dos seguintes recursos de computação, descritos nas tabelas correspondentes na seção Requisitos de configuração para recursos de computação qualificados:

Limitações

Os seguintes recursos não são compatíveis com nós do GKE de inicialização rápida. Se você usar qualquer um desses recursos, o GKE vai provisionar nós com o tempo de inicialização típico:

G2 com a versão DEFAULT do driver de GPU em versões do GKE anteriores a 1.33.0-gke.1304000. Para 1.33.0-gke.1304000 ou mais recente, LATEST e DEFAULT funcionam com nós de inicialização rápida.
Discos de inicialização secundários em versões anteriores a 1.33.2-gke.1015000.
Chaves de criptografia gerenciadas pelo cliente (CMEK)
Spot VMs
Políticas de posicionamento
Suporte a várias redes

Cargas de trabalho de GPU do Autopilot

Solicitar GPUs compatíveis no modo Autopilot resulta em um tempo de inicialização de nós até quatro vezes mais rápido e um tempo de programação de pods até duas vezes mais rápido do que solicitações semelhantes no modo GKE Standard, porque as cargas de trabalho de GPU do Autopilot podem usar nós de inicialização rápida.

Confira alguns exemplos de casos de uso: No entanto, todos os pods que atendem às condições da seção Requisitos são compatíveis com nós de inicialização rápida.

ComputeClass

Solicite um tipo e uma contagem de aceleradores compatíveis em uma ComputeClass, como no exemplo a seguir:

apiVersion: cloud.google.com/v1
kind: ComputeClass
metadata:
  name: ACCELERATOR_COMPUTE_CLASS_NAME
spec:
  priorities:
  - gpu:
      type: ACCELERATOR_TYPE
      count: ACCELERATOR_COUNT
  nodePoolAutoCreation:
    enabled: true

Quando você seleciona essa ComputeClass em um pod, como no exemplo a seguir, o GKE usa nós de inicialização rápida:

apiVersion: v1
kind: Pod
metadata:
  name: POD_NAME
spec:
  nodeSelector:
    # Select a ComputeClass that requests compatible GPUs
    cloud.google.com/compute-class: ACCELERATOR_COMPUTE_CLASS_NAME
  containers:
  - name: my-container
    image: gcr.io/google_containers/pause
    resources:
      limits:
        nvidia.com/gpu: ACCELERATOR_COUNT

Substitua os seguintes valores:

ACCELERATOR_COMPUTE_CLASS_NAME: o nome da ComputeClass que solicita os aceleradores.
ACCELERATOR_TYPE: o tipo de acelerador.
ACCELERATOR_COUNT: o número de aceleradores necessários para o pod. Esse valor precisa ser menor ou igual ao valor no campo spec.priorities.gpu.count em ComputeClass.
POD_NAME: o nome do pod.

Para mais informações sobre ComputeClass, consulte Sobre as classes de computação personalizadas.

Especificação do pod

Selecione um tipo e uma contagem de aceleradores compatíveis na especificação do pod, como no exemplo a seguir:

apiVersion: v1
kind: Pod
metadata:
  name: POD_NAME
spec:
  nodeSelector:
    cloud.google.com/gke-accelerator: ACCELERATOR_NAME
  containers:
  - name: my-container
    image: gcr.io/google_containers/pause
    resources:
      limits:
        nvidia.com/gpu: ACCELERATOR_COUNT

Substitua os seguintes valores:

POD_NAME: o nome do pod.
ACCELERATOR_NAME: o nome do acelerador exigido pelo pod.
ACCELERATOR_COUNT: o número de aceleradores necessários para o pod.

Requisitos de configuração para recursos de computação qualificados

As tabelas nas seções a seguir descrevem os requisitos específicos para que o GKE provisione os recursos de computação relevantes como nós de inicialização rápida.

Plataforma de computação otimizada para contêineres do Autopilot

Confira os requisitos a seguir para que o GKE provisione nós de inicialização rápida com a plataforma de computação otimizada para contêineres do Autopilot.

Recurso de computação	Suporte a canais de lançamento e versões	Tipos e tamanhos de máquina e disco de inicialização compatíveis
Plataforma de computação otimizada para contêineres do Autopilot	Canal rápido 1.33.0-gke.1696000 ou mais recente	`pd-balanced` discos de até 100 GiB Nenhum SSD local.

Série de máquinas G2

Confira os requisitos a seguir para que o GKE provisione máquinas G2 como nós de inicialização rápida.

Recurso de computação	Suporte a canais de lançamento e versões	Tipos, tamanhos e tipos de disco de inicialização de máquina compatíveis
Série de máquinas G2	Canais rápido e normal 1.31 ou mais recente	`pd-balanced` discos de até 500 GiB Nenhum SSD local.

Série de máquina A2

Confira os requisitos a seguir para que o GKE provisione máquinas A2 como nós de inicialização rápida. A série de máquinas A2 está disponível para clusters que executam a versão 1.32.0-gke.1008000 ou mais recente do GKE e estão inscritos nos canais Rápido ou Regular.

Recurso de computação	Regiões	Tipos, tamanhos e tipos de disco de inicialização de máquina compatíveis
`a2-highgpu-1g`	`asia-northeast1` `asia-southeast1` `europe-west4` `me-west1` `us-central1` `us-west1` `us-west4`	`pd-balanced` ou `pd-ssd` até 1.000 GiB. Nenhum SSD local.
`a2-highgpu-2g`	`asia-southeast1` `us-central1` `us-west1`	`pd-balanced` ou `pd-ssd` até 1.000 GiB. Nenhum SSD local.
`a2-megagpu-16g`	`asia-southeast1` `europe-west4` `us-central1`	`pd-balanced` ou `pd-ssd` até 1.000 GiB. Nenhum SSD local.
`a2-ultragpu-1g`	`asia-southeast1` `europe-west4` `us-central1`	`pd-balanced` ou `pd-ssd` até 1.000 GiB. Um SSD local com 375 GiB está incluído.
`a2-ultragpu-2g`	`asia-southeast1` `europe-west4` `us-central1`	`pd-balanced` ou `pd-ssd` até 1.000 GiB. Dois SSDs locais, cada um com 375 GiB, estão incluídos.
`a2-ultragpu-4g`	`asia-southeast1` `europe-west4` `us-central1`	`pd-balanced` ou `pd-ssd` de 1.500 GiB. Quatro SSDs locais, cada um com 375 GiB, estão incluídos.
`a2-ultragpu-8g`	`asia-southeast1` `europe-west4` `us-central1`	`pd-balanced` ou `pd-ssd` de 3.000 GiB. Oito SSDs locais, cada um com 375 GiB, estão incluídos.

Preços

Os nós de inicialização rápida estão disponíveis no GKE Autopilot sem custo extra. Para mais informações sobre os preços do Autopilot do GKE, consulte a seção "Modo Autopilot" em Preços do Google Kubernetes Engine.

Sobre a inicialização mais rápida da carga de trabalho com nós de início rápido Mantenha tudo organizado com as coleções Salve e categorize o conteúdo com base nas suas preferências.