Escalonamento automático de pod horizontal

É possível ajustar automaticamente o número de pods nas cargas de trabalho do Google Kubernetes Engine (GKE) com base no uso de CPU ou uso da memória, métricas personalizadas ou métricas externas usando o escalonamento automático horizontal de pods. Escalonar réplicas de pods para atender à demanda variável ajuda a manter o desempenho consistente do aplicativo e liberar recursos de pods não utilizados quando a demanda cai.

O escalonamento automático horizontal de pods não altera o número de nós em um cluster do GKE. Para escalonar automaticamente os nós do cluster quando as contagens de pods mudarem, consulte Sobre cluster do GKE GKE. Para configurar o escalonamento de pods nas cargas de trabalho, consulte Como configurar o escalonamento automático horizontal de pods.

Este documento é destinado a desenvolvedores e operadores que configuram e gerenciam o escalonamento de cargas de trabalho. Para mais informações sobre papéis comuns e tarefas de exemplo referenciados no conteúdo doGoogle Cloud , consulte Tarefas e papéis de usuário comuns do GKE.

Métricas de escalonamento compatíveis

Os requisitos de recursos de uma carga de trabalho podem mudar ao longo do tempo, dependendo dos padrões de tráfego e das dependências externas. Um HorizontalPodAutoscaler pode escalonar o número de pods na carga de trabalho com base em um ou mais dos seguintes tipos de métrica:

  • Uso real de recursos: o escalonador automático escalona os pods quando o uso de CPU ou o uso da memória excede um limite de destino, expresso como um valor bruto ou uma porcentagem da solicitação de recurso do pod.
  • Métricas personalizadas: o escalonador automático escalona pods com base em qualquer métrica informada por um objeto do Kubernetes em um cluster, como solicitações de cliente ou gravações de E/S por segundo. As métricas personalizadas são úteis quando o aplicativo apresenta gargalos de rede ou de E/S, em vez de restrições de CPU ou memória.
  • Métricas externas: o escalonador automático escalona pods com base em uma métrica de um aplicativo ou serviço fora do cluster. Por exemplo, quando uma carga de trabalho ingere solicitações do Pub/Sub, é possível configurar um HorizontalPodAutoscaler para adicionar pods acima de um limite de fila e removê-los conforme a fila diminui.

Também é possível combinar o escalonamento automático horizontal de pods com o escalonamento automático vertical de pods. Para mais informações sobre as regras de compatibilidade, consulte a seção de limitações deste documento.

Como funciona o escalonamento automático horizontal de pods

Cada autoescalonador horizontal de pods configurado opera usando um loop de controle. Há um autoescalonador horizontal de pods separado para cada carga de trabalho. Cada autoescalonador horizontal de pods verifica periodicamente as métricas de uma determinada carga de trabalho em relação aos limites de destino configurados e altera o formato da carga de trabalho automaticamente.

Recursos por pod

Para recursos alocados por pod, como a CPU, o controlador consulta a API de métricas de recursos para cada contêiner em execução no pod.

  • Se você especificar um valor bruto de CPU ou memória, esse valor será usado.
  • Se você especificar um valor percentual para CPU ou memória, o Autoescalonador Horizontal de Pods vai calcular o valor de utilização médio como uma porcentagem das solicitações de CPU ou memória do pod.
  • As métricas personalizadas e externas são expressas como valores brutos ou médios.

O controlador usa o valor médio ou bruto de uma métrica de relatório informada para produzir uma razão e usá-la para escalonar automaticamente a carga de trabalho. Na documentação do projeto do Kubernetes, você encontra uma descrição do algoritmo do Autoescalonador Horizontal de Pods.

Como reagir a várias métricas

Se você configurar uma carga de trabalho para escalonar automaticamente com base em várias métricas, o Autoescalonador Horizontal de Pods avaliará cada métrica separadamente e usará o algoritmo de escalonamento para determinar a nova escala de carga de trabalho conforme cada uma delas. A maior escala será selecionada para o processo de escalonamento automático.

Se uma ou mais métricas estiverem indisponíveis por algum motivo, o Escalonador Automático Horizontal de Pods ainda escalonará para cima com base no maior tamanho calculado, mas não escalonará para baixo.

Como impedir sobrecargas

Thrashing refere-se a uma situação em que o Autoescalonador Horizontal de Pods tenta realizar ações subsequentes de escalonamento automático antes de a carga de trabalho terminar de responder às ações anteriores de escalonamento automático. Para evitar sobrecarga, o escalonador automático horizontal de pods escolhe a maior recomendação de uma janela de estabilização especificada. Esse comportamento é controlado pelo campo scaleDown.stabilizationWindowSeconds na especificação behavior do HPA, que tem como padrão 300 segundos (cinco minutos) no GKE.

Para evitar que pequenas flutuações causem eventos de escalonamento desnecessários, o escalonador automático horizontal de pods usa um valor de tolerância de 10%. Para um determinado destino, nenhuma ação de escalonamento será realizada se a proporção entre o valor da métrica atual e o valor da métrica de destino estiver dentro de 10% de 1,0.

Escalonamento de e para zero

No GKE versão 1.37 ou posterior, é possível configurar o escalonador automático horizontal de pods para reduzir uma carga de trabalho para 0 réplicas quando não houver demanda e escalonar automaticamente a carga de trabalho de volta quando a demanda for retomada. O escalonamento de e para zero inclui os seguintes comportamentos:

  • Ignorar tolerância: quando uma carga de trabalho está em réplicas 0, o GKE ignora a verificação de tolerância de métrica padrão (proporção de 0,9 a 1,1). Qualquer valor de métrica maior que zero, como uma única mensagem em uma fila, aciona imediatamente um escalonamento vertical para pelo menos 1 réplica sem esperar para ultrapassar um limite de tolerância.
  • Janelas de estabilização: o escalonamento vertical tem como padrão 0 segundos (scaleUp.stabilizationWindowSeconds: 0) para ativação imediata, enquanto a redução da escala vertical tem como padrão 300 segundos (scaleDown.stabilizationWindowSeconds: 300) para garantir cinco minutos contínuos de demanda zero antes de escalonar para 0 réplicas.
  • Condições de status: quando escalonado para 0 réplicas pelo HPA, o controlador informa a condição ScaledToZero: True enquanto permanece ativo (ScalingActive: True). Se uma carga de trabalho for escalonada manualmente para 0 réplicas fora do HPA (como com o comando kubectl scale), o escalonamento automático será pausado (ScalingActive: False) até que a carga de trabalho seja escalonada de volta para 1 ou mais réplicas.

Para instruções detalhadas, consulte Escalonar cargas de trabalho do GKE de e para zero usando o HPA.

Limitações

  • A menos que você use o dimensionamento correto do HPA com o VPA (pré-lançamento), não use o Autoescalonador Horizontal de Pods com o Autoescalonador de Pods Vertical padrão na CPU ou na memória. É possível usar o Autoescalonador Horizontal de Pods com o Autoescalonador de Pods Vertical para outras métricas ou configurar o escalonamento automático multidimensional de pods para escalonar horizontalmente na CPU e verticalmente na memória ao mesmo tempo.
  • Se você tiver uma implantação, não configure o escalonamento automático horizontal de pods no ReplicaSet ou controlador de replicação. Quando você executa uma atualização gradual na implantação ou no controlador de replicação, ela é efetivamente substituída por um novo controlador de replicação. Em vez disso, configure o escalonamento automático horizontal de pods na própria implantação.
  • Não é possível usar o escalonamento automático horizontal de pods para cargas de trabalho que não podem ser escalonadas, como DaemonSets.
  • O escalonamento automático horizontal de pods expõe métricas como recursos do Kubernetes, o que impõe nomes de métricas, como caracteres maiúsculos ou "/". É possível que o adaptador de métricas permita a renomeação. Por exemplo, consulte o operador prometheus-adapter as.
  • O autoescalonador horizontal de pods não reduzir escala vertical vertical se alguma das métricas que ele está configurado para monitorar estiver indisponível. Para verificar se você tem métricas indisponíveis, consulte Como visualizar detalhes sobre um Autoescalonador Horizontal de Pods.

Escalonabilidade

Embora o Autoescalonador Horizontal de Pods não tenha um limite absoluto para o número de objetos HPA compatíveis, o desempenho dele pode ser afetado à medida que esse número aumenta. Especificamente, o período entre os recálculos do HPA pode se tornar mais longo do que o padrão de 15 segundos.

  • Na versão secundária 1.31 ou 1.32 do GKE, se o perfil de desempenho do HPA estiver configurado, o período de recálculo deve permanecer dentro de 15 segundos com até 1.000 objetos HPA. Saiba como configurar o perfil de desempenho do HPA.
  • Na versão secundária 1.33 ou posterior do GKE, se o perfil de HPA de desempenho estiver configurado, o período de recálculo deverá permanecer em 15 segundos com até 5.000 objetos de HPA. O perfil de HPA de desempenho é ativado por padrão em todos os clusters que atendem aos requisitos.
  • Se o perfil de HPA de desempenho não estiver configurado, o período de recálculo precisa permanecer em 15 segundos com até 300 objetos de HPA.

Os seguintes fatores também podem afetar o desempenho:

  • Escalonamento por várias métricas: cada métrica adiciona uma chamada de busca para cálculos de recomendação, afetando o período de recálculo.
  • A latência da pilha de métricas personalizadas: os tempos de resposta acima de aproximadamente 50 milissegundos seriam maiores do que o normalmente observado com as métricas padrão do Kubernetes, afetando o período de recálculo.

Como interagir com objetos HorizontalPodAutoscaler

É possível configurar um escalonador automático horizontal de pods para uma carga de trabalho e conseguir informações sobre eventos de escalonamento automático e as respectivas causas. Basta acessar a página Cargas de trabalho no console do Google Cloud .

Cada autoescalonador horizontal de pods existe no cluster como um objeto HorizontalPodAutoscaler. É possível usar comandos como kubectl get hpa ou kubectl describe hpa HPA_NAME para interagir com esses objetos.

Também é possível criar objetos HorizontalPodAutoscaler usando o comando kubectl autoscale.

A seguir