Escalado automático horizontal de Pods

Puedes ajustar automáticamente la cantidad de Pods en tus cargas de trabajo de Google Kubernetes Engine (GKE) según el uso de CPU o memoria, las métricas personalizadas o las métricas externas con el escalado automático horizontal de Pods. Escalar las réplicas de Pods para que coincidan con la demanda cambiante ayuda a mantener un rendimiento coherente de la aplicación y a liberar los recursos de Pods sin usar cuando disminuye la demanda.

El escalado automático horizontal de Pods no cambia la cantidad de nodos en un clúster de GKE. Para escalar de forma automática los nodos del clúster cuando cambian los recuentos de Pods, consulta Acerca del clúster de GKE de GKE. Para configurar el escalado de Pods en tus cargas de trabajo, consulta Configura el escalado automático horizontal de Pods.

Este documento está dirigido a desarrolladores y operadores que configuran y administran el escalamiento de cargas de trabajo. Para obtener más información sobre los roles comunes y las tareas de ejemplo a las que hacemos referencia en el contenido deGoogle Cloud , consulta Roles y tareas comunes del usuario de GKE.

Métricas de escalamiento admitidas

Los requisitos de recursos de una carga de trabajo pueden cambiar con el tiempo según los patrones de tráfico y las dependencias externas. Un HorizontalPodAutoscaler puede escalar la cantidad de Pods en tu carga de trabajo según uno o más de los siguientes tipos de métricas:

  • Uso real de recursos: El escalador automático escala los Pods cuando el uso de CPU o el uso de memoria supera un umbral objetivo, expresado como un valor sin procesar o un porcentaje de la solicitud de recursos del Pod.
  • Métricas personalizadas: El escalador automático escala los Pods según cualquier métrica que informe un objeto de Kubernetes en un clúster, como las solicitudes de clientes o las escrituras de E/S por segundo. Las métricas personalizadas son útiles cuando tu aplicación experimenta cuellos de botella de red o E/S, en lugar de restricciones de CPU o memoria.
  • Métricas externas: El escalador automático escala los Pods según una métrica de una aplicación o un servicio fuera del clúster. Por ejemplo, cuando una carga de trabajo ingiere solicitudes de Pub/Sub, puedes configurar un HorizontalPodAutoscaler para agregar Pods por encima de un umbral de cola y quitarlos a medida que la cola se reduce.

También puedes combinar el escalado automático horizontal de Pods con el escalado automático vertical de Pods. Para obtener más información sobre las reglas de compatibilidad, consulta la sección de limitaciones de este documento.

Cómo funciona el ajuste de escala automático horizontal de pods

Cada escalador automático horizontal de Pods configurado funciona con un bucle de control. Existe un escalador automático horizontal de Pods independiente para cada carga de trabajo. Cada escalador automático horizontal de Pods verifica de forma periódica las métricas de una cierta carga de trabajo en función de los umbrales objetivo que configures y cambia la forma de la carga de trabajo automáticamente.

Recursos por pod

Para los recursos que se asignan por pod, como la CPU, el controlador consulta la API de las métricas de los recursos de cada contenedor que se ejecuta en el pod.

  • Si especificas un valor sin procesar para la CPU o la memoria, se usa el valor.
  • Si especificas un valor porcentual para la CPU o la memoria, el escalador automático horizontal de Pods calcula el valor de uso promedio como un porcentaje de las solicitudes de CPU o memoria de ese Pod.
  • Las métricas personalizadas y externas se expresan como valores sin procesar o valores promedio.

El controlador usa el valor promedio o sin procesar de una métrica de informe para producir una proporción y la usa para escalar automáticamente la carga de trabajo. Puedes leer una descripción del algoritmo del escalador automático horizontal de Pods en la documentación del proyecto de Kubernetes.

Responde a varias métricas

Si configuras una carga de trabajo para que se ajuste automáticamente en función de varias métricas, el escalador automático horizontal de Pods evalúa cada métrica por separado y usa el algoritmo de escalamiento para determinar la nueva escala de la carga de trabajo en función de cada una. Se selecciona la escala más grande para la acción de ajuste de escala automático.

Si una o más de las métricas no están disponibles por algún motivo, el escalador automático horizontal de Pods aún escala verticalmente según el tamaño más grande calculado, pero no reduce la escala verticalmente.

Prevén la hiperpaginación

La sobrecarga se refiere a una situación en la que el escalador automático horizontal de Pods intenta realizar acciones de escalado automático posteriores antes de que la carga de trabajo termine de responder a las acciones de escalado automático anteriores. Para evitar la hiperpaginación, el escalador automático horizontal de Pods elige la recomendación más grande de un período de estabilización especificado. Este comportamiento se controla con el campo scaleDown.stabilizationWindowSeconds en la especificación behavior del HPA, que se establece de forma predeterminada en 300 segundos (cinco minutos) en GKE.

Para evitar que las fluctuaciones menores causen eventos de escalamiento innecesarios, el escalador automático horizontal de Pods usa un valor de tolerancia del 10%. Para un objetivo determinado, no se realiza ninguna acción de escalamiento si la proporción entre el valor de la métrica actual y el valor de la métrica objetivo está dentro del 10% de 1.0.

Escalamiento desde y hacia cero

En la versión 1.37 o posterior de GKE, puedes configurar el escalador automático horizontal de Pods para reducir la escala de una carga de trabajo a 0 réplicas cuando no hay demanda y volver a aumentarla automáticamente cuando se reanuda la demanda. El escalamiento hacia y desde cero incluye los siguientes comportamientos:

  • Omisión de tolerancia: Cuando una carga de trabajo tiene 0 réplicas, GKE omite la verificación de tolerancia de métricas estándar (proporción de 0.9 a 1.1). Cualquier valor de métrica superior a cero, como un solo mensaje en una cola, activa de inmediato un escalamiento vertical de, al menos, 1 réplica sin esperar a cruzar un umbral de tolerancia.
  • Ventanas de estabilización: El escalamiento vertical se establece de forma predeterminada en 0 segundos (scaleUp.stabilizationWindowSeconds: 0) para la activación inmediata, mientras que la reducción de escala vertical se establece de forma predeterminada en 300 segundos (scaleDown.stabilizationWindowSeconds: 300) para garantizar cinco minutos continuos de demanda cero antes de escalar a 0 réplicas.
  • Condiciones de estado: Cuando el HPA escala a 0 réplicas, el controlador informa la condición ScaledToZero: True mientras permanece activo (ScalingActive: True). Si una carga de trabajo se escala de forma manual a 0 réplicas fuera del HPA (como con el comando kubectl scale), el ajuste de escala automático se pausa (ScalingActive: False) hasta que la carga de trabajo se vuelva a escalar a 1 o más réplicas.

Para obtener instrucciones paso a paso, consulta Escala cargas de trabajo de GKE hacia y desde cero con HPA.

Limitaciones

  • A menos que uses el ajuste de tamaño de HPA con VPA (versión preliminar), no uses el escalador automático horizontal de Pods junto con el escalador automático vertical de Pods estándar en la CPU o la memoria. Puedes usar el escalador automático horizontal de Pods con el escalador automático vertical de Pods para otras métricas o configurar el escalado automático multidimensional de Pods para escalar de forma horizontal en la CPU y de forma vertical en la memoria al mismo tiempo.
  • Si tienes un Deployment, no configures el ajuste de escala automático horizontal de pods en ReplicaSet o en el controlador de replicación que la respalda. Cuando realizas una actualización progresiva en el controlador de replicación o en el Deployment, se reemplaza por un nuevo controlador de replicación. En su lugar, configura el ajuste de escala automático horizontal de Pods en el mismo objeto Deployment.
  • No puedes usar el escalado automático horizontal de Pods para cargas de trabajo que no se pueden escalar, como DaemonSets.
  • El ajuste de escala automático horizontal de Pods expone métricas como recursos de Kubernetes, lo que impone limitaciones a los nombres de las métricas, como sin caracteres en mayúscula o “/”. Tu adaptador de métrica puede permitir el cambio de nombre. Por ejemplo, consulta el operador prometheus-adapter as.
  • El escalador automático horizontal de Pods no reduce la escala verticalmente si alguna de las métricas que está configurado para supervisar no está disponible. Para verificar si tienes métricas no disponibles, consulta Visualiza detalles sobre un escalador automático horizontal de Pods.

Escalabilidad

Si bien el escalador automático horizontal de Pods no tiene un límite estricto en cuanto a la cantidad de objetos HPA compatibles, su rendimiento puede verse afectado a medida que aumenta esta cantidad. En particular, el período entre los recálculos de HPA puede ser más largo que los 15 segundos estándar.

  • En la versión secundaria 1.31 o 1.32 de GKE, si se configura el perfil de HPA de rendimiento, el período de recálculo debe permanecer dentro de los 15 segundos con hasta 1,000 objetos de HPA. Obtén más información para configurar el perfil de HPA de rendimiento.
  • En la versión secundaria 1.33 o posterior de GKE, si se configura el perfil de HPA de rendimiento, el período de recálculo debe permanecer dentro de los 15 segundos con hasta 5,000 objetos de HPA. El perfil de HPA de rendimiento está habilitado de forma predeterminada en todos los clústeres que cumplen con los requisitos.
  • Si no se configura el perfil de HPA de rendimiento, el período de recálculo debe permanecer dentro de los 15 segundos con hasta 300 objetos HPA.

Los siguientes factores también pueden afectar el rendimiento:

  • Escalamiento en varias métricas: cada métrica agrega una llamada de recuperación para los cálculos de recomendaciones, lo que afecta el período de recálculo.
  • La latencia de la pila de métricas personalizadas: los tiempos de respuesta superiores a los 50 milisegundos son más altos que los observados de forma normal con las métricas estándar de Kubernetes, lo que afecta el período de recálculo.

Interactúa con objetos HorizontalPodAutoscaler

Para configurar un escalador automático horizontal de Pods en una carga de trabajo y obtener información sobre los eventos de ajuste de escala automático y sus causas, visita la página Cargas de trabajo en la consola de Google Cloud .

Cada escalador automático horizontal de Pods existe en el clúster como un objeto HorizontalPodAutoscaler. Puedes usar comandos como kubectl get hpa o kubectl describe hpa HPA_NAME para interactuar con estos objetos.

También puedes crear objetos HorizontalPodAutoscaler con el comando kubectl autoscale.

¿Qué sigue?