Supervisa las métricas de latencia de inicio

En esta página, se describen las métricas y los paneles disponibles para supervisar la latencia de inicio de las cargas de trabajo de Google Kubernetes Engine (GKE) y los nodos del clúster subyacentes. Puedes usar las métricas para hacer un seguimiento de la latencia de inicio, solucionar problemas relacionados con ella y reducirla.

Esta página está dirigida a los administradores y operadores de plataformas que necesitan supervisar y optimizar la latencia de inicio de sus cargas de trabajo. Para obtener más información sobre los roles comunes a los que hacemos referencia en el contenido de Google Cloud , consulta Roles y tareas comunes del usuario de GKE.

Descripción general

La latencia de inicio afecta de manera significativa la forma en que tu aplicación responde a los aumentos repentinos de tráfico, la rapidez con la que sus réplicas se recuperan de las interrupciones y la eficiencia de los costos operativos de tus clústeres y cargas de trabajo. Supervisar la latencia de inicio de tus cargas de trabajo puede ayudarte a detectar degradaciones de la latencia y hacer un seguimiento del impacto de las actualizaciones de la infraestructura y de las cargas de trabajo en la latencia de inicio.

Optimizar la latencia de inicio de la carga de trabajo tiene los siguientes beneficios:

  • Reduce la latencia de respuesta de tu servicio a los usuarios durante los aumentos repentinos de tráfico.
  • Reduce el exceso de capacidad de entrega que se necesita para absorber los aumentos repentinos de la demanda mientras se crean réplicas nuevas.
  • Reduce el tiempo de inactividad de los recursos que ya están implementados y esperan que los recursos restantes se inicien durante los cálculos por lotes.

Antes de comenzar

Antes de comenzar, asegúrate de haber realizado las siguientes tareas:

  • Habilita la API de Google Kubernetes Engine.
  • Habilitar la API de Google Kubernetes Engine
  • Si deseas usar Google Cloud CLI para esta tarea, instala y, luego, inicializa la gcloud CLI. Si ya instalaste gcloud CLI, ejecuta el comando gcloud components update para obtener la versión más reciente. Es posible que las versiones anteriores de gcloud CLI no admitan la ejecución de los comandos de este documento.
  • Habilita las APIs de Cloud Logging y Cloud Monitoring.

    Roles necesarios para habilitar las APIs

    Para habilitar las APIs, necesitas el permiso serviceusage.services.enable. Si creaste el proyecto, es probable que ya tengas este permiso a través del rol de propietario (roles/owner). De lo contrario, puedes obtenerlo a través del rol de administrador de Service Usage (roles/serviceusage.serviceUsageAdmin). Obtén más información para otorgar roles.

    Habilitar las API

Requisitos

Para ver las métricas y los paneles de la latencia de inicio de las cargas de trabajo, tu clúster de GKE debe cumplir con los siguientes requisitos:

Roles y permisos requeridos

Para obtener los permisos que necesitas para habilitar la generación de registros y acceder a ellos y procesarlos, pídele a tu administrador que te otorgue los siguientes roles de IAM:

  • Visualiza clústeres, nodos y cargas de trabajo de GKE: Visualizador de Kubernetes Engine (roles/container.viewer) en tu proyecto
  • Accede a las métricas de latencia de inicio y consulta los paneles: Visualizador de Monitoring (roles/monitoring.viewer) en tu proyecto
  • Accede a los registros con información de latencia, como los eventos de extracción de imágenes de Kubelet, y visualízalos en el Explorador de registros y en Estadísticas de observabilidad: Visualizador de registros (roles/logging.viewer) en tu proyecto

Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.

También puedes obtener los permisos necesarios a través de roles personalizados o cualquier otro rol predefinido.

Métricas de latencia de inicio

Las métricas de latencia de inicio se incluyen en las métricas del sistema de GKE y se exportan a Cloud Monitoring en el mismo proyecto que el clúster de GKE.

Los nombres de las métricas de Cloud Monitoring que figuran en esta tabla deben tener el prefijo kubernetes.io/. Sin embargo, el prefijo se omitió en las entradas de la tabla.

Métricas de latencia de inicio
Tipo de métrica (niveles de jerarquía de recursos) y nombre visible Categoría, tipo, unidad y recursos supervisados Descripción y etiquetas

pod/latencies/pod_first_ready (project)

Latencia de inicio de Pod

GAUGE, Double, s

k8s_pod

La latencia de inicio de extremo a extremo del Pod (desde el Pod Created hasta Ready), incluidas las extracciones de imágenes. Se tomaron muestras cada 60 segundos.

node/latencies/startup (project)

Latencia de inicio del nodo

GAUGE, INT64, s

k8s_node

Es la latencia de inicio total del nodo, desde el CreationTimestamp de la instancia de GCE hasta el Kubernetes node ready por primera vez. Se tomaron muestras cada 60 segundos.

  • accelerator_family: Es una clasificación de nodos basada en aceleradores de hardware: gpu, tpu y cpu.
  • kube_control_plane_available: Indica si se recibió la solicitud de creación del nodo cuando el KCP (plano de control de kube) estaba disponible.

autoscaler/latencies/per_hpa_recommendation_scale_latency_seconds (project)

Latencia de escalamiento por recomendación de HPA

GAUGE, DOUBLE, s

k8s_scale

Latencia de la recomendación de escalado del Horizontal Pod Autoscaler (HPA) (tiempo entre la creación de las métricas y la aplicación de la recomendación de escalado correspondiente al servidor de la API) para el destino del HPA. Se hace un muestreo cada 60 segundos. Luego del muestreo, los datos no son visibles durante un máximo de 20 segundos.

metric_type: Es el tipo de fuente de la métrica. Debe ser "ContainerResource", "External", "Object", "Pods" o "Resource".

Visualiza el panel Latencia de inicio para las cargas de trabajo

El panel Latencia de inicio para las cargas de trabajo solo está disponible para los Deployments. Para ver las métricas de latencia de inicio de los Deployments, sigue estos pasos en la consola de Google Cloud :

  1. Ir a la página Cargas de trabajo.

    Ir a Cargas de trabajo

  2. Para abrir la vista Detalles de la implementación, haz clic en el nombre de la carga de trabajo que deseas inspeccionar.

  3. Haz clic en la pestaña Observabilidad.

  4. Selecciona Latencia de inicio en el menú de la izquierda.

Visualiza la distribución de la latencia de inicio de los Pods

La latencia de inicio de los Pods se refiere a la latencia de inicio total, incluidas las extracciones de imágenes, que mide el tiempo desde el estado Created del Pod hasta el estado Ready. Puedes evaluar la latencia de inicio de los Pods con los siguientes dos gráficos:

  • Gráfico Distribución de la latencia de inicio de Pods: En este gráfico, se muestran los percentiles de latencia de inicio de los Pods (percentil cincuenta, percentil noventa y cinco y percentil noventa y nueve) que se calculan en función de las observaciones de los eventos de inicio de Pods en intervalos de tiempo fijos de 3 horas, por ejemplo, de 12:00 a.m. a 3:00 a.m. y de 3:00 a.m. a 6:00 a.m. Puedes usar este gráfico para los siguientes propósitos:

    • Comprender la latencia de inicio de Pods de referencia
    • Identificar cambios en la latencia de inicio de los Pods a lo largo del tiempo
    • Correlaciona los cambios en la latencia de inicio de los Pods con eventos recientes, como las implementaciones de cargas de trabajo o los eventos del escalador automático de clústeres. Puedes seleccionar los eventos en la lista Anotaciones que se encuentra en la parte superior del panel.
Gráfico de distribución de la latencia de inicio de Pods
Figura: Gráfico de distribución de la latencia de inicio de Pods
  • Gráfico Recuento de inicios de Pods: En este gráfico, se muestra el recuento de Pods que se iniciaron durante los intervalos de tiempo seleccionados. Puedes usar este gráfico para los siguientes fines:

    • Comprende los tamaños de muestra de Pods que se usan para calcular los percentiles de la distribución de la latencia de inicio de Pods en un intervalo de tiempo determinado.
    • Comprender las causas de los inicios de Pods, como los eventos de implementaciones de cargas de trabajo o de Horizontal Pod Autoscaler Puedes seleccionar los eventos en la lista Anotaciones que se encuentra en la parte superior del panel.
Gráfico de recuento de inicio de Pods
Figura: Gráfico de recuento de inicio de Pods

Visualiza la latencia de inicio de Pods individuales

Puedes ver la latencia de inicio de los Pods individuales en el gráfico de cronograma de Latencia de la primera preparación del Pod y la lista asociada.

  • Usa el gráfico de cronograma de Latencia del primer Pod listo para correlacionar los inicios de Pods individuales con eventos recientes, como los eventos de Horizontal Pod Autoscaler o Cluster Autoscaler. Puedes seleccionar estos eventos en la lista Anotaciones que se encuentra en la parte superior del panel. Este gráfico te ayuda a determinar las posibles causas de cualquier cambio en la latencia de inicio en comparación con otros Pods.
  • Usa la lista Latencia de primer Pod listo para identificar los Pods individuales que tardaron más o menos tiempo en iniciarse. Puedes ordenar la lista por la columna Latencia. Cuando identificas los Pods que tienen la latencia de inicio más alta, puedes solucionar los problemas de degradación de la latencia correlacionando los eventos de inicio de los Pods con otros eventos recientes.
Gráfico de latencia de inicio de Pods
Figura: Gráfico de latencia de inicio de Pod

Para saber cuándo se creó un Pod individual, consulta el valor del campo timestamp en un evento de creación de Pod correspondiente. Para ver el campo timestamp, ejecuta la siguiente consulta en el Explorador de registros:

   log_id("cloudaudit.googleapis.com/activity") AND
   protoPayload.methodName="io.k8s.core.v1.pods.create" AND
   resource.labels.project_id=PROJECT_ID AND
   resource.labels.cluster_name=CLUSTER_NAME AND
   resource.labels.location=CLUSTER_LOCATION AND
   protoPayload.response.metadata.namespace=NAMESPACE AND
   protoPayload.response.metadata.name=POD_NAME

Para enumerar todos los eventos de creación de Pods de tu carga de trabajo, usa el siguiente filtro en la consulta anterior: protoPayload.response.metadata.name=~"POD_NAME_PREFIX-[a-f0-9]{7,10}-[a-z0-9]{5}"

Cuando comparas las latencias de Pods individuales, puedes probar el impacto de varios parámetros de configuración en la latencia de inicio de los Pods y, luego, identificar una configuración óptima según tus requisitos.

Determina la latencia de programación de Pods

La latencia de programación de Pods es la cantidad de tiempo que transcurre entre la creación de un Pod y su programación en un nodo. La latencia de programación de Pods contribuye al tiempo de inicio de extremo a extremo de un Pod y se calcula restando las marcas de tiempo de un evento de programación de Pods y una solicitud de creación de Pods.

Puedes encontrar una marca de tiempo de un evento de programación de Pods individual en el campo jsonPayload.eventTime de un evento de programación de Pods correspondiente. Para ver el campo jsonPayload.eventTime, ejecuta la siguiente consulta en el Explorador de registros:

  log_id("events")
  jsonPayload.reason="Scheduled"
  resource.type="k8s_pod"
  resource.labels.project_id=PROJECT_ID
  resource.labels.location=CLUSTER_LOCATION
  resource.labels.cluster_name=CLUSTER_NAME
  resource.labels.namespace_name=NAMESPACE
  resource.labels.pod_name=POD_NAME

Para enumerar todos los eventos de programación de Pods de tu carga de trabajo, usa el siguiente filtro en la consulta anterior: resource.labels.pod_name=~"POD_NAME_PREFIX-[a-f0-9]{7,10}-[a-z0-9]{5}"

Visualiza la latencia de extracción de imágenes

La latencia de extracción de imágenes de contenedor contribuye a la latencia de inicio de los Pods en situaciones en las que la imagen aún no está disponible en el nodo o se debe actualizar. Cuando optimizas la latencia de extracción de imágenes, reduces la latencia de inicio de la carga de trabajo durante los eventos de escalamiento horizontal del clúster.

Puedes ver la tabla Eventos de extracción de imágenes de Kubelet para ver cuándo se extrajeron las imágenes de contenedor de la carga de trabajo y cuánto tiempo tardó el proceso.

Tabla de eventos de extracción de imágenes de Kubelet
Figura: Tabla de eventos de extracción de imágenes de Kubelet

La latencia de extracción de imágenes está disponible en el campo jsonPayload.message, que contiene un mensaje como el siguiente:

  "Successfully pulled image "gcr.io/example-project/image-name" in 17.093s (33.051s including waiting). Image size: 206980012 bytes."

Visualiza la distribución de la latencia de las recomendaciones de escalamiento de HPA

La latencia de las recomendaciones de escalado del Horizontal Pod Autoscaler (HPA) para el destino de HPA es la cantidad de tiempo que transcurre entre la creación de las métricas y la aplicación de la recomendación de escalado correspondiente al servidor de la API. Cuando optimizas la latencia de las recomendaciones de escalamiento del HPA, reduces la latencia de inicio de la carga de trabajo durante los eventos de escalamiento horizontal.

El escalamiento del HPA se puede ver en los siguientes dos gráficos:

  • Gráfico Distribución de la latencia de las recomendaciones de escalamiento de HPA: En este gráfico, se muestran los percentiles de la latencia de las recomendaciones de escalamiento de HPA (percentil cincuenta, percentil noventa y cinco y percentil noventa y nueve) que se calculan en función de las observaciones de las recomendaciones de escalamiento de HPA en intervalos de 3 horas. Puedes usar este gráfico para los siguientes fines:

    • Comprender la latencia de referencia de las recomendaciones de escalamiento de HPA
    • Identificar cambios en la latencia de las recomendaciones de escalamiento de HPA a lo largo del tiempo
    • Correlaciona los cambios en la latencia de las recomendaciones de escalamiento del HPA con los eventos recientes. Puedes seleccionar los eventos en la lista Anotaciones que se encuentra en la parte superior del panel.
Gráfico de distribución de la latencia de las recomendaciones de escalamiento de HPA
Figura: Gráfico de distribución de la latencia de las recomendaciones de escalamiento de HPA
  • Gráfico Recuento de recomendaciones de escalamiento de HPA: En este gráfico, se muestra el recuento de recomendaciones de escalamiento de HPA que se observaron durante el intervalo de tiempo seleccionado. Usa el gráfico para las siguientes tareas:

    • Comprender los tamaños de muestra de las recomendaciones de escalamiento de HPA Las muestras se usan para calcular los percentiles en la distribución de la latencia de las recomendaciones de escalamiento de HPA en un intervalo de tiempo determinado.
    • Correlaciona las recomendaciones de escalamiento del HPA con los eventos de inicio de Pods nuevos y con los eventos del Horizontal Pod Autoscaler. Puedes seleccionar los eventos en la lista Anotaciones que se encuentra en la parte superior del panel.
Gráfico de recuento de recomendaciones de escalamiento de HPA
Figura: Gráfico de recuento de recomendaciones de escalamiento de HPA

Visualiza los problemas de programación de los Pods

Los problemas de programación de Pods pueden afectar la latencia de inicio de extremo a extremo de tu carga de trabajo. Para reducir la latencia de inicio de extremo a extremo de tu carga de trabajo, soluciona problemas y reduce la cantidad de estos problemas.

Los siguientes son los dos gráficos disponibles para hacer un seguimiento de estos problemas:

  • En el gráfico Pods no programables/pendientes/con errores, se muestran los recuentos de Pods no programables, pendientes y con errores a lo largo del tiempo.
  • En el gráfico Contenedores con errores de retirada/espera/preparación, se muestran los recuentos de contenedores en estos estados a lo largo del tiempo.

Visualiza el panel de latencia de inicio de los nodos

Para ver las métricas de latencia de inicio de los nodos, sigue estos pasos en la consola deGoogle Cloud :

  1. Ve a la página Clústeres de Kubernetes.

    Acceder a los clústeres de Kubernetes

  2. Para abrir la vista Detalles del clúster, haz clic en el nombre del clúster que deseas inspeccionar.

  3. Haz clic en la pestaña Observabilidad.

  4. En el menú de la izquierda, selecciona Latencia de inicio.

Visualiza la distribución de la latencia de inicio de los nodos

La latencia de inicio de un nodo se refiere a la latencia de inicio total, que mide el tiempo desde la CreationTimestamp del nodo hasta el estado Kubernetes node ready. La latencia de inicio del nodo se puede ver en los siguientes dos gráficos:

  • Gráfico Distribución de la latencia de inicio de los nodos: En este gráfico, se muestran los percentiles de la latencia de inicio de los nodos (percentil cincuenta, percentil noventa y cinco y percentil noventa y nueve) que se calculan en función de las observaciones de los eventos de inicio de los nodos en intervalos de tiempo fijos de 3 horas, por ejemplo, de 12:00 a.m. a 3:00 a.m. y de 3:00 a.m. a 6:00 a.m. Puedes usar este gráfico para los siguientes propósitos:

    • Comprende la latencia de inicio de los nodos de referencia.
    • Identificar los cambios en la latencia de inicio de los nodos a lo largo del tiempo
    • Correlaciona los cambios en la latencia de inicio de los nodos con eventos recientes, como las actualizaciones de clústeres o de grupos de nodos. Puedes seleccionar los eventos en la lista Anotaciones que se encuentra en la parte superior del panel.
Gráfico de distribución de latencia de inicio del nodo
Figura: Gráfico de distribución de latencia de inicio del nodo
  • Gráfico Recuento de inicios de nodos: En este gráfico, se muestra el recuento de nodos iniciados durante los intervalos de tiempo seleccionados. Puedes usar el gráfico para los siguientes fines:

    • Comprender los tamaños de las muestras de nodos, que se usan para calcular los percentiles de distribución de la latencia de inicio de los nodos en un intervalo de tiempo determinado.
    • Comprende las causas de los inicios de nodos, como las actualizaciones de grupos de nodos o los eventos del escalador automático del clúster. Puedes seleccionar los eventos en la lista Anotaciones que se encuentra en la parte superior del panel.
Gráfico de recuento de inicios de nodos
Figura: Gráfico de recuento de inicio de nodos

Consulta la latencia de inicio de los nodos individuales

Cuando comparas las latencias de los nodos individuales, puedes probar el impacto de varios parámetros de configuración de nodos en la latencia de inicio del nodo y, luego, identificar una configuración óptima según tus requisitos. Puedes ver la latencia de inicio de los nodos individuales en el gráfico de cronograma Latencia de inicio de nodos y la lista asociada.

  • Usa el gráfico de cronograma de Latencia de inicio de nodos para correlacionar los inicios de nodos individuales con eventos recientes, como actualizaciones de clústeres o de grupos de nodos. Puedes determinar las posibles causas de los cambios en la latencia de inicio en comparación con otros nodos. Puedes seleccionar los eventos en la lista Anotaciones que se encuentra en la parte superior del panel.

  • Usa la lista Latencia de inicio de los nodos para identificar los nodos individuales que tardaron más o menos tiempo en iniciarse. Puedes ordenar la lista por la columna Latencia. Cuando identificas los nodos con la latencia de inicio más alta, puedes solucionar los problemas de degradación de la latencia correlacionando los eventos de inicio de los nodos con otros eventos recientes.

Gráfico de latencia de inicio del nodo
Figura: Gráfico de latencia de inicio del nodo

Para saber cuándo se creó un nodo individual, consulta el valor del campo protoPayload.metadata.creationTimestamp en el evento de creación de nodo correspondiente. Para ver el campo protoPayload.metadata.creationTimestamp, ejecuta la siguiente consulta en el Explorador de registros:

   log_id("cloudaudit.googleapis.com/activity") AND
   protoPayload.methodName="io.k8s.core.v1.nodes.create" AND
   resource.labels.project_id=PROJECT_ID AND
   resource.labels.cluster_name=CLUSTER_NAME AND
   resource.labels.location=CLUSTER_LOCATION AND
   protoPayload.response.metadata.name=NODE_NAME

Visualiza la latencia de inicio en un grupo de nodos

Si tus grupos de nodos tienen diferentes parámetros de configuración, por ejemplo, para ejecutar diferentes cargas de trabajo, es posible que debas supervisar la latencia de inicio de los nodos por separado según los grupos de nodos. Cuando comparas las latencias de inicio de los nodos en tus grupos de nodos, puedes obtener estadísticas sobre cómo la configuración de los nodos afecta la latencia de inicio de los nodos y, en consecuencia, optimizar la latencia.

De forma predeterminada, el panel Latencia de inicio del nodo muestra la distribución de la latencia de inicio agregada y las latencias de inicio de los nodos individuales en todos los grupos de nodos de un clúster. Para ver la latencia de inicio de un grupo de nodos específico, selecciona el nombre del grupo de nodos con el filtro $node_pool_name_var ubicado en la parte superior del panel.

¿Qué sigue?