Configura el ajuste de escala automático de CPU para los grupos de trabajadores

El escalado automático de CPU en los grupos de trabajadores de Cloud Run te permite escalar instancias en función del uso promedio de CPU para optimizar el rendimiento y el costo. Puedes configurar el ajuste de escala automático con el objetivo de uso de CPU predeterminado o especificar objetivos de uso de CPU y límites de instancias personalizados. Para obtener más información sobre cómo Cloud Run calcula los recuentos de instancias y escala los grupos de trabajadores, consulta Acerca del ajuste de escala automático de CPU.

Cuando implementas un grupo de trabajadores sin habilitar el ajuste de escala automático de CPU, Cloud Run usa el ajuste de escala manual con 1 instancia de forma predeterminada.

Si usas el ajuste de escala automático de métricas externas de Cloud Run (CREMA) para escalar tus cargas de trabajo, cambia al escalamiento manual.

Roles obligatorios

Para obtener los permisos que necesitas para configurar e implementar grupos de trabajadores de Cloud Run, pídele a tu administrador que te otorgue los siguientes roles de IAM:

Para obtener una lista de los roles y los permisos de IAM asociados con Cloud Run, consulta los roles de IAM de Cloud Run y los permisos de IAM de Cloud Run. Si tu grupo de trabajadores de Cloud Run interactúa con lasGoogle Cloud APIs, como las bibliotecas cliente de Cloud, consulta la guía de configuración de identidades del servicio. Para obtener más información sobre cómo otorgar roles, consulta los permisos de implementación y cómo administrar el acceso.

Configura el objetivo de CPU predeterminado

Cuando habilitas el ajuste de escala automático de CPU predeterminado, Cloud Run se orienta a un uso de CPU del 60% y escala tu grupo de trabajadores entre 1 y 100 instancias. Mientras mantienes el objetivo predeterminado del 60% de uso de CPU, puedes personalizar los límites mínimo y máximo de instancias para que se adapten a tus necesidades.

Actualizar el modo de escalamiento o los límites de instancias en un grupo de trabajadores existente no crea una revisión nueva.

Puedes habilitar el ajuste de escala automático de CPU predeterminado para un grupo de trabajadores de Cloud Run con Google Cloud CLI, YAML o la API de REST:

gcloud

  • Para implementar un grupo de trabajadores nuevo con el objetivo de CPU predeterminado, ejecuta el siguiente comando con la marca --scaling=auto:

    gcloud beta run worker-pools deploy WORKER_POOL \
      --image=IMAGE_URL \
      --scaling=auto

    Reemplaza lo siguiente:

    • WORKER_POOL: El nombre de tu grupo de trabajadores
    • IMAGE_URL: Una referencia a la imagen del contenedor que contiene el grupo de trabajadores, como us-docker.pkg.dev/cloudrun/container/worker-pool:latest
  • Para actualizar un grupo de trabajadores existente a fin de que use el destino de CPU predeterminado, ejecuta el siguiente comando con la marca --scaling=auto:

    gcloud beta run worker-pools update WORKER_POOL \
      --scaling=auto

    Reemplaza WORKER_POOL por el nombre de tu grupo de trabajadores.

  • Para actualizar un grupo de trabajadores existente con el objetivo de CPU predeterminado y los límites de instancias personalizados, ejecuta el siguiente comando con las marcas --scaling=auto, --min y --max:

    gcloud beta run worker-pools update WORKER_POOL \
      --scaling=auto \
      --min=MIN_INSTANCES \
      --max=MAX_INSTANCES

    Reemplaza lo siguiente:

    • WORKER_POOL: El nombre de tu grupo de trabajadores
    • MIN_INSTANCES (opcional): Es la cantidad mínima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Debe ser 1 o mayor. Si omites este valor, Cloud Run establece el mínimo en 1 instancia.
    • Opcional: MAX_INSTANCES: Es la cantidad máxima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Si omites este valor, Cloud Run establece el máximo en 100 instancias.

YAML

  1. Si creas un grupo de trabajadores nuevo, omite este paso. Si actualizas un grupo de trabajadores existente, descarga su configuración de YAML:

    gcloud run worker-pools describe WORKER_POOL --format export > worker-pool.yaml
  2. Agrega o actualiza las anotaciones launch-stage y scalingMode en metadata.annotations, y quita la anotación run.googleapis.com/manualInstanceCount si está presente. Para establecer límites de instancias personalizados, agrega de forma opcional las anotaciones minScale y maxScale:

    apiVersion: run.googleapis.com/v1
    kind: WorkerPool
    metadata:
     name: WORKER_POOL
     annotations:
       run.googleapis.com/launch-stage: BETA
       run.googleapis.com/scalingMode: automatic
       run.googleapis.com/minScale: 'MIN_INSTANCES'
       run.googleapis.com/maxScale: 'MAX_INSTANCES'

    Reemplaza lo siguiente:

    • WORKER_POOL: El nombre de tu grupo de trabajadores
    • MIN_INSTANCES (opcional): Es la cantidad mínima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Debe ser 1 o mayor. Si omites este valor, Cloud Run establece el mínimo en 1 instancia.
    • Opcional: MAX_INSTANCES: Es la cantidad máxima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Si omites este valor, Cloud Run establece el máximo en 100 instancias.
  3. Crea o actualiza el grupo de trabajadores con el siguiente comando:

    gcloud run worker-pools replace worker-pool.yaml

    El comando gcloud run worker-pools replace usa de forma predeterminada el archivo worker-pool.yaml si está presente.

API de REST

Para configurar el objetivo de CPU predeterminado en un grupo de trabajadores existente, envía la siguiente solicitud HTTP PATCH al extremo workerPools.patch de la API de Cloud Run Admin. Para establecer límites de instancias personalizados, incluye de forma opcional los campos minInstanceCount y maxInstanceCount, y sus rutas de acceso update_mask:

curl -H "Content-Type: application/json" \
    -H "Authorization: Bearer ACCESS_TOKEN" \
    -X PATCH \
    -d '{"launchStage":"BETA","scaling":{"scalingMode":"AUTOMATIC","minInstanceCount":MIN_INSTANCES,"maxInstanceCount":MAX_INSTANCES}}' \
    https://run.googleapis.com/v2/projects/PROJECT_ID/locations/REGION/workerPools/WORKER_POOL?update_mask=launchStage,scaling.scalingMode,scaling.manualInstanceCount,scaling.minInstanceCount,scaling.maxInstanceCount

Reemplaza lo siguiente:

  • ACCESS_TOKEN: Es un token de acceso válido para una cuenta que tiene los permisos de Identity and Access Management para actualizar un grupo de trabajadores. Por ejemplo, si accediste a Google Cloud CLI, puedes recuperar un token de acceso ejecutando gcloud auth print-access-token.
  • MIN_INSTANCES (opcional): Es la cantidad mínima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Debe ser 1 o mayor. Si omites este valor, Cloud Run establece el mínimo en 1 instancia.
  • Opcional: MAX_INSTANCES: Es la cantidad máxima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Si omites este valor, Cloud Run establece el máximo en 100 instancias.
  • PROJECT_ID: Es el ID del proyecto de Google Cloud .
  • REGION: Es la región de Google Cloud en la que se implementa tu grupo de trabajadores, por ejemplo, europe-west1.
  • WORKER_POOL: El nombre de tu grupo de trabajadores

Configura objetivos de CPU y límites de instancias personalizados

Puedes personalizar el objetivo de uso de CPU, los límites de instancias mínimos y máximos, o ambos. Cualquier parámetro de configuración que omitas usará su valor predeterminado (60% de objetivo de CPU, 1 instancia mínima y 100 instancias máximas). Actualizar el objetivo de uso de CPU o los límites de instancias en un grupo de trabajadores existente no crea una revisión nueva.

Puedes configurar objetivos de CPU personalizados y límites de instancias con Google Cloud CLI, YAML o la API de REST:

gcloud

  • Para implementar un grupo de trabajadores nuevo con un objetivo de CPU personalizado, ejecuta el siguiente comando con la marca --scaling-cpu-target:

    gcloud beta run worker-pools deploy WORKER_POOL \
      --image=IMAGE_URL \
      --scaling-cpu-target=CPU_TARGET

    Reemplaza lo siguiente:

    • WORKER_POOL: El nombre de tu grupo de trabajadores
    • IMAGE_URL: Una referencia a la imagen del contenedor que contiene el grupo de trabajadores, como us-docker.pkg.dev/cloudrun/container/worker-pool:latest
    • CPU_TARGET: Es el objetivo de uso de CPU. Especifica un valor de 0.1 a 0.90.
  • Para actualizar un grupo de trabajadores existente con un objetivo de CPU personalizado, ejecuta el siguiente comando con la marca --scaling-cpu-target:

    gcloud beta run worker-pools update WORKER_POOL \
      --scaling-cpu-target=CPU_TARGET

    Reemplaza lo siguiente:

    • WORKER_POOL: El nombre de tu grupo de trabajadores
    • CPU_TARGET: Es el objetivo de uso de CPU. Especifica un valor de 0.1 a 0.90.
  • Para actualizar un grupo de trabajadores existente con un objetivo de CPU personalizado y límites de instancias, ejecuta el siguiente comando con las marcas --scaling-cpu-target, --min y --max:

    gcloud beta run worker-pools update WORKER_POOL \
      --scaling-cpu-target=CPU_TARGET \
      --min=MIN_INSTANCES \
      --max=MAX_INSTANCES

    Reemplaza lo siguiente:

    • WORKER_POOL: El nombre de tu grupo de trabajadores
    • CPU_TARGET: Es el objetivo de uso de CPU. Especifica un valor de 0.1 a 0.90.
    • Opcional: MIN_INSTANCES: Es la cantidad mínima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Debe ser 1 o mayor. Si omites este valor, Cloud Run establece el mínimo en 1 instancia.
    • Opcional: MAX_INSTANCES: Es la cantidad máxima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Si omites este valor, Cloud Run establece el máximo en 100 instancias.

YAML

  1. Si creas un grupo de trabajadores nuevo, omite este paso. Si actualizas un grupo de trabajadores existente, descarga su configuración de YAML:

    gcloud run worker-pools describe WORKER_POOL --format export > worker-pool.yaml
  2. Agrega o actualiza las anotaciones launch-stage, scalingMode, scaling-cpu-target, minScale y maxScale en metadata.annotations, y quita la anotación run.googleapis.com/manualInstanceCount si está presente. Puedes omitir cualquier anotación personalizada (scaling-cpu-target, minScale o maxScale) que quieras mantener en su valor predeterminado:

    apiVersion: run.googleapis.com/v1
    kind: WorkerPool
    metadata:
     name: WORKER_POOL
     annotations:
       run.googleapis.com/launch-stage: BETA
       run.googleapis.com/scalingMode: automatic
       run.googleapis.com/scaling-cpu-target: 'CPU_TARGET'
       run.googleapis.com/minScale: 'MIN_INSTANCES'
       run.googleapis.com/maxScale: 'MAX_INSTANCES'

    Reemplaza lo siguiente:

    • WORKER_POOL: El nombre de tu grupo de trabajadores
    • CPU_TARGET: Es el objetivo de uso de CPU. Especifica un valor de 0.1 a 0.90.
    • Opcional: MIN_INSTANCES: Es la cantidad mínima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Debe ser 1 o mayor. Si omites este valor, Cloud Run establece el mínimo en 1 instancia.
    • Opcional: MAX_INSTANCES: Es la cantidad máxima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Si omites este valor, Cloud Run establece el máximo en 100 instancias.
  3. Crea o actualiza el grupo de trabajadores con el siguiente comando:

    gcloud run worker-pools replace worker-pool.yaml

    El comando gcloud run worker-pools replace usa de forma predeterminada el archivo worker-pool.yaml si está presente.

API de REST

Para configurar un objetivo de CPU personalizado y límites de instancias personalizados en un grupo de trabajadores existente, envía la siguiente solicitud HTTP PATCH al extremo workerPools.patch de la API de Cloud Run Admin:

curl -H "Content-Type: application/json" \
    -H "Authorization: Bearer ACCESS_TOKEN" \
    -X PATCH \
    -d '{"launchStage":"BETA","scaling":{"scalingMode":"AUTOMATIC","cpuScaling":{"cpuUtilization":CPU_TARGET},"minInstanceCount":MIN_INSTANCES,"maxInstanceCount":MAX_INSTANCES}}' \
    https://run.googleapis.com/v2/projects/PROJECT_ID/locations/REGION/workerPools/WORKER_POOL?update_mask=launchStage,scaling.scalingMode,scaling.manualInstanceCount,scaling.cpuScaling.cpuUtilization,scaling.minInstanceCount,scaling.maxInstanceCount

Reemplaza lo siguiente:

  • ACCESS_TOKEN: Es un token de acceso válido para una cuenta que tiene los permisos de IAM para actualizar un grupo de trabajadores. Por ejemplo, si accediste a Google Cloud CLI, puedes recuperar un token de acceso ejecutando gcloud auth print-access-token.
  • CPU_TARGET: Es el objetivo de uso de CPU. Especifica un valor de 0.1 a 0.90.
  • Opcional: MIN_INSTANCES: Es la cantidad mínima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Debe ser 1 o mayor. Si omites este valor, Cloud Run establece el mínimo en 1 instancia.
  • Opcional: MAX_INSTANCES: Es la cantidad máxima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Si omites este valor, Cloud Run establece el máximo en 100 instancias.
  • PROJECT_ID: Es el ID del proyecto de Google Cloud .
  • REGION: Es la región de Google Cloud en la que se implementa tu grupo de trabajadores, por ejemplo, europe-west1.
  • WORKER_POOL: El nombre de tu grupo de trabajadores

Restablece la configuración predeterminada del ajuste de escala automático

Cuando restableces un objetivo de uso de CPU personalizado o límites de instancias personalizados a sus valores predeterminados, Cloud Run vuelve al objetivo predeterminado de un 60% de uso de CPU, 1 instancia mínima y 100 instancias máximas, mientras mantiene activo el escalado automático de CPU.

Puedes restablecer la configuración predeterminada del ajuste de escala automático con Google Cloud CLI, YAML o la API de REST:

gcloud

  • Para restablecer el objetivo de CPU predeterminado, ejecuta el siguiente comando con la marca --scaling-cpu-target=default:

    gcloud beta run worker-pools update WORKER_POOL \
      --scaling-cpu-target=default

    Reemplaza WORKER_POOL por el nombre de tu grupo de trabajadores.

  • Para restablecer los límites de instancias predeterminados, ejecuta el siguiente comando con las marcas --min=default y --max=default:

    gcloud beta run worker-pools update WORKER_POOL \
      --min=default \
      --max=default

    Reemplaza WORKER_POOL por el nombre de tu grupo de trabajadores.

YAML

  1. Si creas un grupo de trabajadores nuevo, omite este paso. Si actualizas un grupo de trabajadores existente, descarga su configuración de YAML:

    gcloud run worker-pools describe WORKER_POOL --format export > worker-pool.yaml
  2. Quita las anotaciones scaling-cpu-target, minScale y maxScale de metadata.annotations. Actualiza la anotación scalingMode: automatic:

    apiVersion: run.googleapis.com/v1
    kind: WorkerPool
    metadata:
     name: WORKER_POOL
     annotations:
       run.googleapis.com/launch-stage: BETA
       run.googleapis.com/scalingMode: automatic

    Reemplaza WORKER_POOL por el nombre de tu grupo de trabajadores.

  3. Crea o actualiza el grupo de trabajadores con el siguiente comando:

    gcloud run worker-pools replace worker-pool.yaml

    El comando gcloud run worker-pools replace usa de forma predeterminada el archivo worker-pool.yaml si está presente.

API de REST

Para restablecer el objetivo de CPU predeterminado y los límites de instancias predeterminados en un grupo de trabajadores existente, envía la siguiente solicitud HTTP PATCH al extremo workerPools.patch de la API de Cloud Run Admin:

curl -H "Content-Type: application/json" \
    -H "Authorization: Bearer ACCESS_TOKEN" \
    -X PATCH \
    -d '{"launchStage":"BETA","scaling":{"scalingMode":"AUTOMATIC","cpuScaling":{}}}' \
    https://run.googleapis.com/v2/projects/PROJECT_ID/locations/REGION/workerPools/WORKER_POOL?update_mask=launchStage,scaling.scalingMode,scaling.cpuScaling.cpuUtilization,scaling.minInstanceCount,scaling.maxInstanceCount

Reemplaza lo siguiente:

  • ACCESS_TOKEN: Es un token de acceso válido para una cuenta que tiene los permisos de IAM para actualizar un grupo de trabajadores. Por ejemplo, si accediste a Google Cloud CLI, puedes recuperar un token de acceso ejecutando gcloud auth print-access-token.
  • PROJECT_ID: Es el ID del proyecto de Google Cloud .
  • REGION: Es la región de Google Cloud en la que se implementa tu grupo de trabajadores, por ejemplo, europe-west1.
  • WORKER_POOL: El nombre de tu grupo de trabajadores

Inhabilitar el ajuste de escala automático de CPU

Para inhabilitar el ajuste de escala automático de CPU y volver a cambiar el grupo de trabajadores al escalamiento manual, especifica un recuento de instancias fijo con Google Cloud CLI, YAML o la API de REST:

gcloud

Para inhabilitar el ajuste de escala automático de CPU en un grupo de trabajadores existente, ejecuta el siguiente comando con la marca --scaling establecida en tu recuento de instancias fijo:

gcloud beta run worker-pools update WORKER_POOL \
    --scaling=INSTANCE_COUNT

Reemplaza lo siguiente:

  • WORKER_POOL: El nombre de tu grupo de trabajadores
  • INSTANCE_COUNT: Es la cantidad fija de instancias que se ejecutarán en el modo de escalamiento manual.

YAML

  1. Si creas un grupo de trabajadores nuevo, omite este paso. Si actualizas un grupo de trabajadores existente, descarga su configuración de YAML:

    gcloud run worker-pools describe WORKER_POOL --format export > worker-pool.yaml
  2. Establece scalingMode como manual, especifica manualInstanceCount y quita scaling-cpu-target, minScale y maxScale si están presentes:

    apiVersion: run.googleapis.com/v1
    kind: WorkerPool
    metadata:
     name: WORKER_POOL
     annotations:
       run.googleapis.com/scalingMode: manual
       run.googleapis.com/manualInstanceCount: "INSTANCE_COUNT"

    Reemplaza lo siguiente:

    • WORKER_POOL: El nombre de tu grupo de trabajadores
    • INSTANCE_COUNT: Es la cantidad fija de instancias que se ejecutarán en el modo de escalamiento manual.
  3. Crea o actualiza el grupo de trabajadores con el siguiente comando:

    gcloud run worker-pools replace worker-pool.yaml

    El comando gcloud run worker-pools replace usa de forma predeterminada el archivo worker-pool.yaml si está presente.

API de REST

Para inhabilitar el ajuste de escala automático de CPU en un grupo de trabajadores existente, envía la siguiente solicitud HTTP PATCH al extremo workerPools.patch de la API de Cloud Run Admin:

curl -H "Content-Type: application/json" \
    -H "Authorization: Bearer ACCESS_TOKEN" \
    -X PATCH \
    -d '{"scaling":{"scalingMode":"MANUAL","manualInstanceCount":INSTANCE_COUNT}}' \
    https://run.googleapis.com/v2/projects/PROJECT_ID/locations/REGION/workerPools/WORKER_POOL?update_mask=scaling.scalingMode,scaling.manualInstanceCount,scaling.cpuScaling,scaling.minInstanceCount,scaling.maxInstanceCount

Reemplaza lo siguiente:

  • ACCESS_TOKEN: Es un token de acceso válido para una cuenta que tiene los permisos de IAM para actualizar un grupo de trabajadores. Por ejemplo, si accediste a Google Cloud CLI, puedes recuperar un token de acceso ejecutando gcloud auth print-access-token.
  • INSTANCE_COUNT: Es la cantidad fija de instancias que se ejecutarán en el modo de escalamiento manual.
  • PROJECT_ID: Es el ID del proyecto de Google Cloud .
  • REGION: Es la región de Google Cloud en la que se implementa tu grupo de trabajadores, por ejemplo, europe-west1.
  • WORKER_POOL: El nombre de tu grupo de trabajadores

Visualiza la configuración del ajuste de escala automático de CPU

Para ver la configuración del ajuste de escala automático de la CPU de tu grupo de trabajadores, ejecuta el comando gcloud beta run worker-pools describe:

gcloud beta run worker-pools describe WORKER_POOL

Reemplaza WORKER_POOL por el nombre de tu grupo de trabajadores.

Acerca del ajuste de escala automático de CPU

De forma predeterminada, el ajuste de escala automático de CPU tiene como objetivo un uso de CPU promedio del 60% (run.googleapis.com/container/cpu/utilizations) y escala tu grupo de trabajadores entre 1 y 100 instancias.

Cuando habilitas el ajuste de escala automático de CPU, Cloud Run calcula la cantidad necesaria de instancias para el grupo de trabajadores. Para ello, promedia el uso de CPU por segundo durante el último minuto en todas las instancias en ejecución y divide ese valor por la cantidad de CPU por instancia. Luego, el resultado se divide por tu objetivo de CPU:

\[ \text{Instances} = \left\lceil \dfrac{\left( \frac{\text{Average CPU usage per second over the past minute}}{\text{Number of CPUs per instance}} \right)}{\text{CPU target}} \right\rceil \]

Cloud Run ajusta la cantidad de instancias del grupo de trabajadores con los siguientes comportamientos:

  • Redondeo hacia arriba: Cloud Run calcula el recuento de instancias requerido a partir del uso de CPU medido y tu objetivo, no de la cantidad de instancias en ejecución, y redondea el resultado hacia arriba hasta la siguiente instancia completa. Debido a este redondeo, tu grupo de trabajadores puede escalar verticalmente mientras el uso aún está por debajo de tu objetivo. Por ejemplo, un grupo de trabajadores que necesita 4.1 instancias ejecuta 5 instancias.
  • Escalamiento a nivel del grupo y divisiones de instancias: Cloud Run calcula el recuento total de instancias para todo el grupo de trabajadores y, luego, distribuye esas instancias entre las revisiones activas según las divisiones de instancias que configuraste.
  • Estabilización de reducción de escala vertical de 5 minutos: Cloud Run usa un período de estabilización de 5 minutos (300 segundos) cuando reduce la escala verticalmente. Para evitar fluctuaciones frecuentes en las instancias, Cloud Run mantiene el recuento de instancias en la recomendación más alta de los 5 minutos anteriores.

Elige un objetivo de uso de CPU

Puedes usar el objetivo predeterminado de uso de CPU del 60% o configurar un objetivo personalizado del 10% al 90% según tu perfil de carga de trabajo y tolerancia a la latencia con los siguientes lineamientos:

  • Objetivo de CPU más alto (del 80% al 90%): Usa un objetivo más alto para cargas de trabajo en segundo plano estables y predecibles, o tareas de procesamiento por lotes que no sean sensibles a la latencia. Un objetivo más alto maximiza el uso de recursos y reduce el costo de la infraestructura, pero deja menos margen para aumentos repentinos de trabajo, lo que puede provocar una limitación de la CPU o un aumento de la latencia de procesamiento mientras se inician instancias nuevas.
  • Objetivo de CPU más bajo (del 20% al 40%): Usa un objetivo más bajo para las cargas de trabajo con una demanda de CPU irregular o impredecible, requisitos estrictos de latencia de procesamiento o tiempos de inicio de contenedores más largos. Un objetivo más bajo proporciona un búfer para absorber los aumentos repentinos de actividad aprovisionando más instancias antes, lo que ayuda a evitar la degradación del rendimiento. La desventaja es un costo más alto, ya que se ejecutan más instancias en condiciones de carga normales.

Te recomendamos que comiences con el objetivo predeterminado, supervises la métrica run.googleapis.com/container/instance_count en Cloud Monitoring y ajustes el objetivo en función de las pruebas de carga y las observaciones de rendimiento.

¿Qué sigue?