Información general sobre las métricas

En esta página se describen las métricas que le ayudan a monitorizar el estado y el rendimiento de sus instancias y flujos de procesamiento de Cloud Data Fusion. Usa Cloud Monitoring para monitorizar estas métricas. Las métricas proporcionan información valiosa sobre las ejecuciones de la canalización, los detalles de las instancias, las solicitudes de API y las comprobaciones de autorización.

Las métricas se clasifican como métricas de la canalización o métricas de la instancia:

  • Las métricas de la canalización proporcionan datos sobre las ejecuciones de canalizaciones individuales, como el estado, la duración, la latencia y el rendimiento de los datos.
  • Las métricas de instancia proporcionan información agregada sobre las canalizaciones de una instancia, como la disponibilidad del servicio, el número de canalizaciones implementadas y el número de solicitudes de API.

Filtra y agrega métricas de instancias y de flujos de procesamiento de Cloud Data Fusion en Monitoring mediante las etiquetas métrica y recurso monitorizado. Cuando personalizas las vistas de métricas, puedes usar uno de estos tipos de etiquetas o ambos.

Etiquetas de recursos monitorizados de Cloud Data Fusion Pipeline

Filtra y agrega las métricas con las siguientes etiquetas de recursos monitorizados de Cloud Data Fusion Pipeline:

Nombre de la etiqueta Descripción
resource_container El ID del proyecto del cliente.
org_id El ID de la organización a la que pertenece el proyecto del cliente.
location Zona o región en la que se aloja la instancia.
edition La edición de la instancia de Cloud Data Fusion.
is_private_ip_enabled Si la instancia usa una dirección IP interna.
version Versión del plano de datos de Cloud Data Fusion de la instancia.
instance_id El ID de la instancia de Cloud Data Fusion.
namespace El espacio de nombres de la canalización.
pipeline_id El ID de la canalización.
run_id El ID de ejecución de la canalización.

Etiquetas de métricas de la canalización

Filtra y agrega las métricas con las siguientes etiquetas de métricas de Cloud Data Fusion en Monitoring:

Nombre Métrica Descripción Etiquetas de métricas
Estado de la ejecución del flujo de procesamiento datafusion.googleapis.com/pipeline/v2/runs_completed_count Recuento acumulativo de las canalizaciones que han completado una ejecución.
  • complete_state
  • previous_state
  • program
  • provisioner
  • cluster_state
  • compute_profile_id
  • enable_rbac
  • private_service_connect_enabled
Tiempo de ejecución del flujo de procesamiento datafusion.googleapis.com/pipeline/v2/pipeline_duration Tiempo necesario para completar la ejecución del flujo de trabajo.
  • complete_state
  • program
  • provisioner
  • cluster_state
  • compute_profile_id
  • enable_rbac
  • private_service_connect_enabled
Latencia de inicio del flujo de procesamiento datafusion.googleapis.com/pipeline/v2/pipeline_start_latency El tiempo que tarda la canalización en alcanzar el estado En ejecución.
  • program
  • provisioner
  • cluster_state
  • compute_profile_id
  • complete_state
  • enable_rbac
  • private_service_connect_enabled
Latencia de aprovisionamiento datafusion.googleapis.com/pipeline/v2/dataproc/provisioning_latency Latencia de aprovisionamiento del clúster de Dataproc.
  • provisioner
  • enable_rbac
  • private_service_connect_enabled
Solicitudes a la API de Dataproc datafusion.googleapis.com/pipeline/v2/dataproc/api_request_count Recuento acumulativo de solicitudes a la API de Dataproc.
  • provisioner
  • method
  • response_code
  • region
  • launch_mode
  • image_version
  • enable_rbac
  • private_service_connect_enabled
Tiempo de ejecución de la vista previa del flujo de procesamiento datafusion.googleapis.com/pipeline/v2/preview_duration Tiempo necesario para completar la vista previa.
  • complete_state
  • enable_rbac
  • private_service_connect_enabled
Bytes escritos del flujo de procesamiento datafusion.googleapis.com/pipeline/v2/write_bytes_count Recuento acumulativo de bytes escritos por una canalización.
  • enable_rbac
  • private_service_connect_enabled
Bytes leídos del flujo de procesamiento datafusion.googleapis.com/pipeline/v2/read_bytes_count El recuento acumulativo de bytes leídos por una canalización.
  • enable_rbac
  • private_service_connect_enabled
Bytes de flujo de procesamiento ordenados aleatoriamente datafusion.googleapis.com/pipeline/v2/shuffle_bytes_count Recuento acumulativo de bytes aleatorizados en una canalización.
  • enable_rbac
  • private_service_connect_enabled
Registros de complementos procesados en datafusion.googleapis.com/pipeline/v2/plugin/incoming_records_count Recuento acumulativo de los registros que entran en un complemento.
  • enable_rbac
  • private_service_connect_enabled
  • stage_name
Plugin records processed out datafusion.googleapis.com/pipeline/v2/plugin/outgoing_records_count Número acumulado de registros que salen de un complemento.
  • enable_rbac
  • private_service_connect_enabled
  • stage_name

Etiquetas de recursos monitorizados de instancias de Cloud Data Fusion

Filtra y agrega las métricas con las siguientes etiquetas de recurso monitorizado Instancia de Cloud Data Fusion:

Nombre de la etiqueta Descripción
resource_container El ID del proyecto del cliente.
org_id El ID de la organización a la que pertenece el proyecto del cliente.
location Zona o región en la que se aloja la instancia.
edition La edición de la instancia.
is_private_ip_enabled Si la instancia usa una dirección IP interna.
version Versión del plano de datos de Cloud Data Fusion de la instancia.
instance_id El ID de la instancia de Cloud Data Fusion.
namespace El nombre del espacio de nombres.

Etiquetas de métricas de instancias

Filtra y agrega las métricas con las siguientes etiquetas de métricas de Cloud Data Fusion en Monitoring:

Nombre Métrica Descripción Etiquetas de métricas
Estado del servicio datafusion.googleapis.com/instance/v2/service_available La disponibilidad de los servicios de Cloud Data Fusion.
  • service
  • enable_rbac
  • private_service_connect_enabled
Número de flujos de procesamiento desplegados datafusion.googleapis.com/instance/v2/pipelines Número de flujos de trabajo desplegados.
  • enable_rbac
  • private_service_connect_enabled
  • maintenance_window_enabled
Recuento de flujos de procesamiento simultáneos en ejecución datafusion.googleapis.com/instance/v2/concurrent_pipelines_running Número de flujos de procesamiento que se ejecutan simultáneamente.
  • enable_rbac
  • private_service_connect_enabled
Número de lanzamientos de flujos de procesamiento simultáneos datafusion.googleapis.com/instance/v2/concurrent_pipelines_launched Número de las canalizaciones que tienen el estado Provisioning o Starting.
  • enable_rbac
  • private_service_connect_enabled
Solicitudes de la API REST de CDAP recibidas datafusion.googleapis.com/instance/v2/api_request_count El recuento acumulado de solicitudes de la API REST recibidas por un servicio en el backend.
  • service
  • handler
  • method
  • enable_rbac
  • private_service_connect_enabled
Respuestas de la API REST de CDAP enviadas datafusion.googleapis.com/instance/v2/api_response_count El recuento acumulado de respuestas de la API REST enviadas por un servicio en el backend.
  • service
  • handler
  • method
  • response_code
  • enable_rbac
  • private_service_connect_enabled
Número de comprobaciones de autorización datafusion.googleapis.com/instance/v2/authorization_check_count Recuento acumulativo de las comprobaciones de autorización realizadas por el verificador de acceso.
  • enable_rbac
  • type
  • private_service_connect_enabled
Hora de comprobación de la autorización datafusion.googleapis.com/instance/v2/authorization_check_time Latencia de las comprobaciones de autorización realizadas por el verificador de acceso.
  • enable_rbac
  • type
  • private_service_connect_enabled
Número de flujos de procesamiento en borrador datafusion.googleapis.com/instance/v2/draft_pipelines Número de flujos de procesamiento en borrador.
  • enable_rbac
  • private_service_connect_enabled
Número de espacios de nombres datafusion.googleapis.com/instance/v2/namespaces El número de espacios de nombres.
  • enable_rbac
  • private_service_connect_enabled

Siguientes pasos