Este documento explica como usar o Cloud Monitoring para acompanhar a integridade do serviço do Knowledge Catalog (antigo Dataplex Universal Catalog), otimizar o desempenho e ter visibilidade da sua plataforma de dados. O monitoramento proativo ajuda a garantir a confiabilidade dos aplicativos de dados e tomar decisões conscientes sobre alocação de recursos e gerenciamento de custos.
Para entender os custos, consulte os preços do Monitoring.
Para mais informações sobre a retenção de dados de métricas, consulte Cotas e limites do Monitoring.
Casos de uso
É possível usar métricas do Knowledge Catalog no Cloud Monitoring para oferecer suporte aos seguintes casos de uso:
- Garantir a confiabilidade do pipeline de dados: monitore as taxas de sucesso e falha das tarefas do Knowledge Catalog, como jobs de ingestão de dados ou qualidade de dados. Configure alertas para falhas ou durações incomuns para minimizar o tempo de inatividade das cargas de trabalho críticas.
- Otimizar o desempenho: acompanhe as durações dos jobs e as métricas de utilização de recursos para identificar e resolver gargalos de desempenho nas cargas de trabalho de tratamento de dados, qualidade de dados e descoberta de dados.
- Gerenciar custos: monitore o consumo de recursos do Knowledge Catalog (como lakes, zonas e ativos) no Monitoring e use a exportação do Cloud Billing para o BigQuery para atribuir custos de computação sem servidor (DCU) a cargas de trabalho de qualidade, criação de perfil e linhagem de dados.
- Manter a governança de dados: acompanhe as métricas relacionadas à descoberta de metadados e ao enriquecimento do catálogo para garantir que os recursos de dados sejam verificados e marcados de acordo com suas políticas de governança.
Como funciona
O Knowledge Catalog é integrado ao Cloud Monitoring, que coleta métricas, eventos e metadados dos serviços do Knowledge Catalog. Essas métricas fornecem insights sobre áreas como status de execução do job, uso da API e integridade dos recursos. É possível analisar essas métricas usando ferramentas no Cloud Monitoring, como o Metrics Explorer, painéis personalizados e alertas. Com elas, é possível visualizar o comportamento do serviço, identificar tendências de desempenho e criar políticas de alertas que notificam você quando o desempenho se desvia dos limites definidos ou quando ocorrem falhas.
Acessar métricas de serviço no Monitoring
As métricas do recurso de serviço do Knowledge Catalog são ativadas automaticamente nos serviços do Knowledge Catalog. Para conferir essas métricas, use o Monitoring.
É possível acessar o Monitoring no console doGoogle Cloud ou usando a API Monitoring.
Se você não conseguir ver os gráficos de monitoramento ou criar alertas, talvez precise de mais permissões do Monitoring.
Console
No console do Google Cloud , acesse a página do Metrics explorer.
No menu Selecionar uma métrica, escolha um recurso
Cloud Dataplex.Selecione uma categoria e uma métrica na lista.
Para mostrar informações sobre uma métrica, mantenha o ponteiro do mouse sobre o nome dela.
Clique em Aplicar.
Opcional: selecione filtros, agrupe por rótulos de métrica, faça agregações e escolha opções de exibição de gráficos.
REST
Para capturar e listar métricas definidas por uma expressão filter,
use o método timeSeries.list do Monitoring.
Para enviar uma solicitação de API e mostrar a resposta, use o modelo Testar esta API na página da API.
Métricas de serviço do Knowledge Catalog no Monitoring
As métricas do serviço Knowledge Catalog facilitam o monitoramento da integridade do serviço.
As strings "tipo de métrica" nesta tabela precisam ser prefixadas
com dataplex.googleapis.com/. Esse prefixo foi
omitido das entradas na tabela.
Ao consultar um rótulo, use o prefixo metric.labels.. por
exemplo, metric.labels.LABEL="VALUE".
| Tipo de métrica Etapa do lançamento (níveis da hierarquia de recursos) Nome de exibição |
|
|---|---|
| Classe, Tipo, Unidade Recursos monitorados |
Descrição Rótulos |
asset/active
BETA
(projeto)
Ativo |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Asset |
Indica se o recurso está ativo.
resource_type:
O tipo do recurso referenciado.
zone_type:
O tipo da zona principal.
|
asset/data_items
BETA
(projeto)
Itens de dados |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Asset |
A contagem de itens no recurso referenciado.
resource_type:
O tipo do recurso referenciado.
zone_type:
O tipo da zona principal.
|
asset/data_size
BETA
(projeto)
Tamanho dos dados |
|
GAUGE, INT64, By
dataplex.googleapis.com/Asset |
O número de bytes armazenados no recurso referenciado.
resource_type:
O tipo do recurso referenciado.
zone_type:
O tipo da zona principal.
|
asset/entities_pending_bigquery_iampolicy_updates
BETA
(project)
Entidades com atualizações pendentes da política do IAM do BigQuery |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Asset |
Número de entidades associadas ao recurso com atualizações pendentes da política do IAM do BigQuery.
resource_type:
O tipo do recurso referenciado.
zone_type:
O tipo da zona principal.
|
asset/entities_pending_bigquery_metadata_updates
BETA
(projeto)
Entidades com atualizações pendentes de metadados do BigQuery |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Asset |
Número de entidades associadas ao recurso com atualizações de metadados do BigQuery pendentes.
resource_type:
O tipo do recurso referenciado.
zone_type:
O tipo da zona principal.
|
asset/filesets
BETA
(projeto)
Conjuntos de arquivos |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Asset |
A contagem de entidades de conjunto de arquivos no recurso referenciado.
resource_type:
O tipo do recurso referenciado.
zone_type:
O tipo da zona principal.
|
asset/requires_action
BETA
(projeto)
Requer ação |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Asset |
Se o recurso tem ações de administrador não resolvidas.
resource_type:
O tipo do recurso referenciado.
zone_type:
O tipo da zona principal.
|
asset/tables
BETA
(projeto)
Tabelas |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Asset |
A contagem de entidades de tabela no recurso referenciado.
resource_type:
O tipo do recurso referenciado.
zone_type:
O tipo da zona principal.
|
lake/requires_action
BETA
(projeto)
Requer ação |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Lake |
Se o lake tem ações de administrador não resolvidas. |
zone/requires_action
BETA
(projeto)
Requer ação |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Zone |
Se a zona tem ações de administrador não resolvidas.
type:
O tipo da zona.
|
Tabela gerada em 09-09-2026 21:16:05 UTC.
Monitorar e atribuir custos de DCU do Dataplex com a exportação do Cloud Billing
Como as verificações de dados do Knowledge Catalog (incluindo qualidade automática de dados e criação de perfil de dados) e a linhagem de dados não publicam métricas de série temporal no Cloud Monitoring, use a exportação do Cloud Billing para o BigQuery para rastrear, monitorar e atribuir o uso e os custos da unidade de computação de dados (DCU) em projetos, verificações e recursos de dados.
Rótulos de faturamento do Dataplex
O Knowledge Catalog anexa automaticamente rótulos do sistema aos registros de faturamento emitidos para verificações de dados e linhagem de dados. É possível consultar esses rótulos na matriz labels da tabela de exportação do Cloud Billing:
| Chave do rótulo | Carga de trabalho | Descrição |
|---|---|---|
goog-dataplex-datascan-id |
Qualidade e criação de perfis de dados | O ID ou nome da verificação de dados. |
goog-dataplex-datascan-job-id |
Qualidade e criação de perfis de dados | O ID de execução específico do job de verificação de dados. |
goog-dataplex-datascan-data-source-project |
Qualidade e criação de perfis de dados | O projeto Google Cloud que contém a fonte de dados verificada. |
goog-dataplex-datascan-data-source-region |
Qualidade e criação de perfis de dados | A Google Cloud região da fonte de dados verificada. |
goog-dataplex-datascan-data-source-bigquery-dataset |
Qualidade e criação de perfis de dados | O ID do conjunto de dados do BigQuery da tabela verificada. |
goog-dataplex-datascan-data-source-bigquery-table |
Qualidade e criação de perfis de dados | O ID da tabela do BigQuery verificada. |
goog-dataplex-datascan-data-source-dataplex-lake |
Qualidade e criação de perfis de dados | O ID do lake do Dataplex (se aplicável). |
goog-dataplex-datascan-data-source-dataplex-zone |
Qualidade e criação de perfis de dados | O ID da zona de dados do Dataplex (se aplicável). |
goog-dataplex-datascan-data-source-dataplex-entity |
Qualidade e criação de perfis de dados | O ID da entidade do Dataplex (se aplicável). |
goog-dataplex-datascan-data-source-biglake-catalog |
Qualidade e criação de perfis de dados | O ID do catálogo do BigLake (se aplicável). |
goog-dataplex-datascan-data-source-biglake-namespace |
Qualidade e criação de perfis de dados | O namespace do BigLake (se aplicável). |
goog-dataplex-datascan-data-source-biglake-table |
Qualidade e criação de perfis de dados | O ID da tabela do BigLake (se aplicável). |
goog-dataplex-workload-type |
Linhagem de dados | Identifica a carga de trabalho. Defina como LINEAGE para cobranças de processamento da linhagem de dados. |
Exemplo de consultas
Antes de executar essas consultas, verifique se você ativou a exportação do Cloud Billing para o BigQuery. Nas consultas de exemplo, substitua os seguintes marcadores:
PROJECT_ID: o ID do projeto Google Cloud que hospeda seu conjunto de dados de exportação de faturamento do BigQuery.DATASET_NAME: o nome do conjunto de dados do BigQuery que contém a tabela de exportação de faturamento.BILLING_ACCOUNT_ID: o ID da sua conta do Cloud Billing (formatado com sublinhados, por exemplo,012345_567890_ABCDEF).
Consulta 1: custos e uso de DCU por DataScan e tabela de destino
Esta consulta agrega os custos de processamento do Dataplex e do Premium por ID do DataScan e tabela de destino do BigQuery nos últimos 30 dias:
SELECT project.id AS project_id, (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id') AS datascan_id, (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-data-source-project') AS data_source_project, (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-data-source-bigquery-dataset') AS data_source_dataset, (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-data-source-bigquery-table') AS data_source_table, sku.description AS sku_description, SUM(usage.amount) AS total_usage, usage.unit AS usage_unit, SUM(cost) AS total_cost, currency FROM `PROJECT_ID.DATASET_NAME.gcp_billing_export_v1_BILLING_ACCOUNT_ID` WHERE service.description = 'Dataplex' AND EXISTS (SELECT 1 FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id') AND _PARTITIONDATE >= DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY) GROUP BY project_id, datascan_id, data_source_project, data_source_dataset, data_source_table, sku_description, usage_unit, currency ORDER BY total_cost DESC;
Consulta 2: atribuir custos do Dataplex por tipo de carga de trabalho (linhagem x DataScan)
Esta consulta detalha os custos da SKU do Dataplex por categoria de carga de trabalho (como linhagem de dados x DataScan) em todos os projetos:
SELECT project.id AS project_id, sku.description AS sku_description, COALESCE( (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-workload-type'), IF(EXISTS(SELECT 1 FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id'), 'DATASCAN', 'OTHER') ) AS workload_type, SUM(usage.amount) AS total_usage, usage.unit AS usage_unit, SUM(cost) AS total_cost, currency FROM `PROJECT_ID.DATASET_NAME.gcp_billing_export_v1_BILLING_ACCOUNT_ID` WHERE service.description = 'Dataplex' AND _PARTITIONDATE >= DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY) GROUP BY project_id, sku_description, workload_type, usage_unit, currency ORDER BY total_cost DESC;
Consulta 3: tendência diária de uso e custo de DCU por execução de job do DataScan
Essa consulta rastreia o consumo e os custos diários de DCU para execuções individuais de jobs do DataScan nos últimos sete dias:
SELECT DATE(usage_start_time) AS usage_date, project.id AS project_id, (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id') AS datascan_id, (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-job-id') AS job_id, SUM(usage.amount) AS total_usage, usage.unit AS usage_unit, SUM(cost) AS total_cost, currency FROM `PROJECT_ID.DATASET_NAME.gcp_billing_export_v1_BILLING_ACCOUNT_ID` WHERE service.description = 'Dataplex' AND EXISTS (SELECT 1 FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id') AND _PARTITIONDATE >= DATE_SUB(CURRENT_DATE(), INTERVAL 7 DAY) GROUP BY usage_date, project_id, datascan_id, job_id, usage_unit, currency ORDER BY usage_date DESC, total_cost DESC;
Criar um painel personalizado do Monitoring
É possível criar um painel personalizado do Monitoring com gráficos de métricas do serviço do catálogo de dados do Knowledge Catalog selecionadas. Para mais informações
sobre como criar um painel, consulte
Criar e gerenciar painéis personalizados. Ao
selecionar uma métrica para um widget no painel, escolha um recurso Cloud Dataplex
e uma métrica do Knowledge Catalog.
Usar alertas do Monitoring
É possível criar um alerta do Monitoring para notificar você quando um serviço ou métrica de job do Knowledge Catalog ultrapassar um limite especificado.
Criar um alerta
Para criar um alerta, siga as instruções em
Criar políticas de alertas de limite de métrica.
Ao selecionar uma série temporal para monitorar, escolha um recurso Cloud Dataplex e uma métrica do Knowledge Catalog.
Ver alertas
Quando um alerta é acionado por uma condição de limite de métrica, o Monitoring cria um incidente e um evento correspondente.
Para ver um incidente, siga esta etapa:
No console Google Cloud , acesse a página Alertas.
O Monitoring também envia uma notificação do incidente se tiver sido definido na política de alerta algum mecanismo de notificação, como notificações por e-mail ou por SMS.
Para mais informações sobre alertas, consulte Incidentes para alertas baseados em métricas.
A seguir
- Saiba mais sobre o Cloud Monitoring.
- Saiba mais sobre a exportação do Cloud Billing para o BigQuery.
- Saiba como usar a qualidade de dados automática.
- Saiba como usar a criação de perfil de dados.
- Saiba como usar a linhagem de dados.