Verificar problemas de qualidade de dados
A qualidade de dados automática do Knowledge Catalog permite definir e medir a qualidade dos dados nas tabelas do BigQuery. É possível automatizar as verificações de dados, validar os dados de acordo com as regras definidas e registrar alertas se os dados não atenderem aos requisitos de qualidade.
É possível gerenciar as verificações de qualidade de dados em todo o projeto ou em uma tabela específica. Para mais informações sobre a qualidade de dados automática, consulte Visão geral da qualidade de dados automática.
Antes de começar
-
Ative a API Dataplex, se ainda não tiver feito isso.
Funções necessárias para ativar APIs
Para ativar APIs, você precisa da permissão
serviceusage.services.enable. Se você criou o projeto, provavelmente já tem essa permissão pelo papel de proprietário (roles/owner). Caso contrário, é possível conseguir essa permissão pelo papel de administrador do Service Usage (roles/serviceusage.serviceUsageAdmin). Saiba como conceder papéis. - Opcional: se você quiser que o Knowledge Catalog gere recomendações para regras de qualidade de dados com base nos resultados de uma verificação do perfil de dados, crie e execute a verificação do perfil de dados.
Funções exigidas
Nesta seção, descrevemos os papéis e as permissões do IAM necessários para usar as verificações de qualidade de dados do Knowledge Catalog.
Funções e permissões do usuário
Para receber as permissões necessárias para executar e gerenciar verificações de qualidade de dados, peça ao administrador para conceder a você os seguintes papéis do IAM:
-
Execute uma verificação de qualidade de dados em uma tabela do BigQuery:
- Usuário de jobs do BigQuery (
roles/bigquery.jobUser) no projeto para executar jobs de verificação - Visualizador de dados do BigQuery (
roles/bigquery.dataViewer) na tabela do BigQuery que será verificada
- Usuário de jobs do BigQuery (
-
Publique os resultados da verificação de qualidade de dados no Knowledge Catalog:
- Editor de dados do BigQuery (
roles/bigquery.dataEditor) na tabela verificada - Editor do catálogo do Dataplex (
roles/dataplex.catalogEditor) no grupo de entrada@bigqueryno mesmo local da tabela
- Editor de dados do BigQuery (
-
Realizar tarefas específicas em recursos do
DataScan:- Administrador do DataScan Dataplex (
roles/dataplex.dataScanAdmin) no projeto para acesso total - Criador de DataScan Dataplex (
roles/dataplex.dataScanCreator) no projeto para criar verificações - Editor do DataScan Dataplex (
roles/dataplex.dataScanEditor) no projeto para acesso de gravação - Leitor do DataScan Dataplex (
roles/dataplex.dataScanViewer) no projeto para ler os metadados da verificação - Leitor de dados do DataScan Dataplex (
roles/dataplex.dataScanDataViewer) no projeto para ler dados de verificação, incluindo regras e resultados.
- Administrador do DataScan Dataplex (
Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.
Esses papéis predefinidos contêm as permissões necessárias para executar e gerenciar verificações de qualidade de dados. Para acessar as permissões exatas necessárias, expanda a seção Permissões necessárias:
Permissões necessárias
As seguintes permissões são necessárias para executar e gerenciar verificações de qualidade de dados:
-
Execute uma verificação de qualidade de dados em uma tabela do BigQuery:
-
bigquery.jobs.createno projeto para executar jobs de verificação -
bigquery.tables.getna tabela do BigQuery a ser verificada -
bigquery.tables.getDatana tabela do BigQuery a ser verificada
-
-
Publicar resultados da verificação de qualidade de dados no Knowledge Catalog:
-
bigquery.tables.updatena tabela verificada -
dataplex.entryGroups.useDataQualityScorecardAspectno grupo de entrada@bigqueryno mesmo local da tabela
-
-
Criar um
DataScan:dataplex.datascans.createno projeto -
Exclua um
DataScan:dataplex.datascans.deleteno projeto -
Ver metadados de
DataScan:dataplex.datascans.getno projeto -
Ver detalhes de
DataScan, incluindo regras e resultados:dataplex.datascans.getDatano projeto -
Liste
DataScans:dataplex.datascans.listno projeto -
Execute um
DataScan:dataplex.datascans.runno projeto -
Atualizar um
DataScan:dataplex.datascans.updateno projeto -
Receber ou definir a política do IAM em um
DataScan:-
dataplex.datascans.getIamPolicyno projeto -
dataplex.datascans.setIamPolicyno projeto
-
Essas permissões também podem ser concedidas com funções personalizadas ou outros papéis predefinidos.
Se precisar acessar colunas protegidas por políticas de acesso no nível da coluna do BigQuery, você também precisará de permissões para essas colunas.
Papéis e permissões da conta de serviço do Knowledge Catalog
Se você ainda não criou nenhuma verificação de qualidade de dados ou verificação do perfil de dados ou não tem um lake do Knowledge Catalog neste projeto, crie um identificador de serviço executando:
gcloud beta services identity create --service=dataplex.googleapis.com.
Esse comando retorna um identificador de serviço do Knowledge Catalog, caso ele exista.
Para garantir que a conta de serviço do Knowledge Catalog do projeto que contém a verificação de qualidade de dados tenha as permissões necessárias para ler dados de várias fontes e exportar resultados, peça ao administrador para conceder os seguintes papéis do IAM à conta de serviço do Knowledge Catalog do projeto que contém a verificação de qualidade de dados:
-
Ler dados da tabela do BigQuery:
Visualizador de dados do BigQuery (
roles/bigquery.dataViewer) nas tabelas a serem verificadas e em todas as outras tabelas referenciadas nas regras -
Ler o catálogo REST do Iceberg, o SAP Business Data Cloud Delta Lake e o Apache Hive nos dados da tabela do Lakehouse do Google Cloud :
Leitor do BigLake (
roles/biglake.viewer) nas respectivas tabelas a serem verificadas e em todas as outras tabelas referenciadas nas regras -
Exportar os resultados da verificação para uma tabela do BigQuery:
Editor de dados do BigQuery (
roles/bigquery.dataEditor) no conjunto de dados e na tabela de resultados -
Verifique os dados do BigQuery organizados em um lake do Knowledge Catalog:
- Leitor de metadados do Dataplex (
roles/dataplex.metadataReader) nos recursos do Dataplex - Leitor do Dataplex (
roles/dataplex.viewer) nos recursos do Dataplex
- Leitor de metadados do Dataplex (
-
Verificar uma tabela externa do BigQuery no Cloud Storage:
Leitor de objetos do Storage (
roles/storage.objectViewer) no bucket do Cloud Storage
Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.
Esses papéis predefinidos contêm as permissões necessárias para ler dados de várias fontes e exportar resultados. Para acessar as permissões exatas necessárias, expanda a seção Permissões necessárias:
Permissões necessárias
As permissões a seguir são necessárias para ler dados de várias fontes e exportar resultados:
-
Ler dados da tabela do BigQuery:
-
bigquery.tables.getem tabelas do BigQuery -
bigquery.tables.getDataem tabelas do BigQuery
-
-
Exportar os resultados da verificação para uma tabela do BigQuery:
-
bigquery.datasets.getno conjunto de dados e na tabela de resultados -
bigquery.tables.createno conjunto de dados e na tabela de resultados -
bigquery.tables.getno conjunto de dados e na tabela de resultados -
bigquery.tables.getDatano conjunto de dados e na tabela de resultados -
bigquery.tables.updateno conjunto de dados e na tabela de resultados -
bigquery.tables.updateDatano conjunto de dados e na tabela de resultados
-
-
Verifique os dados do BigQuery organizados em um lake do Knowledge Catalog:
-
dataplex.lakes.listnos recursos do Dataplex -
dataplex.lakes.getnos recursos do Dataplex -
dataplex.zones.listnos recursos do Dataplex -
dataplex.zones.getnos recursos do Dataplex -
dataplex.entities.listnos recursos do Dataplex -
dataplex.entities.getnos recursos do Dataplex -
dataplex.operations.getnos recursos do Dataplex
-
-
Verificar uma tabela externa do BigQuery no Cloud Storage:
-
storage.buckets.getno bucket do Cloud Storage -
storage.objects.getno bucket do Cloud Storage
-
O administrador também pode conceder essas permissões à conta de serviço do Knowledge Catalog do projeto que contém a verificação de qualidade de dados com papéis personalizados ou outros papéis predefinidos.
Se precisar acessar colunas protegidas por políticas de acesso no nível da coluna do BigQuery, atribua à conta de serviço do Knowledge Catalog permissões para essas colunas.
Se uma tabela tiver políticas de acesso no nível da linha do BigQuery habilitadas, só será possível verificar as linhas visíveis para a conta de serviço do Knowledge Catalog. Os privilégios de acesso do usuário individual não são avaliados para fins de políticas no nível da linha.
Criar uma verificação de qualidade de dados
Console
No console do Google Cloud , na página Curadoria de metadados do BigQuery, acesse a guia Qualidade e criação do perfil de dados.
Clique em Criar verificação de qualidade de dados.
Na janela Definir verificação, preencha os seguintes campos:
Opcional: insira um Nome de exibição.
Insira um ID. Consulte as convenções de nomenclatura de recursos.
Opcional: digite uma Descrição.
No campo Tabela, clique em Procurar. Escolha a tabela a ser verificada e clique em Selecionar. Somente as tabelas padrão do BigQuery, do catálogo REST do Iceberg, do SAP BDC Delta e do Hive no Google Cloud Lakehouse são compatíveis.
Para tabelas em conjuntos de dados multirregionais, escolha uma região para criar a verificação de dados.
Para navegar pelas tabelas organizadas nos lakes do Knowledge Catalog, clique em Procurar nos lakes do Knowledge Catalog.
No campo Escopo, escolha Incremental ou Dados completos.
- Se você escolher Incremental: no campo Coluna de carimbo de data/hora,
selecione uma coluna do tipo
DATEouTIMESTAMPna tabela do BigQuery que cresça à medida que novos registros são adicionados e que possa ser usada para identificar novos registros. Pode ser uma coluna que particiona a tabela.
- Se você escolher Incremental: no campo Coluna de carimbo de data/hora,
selecione uma coluna do tipo
Opcional: para filtrar os dados, marque a caixa de seleção Filtrar linhas. Forneça um filtro de linha que consiste em uma expressão SQL válida que pode ser usada como parte de uma cláusula
WHEREna sintaxe do GoogleSQL. Por exemplo,col1 >= 0. O filtro pode ser uma combinação de várias condições de coluna. Por exemplo,col1 >= 0 AND col2 < 10.Para fazer uma amostragem dos dados, na lista Tamanho da amostragem, selecione uma porcentagem de amostragem. Escolha uma porcentagem entre 0,0% e 100,0% com até três casas decimais. Para conjuntos de dados maiores, escolha uma porcentagem de amostragem menor. Por exemplo, para uma tabela de 1 PB, se você inserir um valor entre 0,1% e 1,0%, a verificação de qualidade de dados vai amostrar entre 1 e 10 TB de dados. Nas verificações de dados incrementais, a verificação de qualidade de dados aplica amostragem ao incremento mais recente.
Opcional: para publicar os resultados da verificação de qualidade de dados como metadados do Knowledge Catalog, marque a caixa de seleção Publicar resultados no Knowledge Catalog.
É possível conferir os resultados mais recentes da verificação na guia Qualidade de dados nas páginas do BigQuery e do Knowledge Catalog para a tabela de origem. Para permitir que os usuários acessem os resultados publicados da verificação, consulte a seção Conceder acesso aos resultados da verificação de qualidade de dados neste documento.
Para Tipo de credencial, consulte Configurar identidade de execução.
Para criar uma verificação de qualidade de dados usando regras, selecione Tipo de regra > Criar com regra baseada em entrada.
Na seção Programação, escolha uma das seguintes opções:
Repetir: execute a verificação de qualidade de dados em uma programação: por hora, diária, semanal, mensal ou personalizada. Especifique a frequência e o horário da verificação. Se você escolher "Personalizado", use o formato cron para especificar a programação.
Sob demanda: execute a verificação de qualidade de dados sob demanda.
Execução única: execute a verificação de qualidade de dados uma vez agora e remova-a após o tempo de exclusão automática. Esse recurso está na visualização.
- Definir a exclusão automática dos resultados após a verificação: o tempo de exclusão automática é o período entre a execução e a exclusão da verificação. Uma verificação de qualidade de dados sem um tempo de exclusão automática especificado é excluída automaticamente 24 horas após a execução. O tempo de exclusão automática pode variar de 0 segundos (exclusão imediata) a 365 dias.
Clique em Continuar.
Na janela Regras de qualidade de dados, defina as regras a serem configuradas para essa verificação de qualidade de dados.
Clique em Adicionar regras e escolha uma das opções a seguir.
Recomendações com base no perfil: crie regras com base nas recomendações de uma verificação de perfil de dados atual.
Escolher colunas: selecione as colunas para receber regras recomendadas.
Escolher projeto de verificação: se a verificação do perfil de dados estiver em um projeto diferente daquele em que você está criando a verificação de qualidade de dados, selecione o projeto de onde as verificações de perfil serão extraídas.
Escolher resultados de perfil: selecione um ou mais resultados de perfil e clique em OK. Isso preenche uma lista de regras sugeridas que você pode usar como ponto de partida.
Marque a caixa de seleção das regras que você quer adicionar e clique em Selecionar. Depois de selecionadas, as regras são adicionadas à sua lista de regras atual. Em seguida, você pode editar as regras.
Tipos de regras integradas: crie regras com base em regras predefinidas. Consulte a lista de regras predefinidas.
Escolher colunas: selecione as colunas para as quais você quer escolher regras.
Escolher tipos de regra: selecione os tipos de regra que você quer escolher e clique em OK. Os tipos de regra que aparecem dependem das colunas selecionadas.
Marque a caixa de seleção das regras que você quer adicionar e clique em Selecionar. Depois de selecionadas, as regras são adicionadas à sua lista de regras atual. Em seguida, você pode editar as regras.
Regra de verificação de linhas SQL: crie uma regra SQL personalizada para aplicar a cada linha.
Em Dimensão, escolha uma dimensão.
Em Limite de aprovação, escolha uma porcentagem de registros que precisam passar na verificação.
Em Nome da coluna, escolha uma coluna.
No campo Fornecer uma expressão SQL, insira uma expressão SQL que seja avaliada como um booleano
true(aprovado) oufalse(reprovado). Para mais informações, consulte Tipos de regras SQL personalizadas compatíveis e os exemplos em Definir regras de qualidade de dados.Clique em Adicionar.
Regra de verificação agregada do SQL: crie uma regra de condição de tabela SQL personalizada.
Em Dimensão, escolha uma dimensão.
Em Nome da coluna, escolha uma coluna.
No campo Fornecer uma expressão SQL, insira uma expressão SQL que seja avaliada como um booleano
true(aprovado) oufalse(reprovado). Para mais informações, consulte Tipos de regras SQL personalizadas compatíveis e os exemplos em Definir regras de qualidade de dados.Clique em Adicionar.
Regra de declaração SQL: crie uma regra de declaração SQL personalizada para verificar se há um estado inválido dos dados.
Em Dimensão, escolha uma dimensão.
Opcional: em Nome da coluna, escolha uma coluna.
No campo Fornecer uma instrução SQL, insira uma instrução SQL que retorne linhas que correspondam ao estado inválido. Se alguma linha for retornada, essa regra falhará. Omita o ponto e vírgula final da instrução SQL. Para mais informações, consulte Tipos de regras SQL personalizadas compatíveis e os exemplos em Definir regras de qualidade de dados.
Clique em Adicionar.
Opcional: para qualquer regra de qualidade de dados, é possível atribuir um nome personalizado para usar no monitoramento e nos alertas, além de uma descrição. Para fazer isso, edite uma regra e especifique os seguintes detalhes:
- Nome da regra: insira um nome personalizado com até 63 caracteres. O nome da regra pode incluir letras (a-z, A-Z), dígitos (0-9) e hifens (-) e precisa começar com uma letra e terminar com um número ou uma letra.
- Descrição: insira uma descrição de regra com no máximo 1.024 caracteres.
Repita as etapas anteriores para adicionar outras regras à verificação de qualidade de dados. Quando terminar, clique em Continuar.
Opcional: exporte os resultados da verificação para uma tabela padrão do BigQuery. Na seção Exportar os resultados da verificação para a tabela do BigQuery, faça o seguinte:
No campo Selecionar conjunto de dados do BigQuery, clique em Procurar. Selecione um conjunto de dados do BigQuery para armazenar os resultados da verificação de qualidade de dados.
No campo Tabela do BigQuery, especifique a tabela para armazenar os resultados da verificação de qualidade de dados. Se você estiver usando uma tabela, verifique se ela é compatível com o esquema de tabela de exportação. Se a tabela especificada não existir, o Knowledge Catalog vai criá-la.
Opcional: adicione rótulos. Rótulos são pares de chave-valor que permitem agrupar objetos relacionados entre si ou com outros recursos do Google Cloud .
Opcional: configure relatórios de notificação por e-mail para alertar as pessoas sobre o status e os resultados de um job de verificação de qualidade de dados. Na seção Relatório de notificações, clique em Adicionar ID de e-mail e insira até cinco endereços de e-mail. Em seguida, selecione os cenários para os quais você quer enviar relatórios:
- Índice de qualidade (<=): envia um relatório quando um job é concluído com um índice de qualidade de dados menor que o índice de destino especificado. Insira um índice de qualidade desejado entre 0 e 100.
- Falhas no job: envia um relatório quando o job falha, independentemente dos resultados da qualidade de dados.
- Conclusão do job (sucesso ou falha): envia um relatório quando o job termina, independentemente dos resultados da qualidade de dados.
Clique em Criar.
Depois que a verificação for criada, você poderá executá-la a qualquer momento clicando em Executar agora.
gcloud
Para criar uma verificação de qualidade de dados, use o
comando gcloud dataplex datascans create data-quality.
Se os dados de origem estiverem organizados em um lake do Knowledge Catalog, inclua a
flag --data-source-entity:
gcloud dataplex datascans create data-quality DATASCAN \
--location=LOCATION \
--data-quality-spec-file=DATA_QUALITY_SPEC_FILE \
--data-source-entity=DATA_SOURCE_ENTITY
Se os dados de origem não estiverem organizados em um lake do Knowledge Catalog, inclua
a flag --data-source-resource:
gcloud dataplex datascans create data-quality DATASCAN \
--location=LOCATION \
--data-quality-spec-file=DATA_QUALITY_SPEC_FILE \
--data-source-resource=DATA_SOURCE_RESOURCE
Substitua as seguintes variáveis:
DATASCAN: o nome da verificação de qualidade de dados.LOCATION: a região Google Cloud em que a verificação da qualidade de dados será criada.DATA_QUALITY_SPEC_FILE: o caminho para o arquivo JSON ou YAML que contém as especificações da verificação de qualidade de dados. O arquivo pode ser local ou um caminho do Cloud Storage com o prefixogs://. Use esse arquivo para especificar as regras de qualidade de dados da verificação. Também é possível especificar outros detalhes nesse arquivo, como filtros, porcentagem de amostragem e ações pós-verificação, como exportar para o BigQuery ou enviar relatórios de notificação por e-mail. Consulte a documentação para representação JSON e o exemplo de representação YAML.DATA_SOURCE_ENTITY: a entidade do Knowledge Catalog que contém os dados da verificação de qualidade de dados. Por exemplo,projects/test-project/locations/test-location/lakes/test-lake/zones/test-zone/entities/test-entity.DATA_SOURCE_RESOURCE: o nome do recurso que contém os dados da verificação de qualidade de dados. Por exemplo,//bigquery.googleapis.com/projects/test-project/datasets/test-dataset/tables/test-table.
C#
C#
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Go
Go
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Java
Java
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Node.js
Node.js
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Python
Python
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Ruby
Ruby
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
REST
Para criar uma verificação de qualidade de dados, use o
método dataScans.create.
A solicitação a seguir cria uma verificação única de qualidade de dados:
POST https://dataplex.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/dataScans?data_scan_id=DATASCAN_ID { "data": { "resource": "//bigquery.googleapis.com/projects/PROJECT_ID/datasets/DATASET_ID/tables/TABLE_ID" }, "type": "DATA_QUALITY", "executionSpec": { "trigger": { "oneTime": { "ttl_after_scan_completion": "120s" } } }, "dataQualitySpec": { "rules": [ { "nonNullExpectation": {}, "column": "COLUMN_NAME", "dimension": "DIMENSION", "threshold": 1 } ], "filter": "FILTER_CONDITION" } }
Substitua:
PROJECT_ID: o ID do projeto.LOCATION: a região em que a verificação de qualidade de dados será criada.DATASCAN_ID: o ID da verificação de qualidade de dados.DATASET_ID: o ID do conjunto de dados do BigQuery.TABLE_ID: o ID da tabela do BigQuery.COLUMN_NAME: o nome da coluna da regra.DIMENSION: a dimensão da regra, por exemplo,VALIDITY.FILTER_CONDITION: uma string de filtro AIP-160 opcional para executar regras de maneira seletiva (por exemplo,name = \"RULE_NAME\").
Se você quiser criar regras para a verificação de qualidade de dados usando recomendações de regras baseadas nos resultados de uma verificação do perfil de dados, chame o método dataScans.jobs.generateDataQualityRules na verificação do perfil de dados para receber as recomendações.
Executar uma verificação de qualidade de dados
Console
No console do Google Cloud , na página Curadoria de metadados do BigQuery, acesse a guia Qualidade e criação do perfil de dados.
Clique na verificação de qualidade de dados para executar.
Clique em Executar agora.
gcloud
Para executar uma verificação de qualidade de dados, use o
comando gcloud dataplex datascans run:
gcloud dataplex datascans run DATASCAN \ --location=LOCATION \
Substitua as seguintes variáveis:
LOCATION: a Google Cloud região em que a verificação de qualidade de dados foi criada.DATASCAN: o nome da verificação de qualidade de dados.
C#
C#
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Go
Go
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Java
Java
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Python
Python
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Ruby
Ruby
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
REST
Para executar uma verificação de qualidade de dados, use o
método dataScans.run.
Airflow
Para executar uma verificação de qualidade de dados usando um gráfico acíclico dirigido (DAG) no
Serviço Gerenciado para Apache Airflow (Cloud Composer), use o
DataplexRunDataQualityScanOperator:
from datetime import datetime
from airflow import DAG
from airflow.providers.google.cloud.operators.dataplex import DataplexRunDataQualityScanOperator
with DAG(
"dataplex_auto_dq_scan",
start_date=datetime(2026, 1, 1),
schedule_interval="@daily",
catchup=False,
) as dag:
run_dq_scan = DataplexRunDataQualityScanOperator(
task_id="run_dataplex_dq_scan",
project_id="PROJECT_ID",
region="REGION",
data_scan_id="DATASCAN_ID",
)
Substitua:
PROJECT_ID: o ID do projeto do Google Cloud .REGION: a região Google Cloud em que a verificação de qualidade de dados foi criada.DATASCAN_ID: o ID da verificação de qualidade de dados.
Ver resultados da verificação de qualidade de dados
Console
No console do Google Cloud , na página Curadoria de metadados do BigQuery, acesse a guia Qualidade e criação do perfil de dados.
Clique no nome de uma verificação de qualidade de dados.
A seção Visão geral mostra informações sobre os jobs mais recentes, incluindo quando a verificação foi executada, o número de registros verificados em cada job, se todas as verificações de qualidade de dados foram aprovadas e, se houver falhas, o número de verificações de qualidade de dados que falharam.
A seção Configuração da verificação de qualidade de dados exibe detalhes sobre a verificação.
Para ver informações detalhadas sobre um job, como pontuações de qualidade de dados que indicam a porcentagem de regras aprovadas, quais regras falharam e os registros de jobs, clique na guia Histórico de jobs. Em seguida, clique em um ID da tarefa.
gcloud
Para ver os resultados de um job de verificação de qualidade de dados, use o
comando gcloud dataplex datascans jobs describe:
gcloud dataplex datascans jobs describe JOB \ --location=LOCATION \ --datascan=DATASCAN \ --view=FULL
Substitua as seguintes variáveis:
JOB: O ID da tarefa do job de verificação da qualidade de dados.LOCATION: a região Google Cloud em que a verificação de qualidade de dados foi criada.DATASCAN: o nome da verificação de qualidade de dados a que o job pertence.--view=FULL: para conferir o resultado do job de verificação, especifiqueFULL.
C#
C#
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Go
Go
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Java
Java
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Python
Python
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Ruby
Ruby
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
REST
Para ver os resultados de uma verificação de qualidade de dados, use o
método dataScans.get.
Ver resultados publicados
Se os resultados da verificação de qualidade de dados forem publicados como metadados do Knowledge Catalog, será possível conferir os resultados mais recentes nas páginas do BigQuery e do Knowledge Catalog no consoleGoogle Cloud , na guia Qualidade de dados da tabela de origem.
No console do Google Cloud , acesse a página BigQuery.
No painel à esquerda, clique em Explorer:

Se o painel esquerdo não aparecer, clique em Expandir painel esquerdo para abrir.
No painel Explorer, clique em Conjuntos de dados e, em seguida, clique no seu conjunto de dados.
Clique em Visão geral > Tabelas e selecione a tabela com os resultados da verificação de qualidade de dados que você quer ver.
Clique na guia Qualidade dos dados.
Os resultados publicados mais recentes são mostrados.
Ver o histórico de resultados das verificações
O Knowledge Catalog salva o histórico de verificação de qualidade de dados dos últimos 300 jobs ou do ano anterior, o que ocorrer primeiro.
Console
No console do Google Cloud , na página Curadoria de metadados do BigQuery, acesse a guia Qualidade e criação do perfil de dados.
Clique no nome de uma verificação de qualidade de dados.
Clique na guia Histórico de jobs.
A guia Histórico de jobs fornece informações sobre jobs anteriores, como o número de registros verificados em cada job, o status do job, o horário em que o job foi executado e se cada regra foi aprovada ou reprovada.
Para ver informações detalhadas sobre um job, clique em qualquer um deles na coluna código da tarefa.
gcloud
Para conferir os jobs históricos de verificação de qualidade de dados, use o
comando gcloud dataplex datascans jobs list:
gcloud dataplex datascans jobs list \ --location=LOCATION \ --datascan=DATASCAN \
Substitua as seguintes variáveis:
LOCATION: a região Google Cloud em que a verificação de qualidade de dados foi criada.DATASCAN: o nome da verificação de qualidade de dados para conferir os jobs históricos.
C#
C#
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Go
Go
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Java
Java
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Python
Python
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Ruby
Ruby
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
REST
Para ver os jobs históricos de verificação da qualidade de dados, use o
método dataScans.jobs.list.
Status dos jobs
Os jobs de verificação de dados podem ter os seguintes status:
PENDING: o job foi criado, mas ainda não começou a ser executado. Nesse estado, a verificação configura ativamente a infraestrutura ou adquire slots. Essa fase pode levar de 10 a 20 segundos ou mais, dependendo da complexidade do esquema e da contenção de recursos.RUNNING: o job está em execução.CANCELING: o job está sendo cancelado.CANCELLED: o job foi cancelado.SUCCEEDED: o job é concluído com sucesso. O status de conclusão pode atrasar a conclusão real da consulta em até 60 segundos devido a etapas de pós-processamento, como agregação e sincronização de metadados.FAILED: o job falha devido a um erro. O status de conclusão pode atrasar a conclusão real da consulta em até 60 segundos devido a etapas de pós-processamento, como agregação e sincronização de metadados.SUCCEEDED_WITH_ERRORS: o job é concluído, mas alguns erros ocorrem durante a execução.
Práticas recomendadas de monitoramento
Ao monitorar os jobs de verificação de dados, lembre-se das seguintes práticas recomendadas:
Evite sondagens agressivas: evite sondagens agressivas (por exemplo, chamar
GetJobou equivalente a cada 1 a 5 segundos). A sondagem agressiva desperdiça a cota da API e não acelera as transições de estado.Use a espera exponencial: se a sondagem repetitiva for inevitável, use a espera exponencial começando em 10 a 15 segundos.
Use o desacoplamento assíncrono orientado por eventos (recomendado): em vez de pesquisas síncronas de API, use gatilhos do Eventarc que detectam os Registros de auditoria do Cloud (
cloudaudit.googleapis.com). É possível usar esses gatilhos para iniciar fluxos de trabalho downstream imediatamente após os eventos de conclusão do job do DataScan. Essa abordagem ignora os limites de sondagem da API, conserva a cota e reduz a latência percebida.
Conceder acesso aos resultados da verificação de qualidade de dados
Para permitir que os usuários da sua organização vejam os resultados da verificação, faça o seguinte:
No console do Google Cloud , na página Curadoria de metadados do BigQuery, acesse a guia Qualidade e criação do perfil de dados.
Clique na verificação de qualidade de dados cujos resultados você quer compartilhar.
Clique na guia Permissões.
Faça o seguinte:
- Para conceder acesso a um principal, clique em Conceder acesso. Conceda o papel Leitor de dados do DataScan do Dataplex ao principal associado.
- Para remover o acesso de um principal, selecione o principal de quem você quer remover o papel Leitor de dados do DataScan do Dataplex. Clique em Remover acesso e confirme quando solicitado.
Resolver uma falha de qualidade de dados
É possível definir alertas para falhas de qualidade de dados usando os registros no Cloud Logging. Para mais informações, incluindo exemplos de consultas, consulte Definir alertas no Cloud Logging.
Para cada job com regras no nível da linha que falham, o Knowledge Catalog fornece uma consulta para receber os registros com falha. Execute esta consulta para ver os registros que não correspondem à regra.
Console
No console do Google Cloud , na página Curadoria de metadados do BigQuery, acesse a guia Qualidade e criação do perfil de dados.
Clique no nome da verificação de qualidade de dados cujos registros você quer resolver problemas.
Clique na guia Histórico de jobs.
Clique no ID da tarefa do job que identificou falhas na qualidade de dados.
Na janela de resultados do job que é aberta, na seção Regras, encontre a coluna Consulta para receber registros com falha. Clique em Copiar consulta para a área de transferência na regra com falha.
Execute a consulta no BigQuery para ver os registros que causaram a falha do job.
gcloud
Incompatível.
REST
Para acessar o job que identificou as falhas de qualidade de dados, use o método
dataScans.get.No objeto de resposta, o campo
failingRowsQuerymostra a consulta.Execute a consulta no BigQuery para ver os registros que causaram a falha do job.
O Knowledge Catalog também executa a consulta de depuração, desde que ela tenha sido incluída durante a criação da regra. Os resultados da consulta de depuração são incluídos na saída de cada regra. Esse recurso está na visualização.
Console
Incompatível.
gcloud
Incompatível.
REST
Para acessar o job que identificou as falhas de qualidade de dados, use o
método dataScans.get.
No objeto de resposta, o campo debugQueriesResultSets mostra os
resultados das consultas de depuração.
Gerenciar verificações de qualidade de dados para uma tabela específica
As etapas neste documento mostram como gerenciar verificações de qualidade de dados no seu projeto usando a página do BigQuery Curadoria de metadados > Qualidade e criação do perfil de dados no console do Google Cloud .
Também é possível criar e gerenciar verificações de qualidade de dados ao trabalhar com uma tabela específica. No console do Google Cloud , na página do BigQuery da tabela, use a guia Qualidade de dados. Faça o seguinte:
No console do Google Cloud , acesse a página BigQuery.
No painel Explorer (à esquerda), clique em Conjuntos de dados e, em seguida, no seu conjunto de dados. Clique em Visão geral > Tabelas e selecione a tabela com os resultados da verificação de qualidade de dados que você quer ver.
Clique na guia Qualidade dos dados.
Dependendo se a tabela tem uma verificação de qualidade de dados com resultados publicados como metadados do Knowledge Catalog, é possível trabalhar com as verificações de qualidade de dados da tabela das seguintes maneiras:
Os resultados da verificação de qualidade de dados são publicados: os resultados da verificação mais recente são exibidos na página.
Para gerenciar as verificações de qualidade de dados dessa tabela, clique em Verificação de qualidade de dados e selecione uma das seguintes opções:
Criar nova verificação: crie uma nova verificação de qualidade de dados. Para mais informações, consulte a seção Criar uma verificação de qualidade de dados deste documento. Quando você cria uma verificação na página de detalhes de uma tabela, ela é pré-selecionada.
Executar agora: execute a verificação.
Editar configuração da verificação: edite as configurações, incluindo o nome de exibição, os filtros e a programação.
Para editar as regras de qualidade de dados, na guia Qualidade de dados, clique na guia Regras. Clique em Modificar regras. Atualize as regras e clique em Salvar.
Gerenciar permissões de verificação: controle quem pode acessar os resultados da verificação. Para mais informações, consulte a seção Conceder acesso aos resultados da verificação de qualidade de dados deste documento.
Ver resultados históricos: confira informações detalhadas sobre jobs anteriores de verificação da qualidade de dados. Para mais informações, consulte as seções Ver resultados da verificação de qualidade de dados e Ver resultados históricos da verificação deste documento.
Ver todas as verificações: confira uma lista de verificações de qualidade de dados que se aplicam a essa tabela.
Os resultados da verificação de qualidade de dados não são publicados: selecione uma das seguintes opções:
Criar verificação de qualidade de dados: crie uma nova verificação de qualidade de dados. Para mais informações, consulte a seção Criar uma verificação de qualidade de dados deste documento. Quando você cria uma verificação na página de detalhes de uma tabela, ela é pré-selecionada.
Ver as verificações atuais: confira uma lista de verificações de qualidade de dados que se aplicam a esta tabela.
Ver as verificações de qualidade de dados de uma tabela
Para conferir as verificações de qualidade de dados que se aplicam a uma tabela específica, faça o seguinte:
No console do Google Cloud , na página Curadoria de metadados do BigQuery, acesse a guia Qualidade e criação do perfil de dados.
Filtre a lista por nome da tabela e tipo de verificação.
Atualizar uma verificação de qualidade de dados
É possível editar várias configurações de uma verificação de qualidade de dados, como o nome de exibição, os filtros, a programação e as regras de qualidade de dados.
Console
No console do Google Cloud , na página Curadoria de metadados do BigQuery, acesse a guia Qualidade e criação do perfil de dados.
Clique no nome de uma verificação de qualidade de dados.
Para editar as configurações, incluindo o nome de exibição, os filtros e a programação, clique em Editar. Edite os valores e clique em Salvar.
Para editar as regras de qualidade de dados, na página de detalhes da verificação, clique na guia Regras atuais. Clique em Modificar regras. Atualize as regras e clique em Salvar.
gcloud
Para atualizar a descrição de uma verificação de qualidade de dados, use o
comando gcloud dataplex datascans update data-quality:
gcloud dataplex datascans update data-quality DATASCAN \ --location=LOCATION \ --description=DESCRIPTION
Substitua:
DATASCAN: o nome da verificação de qualidade de dados a ser atualizada.LOCATION: a região Google Cloud em que a verificação de qualidade de dados foi criada.DESCRIPTION: a nova descrição da verificação de qualidade de dados.
C#
C#
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Go
Go
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Java
Java
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Python
Python
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Ruby
Ruby
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
REST
Para editar uma verificação de qualidade de dados, use o
método dataScans.patch.
Excluir uma verificação de qualidade de dados
Console
Console
No console do Google Cloud , na página Curadoria de metadados do BigQuery, acesse a guia Qualidade e criação do perfil de dados.
Clique na verificação que você quer excluir.
Clique em Excluir e confirme quando solicitado.
gcloud
gcloud
Para excluir uma verificação de qualidade de dados, use o
comando gcloud dataplex datascans delete:
gcloud dataplex datascans delete DATASCAN \ --location=LOCATION \ --async
Substitua as seguintes variáveis:
DATASCAN: o nome da verificação de qualidade de dados a ser excluída.LOCATION: a região Google Cloud em que a verificação de qualidade de dados foi criada.
C#
C#
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Go
Go
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Java
Java
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Python
Python
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Ruby
Ruby
Para autenticar no BigQuery, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
REST
REST
Para excluir uma verificação de qualidade de dados, use o
método dataScans.delete.
A seguir
- Saiba mais sobre a governança de dados no BigQuery.