Crie um perfil dos seus dados
Este documento explica como usar as análises de perfis de dados para compreender melhor os seus dados. O BigQuery usa o catálogo universal do Dataplex para analisar as características estatísticas dos seus dados, como valores médios, valores únicos e valores máximos. O Dataplex Universal Catalog também usa estas informações para recomendar regras para verificações de qualidade de dados.
Para mais informações sobre a criação de perfis de dados, consulte o artigo Acerca da criação de perfis de dados.
Antes de começar
Enable the Dataplex API.
Roles required to enable APIs
To enable APIs, you need the Service Usage Admin IAM
role (roles/serviceusage.serviceUsageAdmin), which
contains the serviceusage.services.enable permission. Learn how to grant
roles.
Funções necessárias
Para receber as autorizações de que precisa para criar e gerir análises de perfis de dados, peça ao seu administrador que lhe conceda as seguintes funções de IAM no seu recurso, como o projeto ou a tabela:
-
Para criar, executar, atualizar e eliminar análises de perfis de dados:
Função Editor do DataScan do Dataplex (
roles/dataplex.dataScanEditor) no projeto que contém a análise de dados. -
Para permitir que o catálogo universal do Dataplex execute análises de perfis de dados em dados do BigQuery, conceda as seguintes funções à conta de serviço do catálogo universal do Dataplex:
Função de Utilizador da tarefa do BigQuery (
roles/bigquery.jobUser) no projeto que executa a análise; função de Visualizador de dados do BigQuery (roles/bigquery.dataViewer) nas tabelas que estão a ser analisadas. -
Para executar análises de perfis de dados para tabelas externas do BigQuery que usam dados do Cloud Storage:
conceda à conta de serviço do Dataplex Universal Catalog as funções Visualizador de objetos de armazenamento (
roles/storage.objectViewer) e Leitor de contentores antigos de armazenamento (roles/storage.legacyBucketReader) no contentor do Cloud Storage. -
Para ver os resultados, as tarefas e o histórico da análise do perfil de dados:
Função de visualizador de DataScans do Dataplex (
roles/dataplex.dataScanViewer) no projeto que contém a análise de dados. -
Para exportar os resultados da análise do perfil de dados para uma tabela do BigQuery:
Função de editor de dados do BigQuery (
roles/bigquery.dataEditor) na tabela. -
Para publicar resultados da análise de perfis de dados no Dataplex Universal Catalog:
Função Dataplex Catalog Editor (
roles/dataplex.catalogEditor) no grupo de entradas@bigquery. -
Para ver os resultados da análise do perfil de dados publicados no BigQuery no separador Perfil de dados:
Função de Visualizador de dados do BigQuery (
roles/bigquery.dataViewer) na tabela.
Para mais informações sobre a atribuição de funções, consulte o artigo Faça a gestão do acesso a projetos, pastas e organizações.
Também pode conseguir as autorizações necessárias através de funções personalizadas ou outras funções predefinidas.
Autorizações necessárias
Se usar funções personalizadas, tem de conceder as seguintes autorizações de IAM:
- Para criar, executar, atualizar e eliminar análises de perfis de dados:
dataplex.datascans.createno projeto: crie umDataScandataplex.datascans.updatena análise de dados: atualize a descrição de umDataScandataplex.datascans.deletena análise de dados: elimine umDataScandataplex.datascans.runna análise de dados: execute umaDataScandataplex.datascans.getna análise de dados: veja os detalhesDataScanexcluindo os resultadosdataplex.datascans.listno projeto: lista deDataScansdataplex.dataScanJobs.getno trabalho de análise de dados: leia os recursos do trabalho de análise de dadosdataplex.dataScanJobs.listna análise de dados: liste os recursos de tarefas DataScan num projeto
- Para permitir que o catálogo universal do Dataplex execute análises de perfis de dados em dados do BigQuery:
bigquery.jobs.createno projeto: executar tarefasbigquery.tables.getna tabela: obter metadados da tabelabigquery.tables.getDatana tabela: obter dados da tabela
- Para executar análises de perfis de dados para tabelas externas do BigQuery que usam dados do Cloud Storage:
storage.buckets.getno contentor: ler metadados do contentorstorage.objects.getno objeto: ler dados do objeto
- Para ver os resultados, as tarefas e o histórico da análise do perfil de dados:
dataplex.datascans.getDatana análise de dados: veja os detalhesDataScan, incluindo os resultadosdataplex.datascans.listno projeto: lista deDataScansdataplex.dataScanJobs.getno trabalho de análise de dados: leia os recursos do trabalho de análise de dadosdataplex.dataScanJobs.listna análise de dados: liste os recursos de tarefas DataScan num projeto
- Para exportar os resultados da análise de perfis de dados para uma tabela do BigQuery:
bigquery.tables.createno conjunto de dados: criar tabelasbigquery.tables.updateDatana tabela: escreva dados nas tabelas
- Para publicar resultados da análise de perfis de dados no Dataplex Universal Catalog:
dataplex.entryGroups.useDataProfileAspectno grupo de entradas: permite que as análises de perfis de dados do Dataplex Universal Catalog guardem os respetivos resultados no Dataplex Universal Catalog- Além disso, precisa de uma das seguintes autorizações:
bigquery.tables.updatena tabela: atualize os metadados da tabeladataplex.entries.updatena entrada: atualize as entradas
- Para ver os resultados do perfil de dados publicados de uma tabela no BigQuery ou no catálogo universal do Dataplex:
bigquery.tables.getna tabela: obter metadados da tabelabigquery.tables.getDatana tabela: obtenha dados da tabela
Se uma tabela usar a segurança ao nível da linha do BigQuery, o Dataplex Universal Catalog só pode analisar linhas visíveis para a conta de serviço do Dataplex Universal Catalog. Para permitir que o Dataplex Universal Catalog analise todas as linhas, adicione a respetiva conta de serviço a um filtro de linhas em que o predicado seja TRUE.
Se uma tabela usar a segurança ao nível da coluna do BigQuery, o catálogo universal do Dataplex requer acesso para analisar colunas protegidas. Para conceder acesso, atribua à conta de serviço do Dataplex Universal Catalog a função de
Leitor detalhado do Data Catalog (roles/datacatalog.fineGrainedReader)
em todas as etiquetas de políticas usadas na tabela. O utilizador que cria ou atualiza uma análise de dados também precisa de autorizações nas colunas protegidas.
Conceda funções à conta de serviço do Dataplex Universal Catalog
Para executar análises de perfis de dados, o catálogo universal do Dataplex usa uma conta de serviço que requer autorizações para executar tarefas do BigQuery e ler dados de tabelas do BigQuery. Para conceder as funções necessárias, siga estes passos:
Obtenha o endereço de email da conta de serviço do Dataplex Universal Catalog. Se não tiver criado um perfil de dados ou uma análise de qualidade de dados neste projeto anteriormente, execute o seguinte comando
gcloudpara gerar a identidade do serviço:gcloud beta services identity create --service=dataplex.googleapis.comO comando devolve o email da conta de serviço, que tem o seguinte formato:
service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com.Se a conta de serviço já existir, pode encontrar o respetivo email ao ver os diretores com o nome Dataplex na página IAM na consola Google Cloud .
Conceda à conta de serviço a função Utilizador da tarefa do BigQuery (
roles/bigquery.jobUser) no seu projeto. Esta função permite que a conta de serviço execute tarefas do BigQuery para a análise.gcloud projects add-iam-policy-binding PROJECT_ID \ --member="serviceAccount:service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com" \ --role="roles/bigquery.jobUser"Substitua o seguinte:
PROJECT_ID: o ID do seu Google Cloud projeto.service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com: o email da conta de serviço do Dataplex Universal Catalog.
Conceda à conta de serviço a função de visualizador de dados do BigQuery (
roles/bigquery.dataViewer) para cada tabela que quer criar perfis. Esta função concede acesso só de leitura às tabelas.gcloud bigquery tables add-iam-policy-binding DATASET_ID.TABLE_ID \ --member="serviceAccount:service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com" \ --role="roles/bigquery.dataViewer"Substitua o seguinte:
DATASET_ID: o ID do conjunto de dados que contém a tabela.TABLE_ID: o ID da tabela a analisar.service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com: o email da conta de serviço do Dataplex Universal Catalog.Crie uma análise do perfil de dados
Consola
Na Google Cloud consola, na página de Organização de metadados do BigQuery, aceda ao separador Perfil e qualidade dos dados.
Clique em Criar análise do perfil de dados.
Opcional: introduza um Nome a apresentar.
Introduza um ID. Consulte as Convenções de nomenclatura de recursos.
Opcional: introduza uma Descrição.
No campo Tabela, clique em Procurar. Escolha a tabela a digitalizar e, de seguida, clique em Selecionar.
Para tabelas em conjuntos de dados multirregionais, escolha uma região onde criar a análise de dados.
Para procurar as tabelas organizadas nos lagos do Dataplex Universal Catalog, clique em Procurar nos lagos do Dataplex.
No campo Âmbito, escolha Incremental ou Dados completos.
- Se escolher Dados incrementais, no campo Coluna de data/hora,
selecione uma coluna do tipo
DATEouTIMESTAMPna tabela do BigQuery que aumenta à medida que são adicionados novos registos e que pode ser usada para identificar novos registos. Para tabelas particionadas numa coluna do tipoDATEouTIMESTAMP, recomendamos que use a coluna de partição como o campo de data/hora.
- Se escolher Dados incrementais, no campo Coluna de data/hora,
selecione uma coluna do tipo
Opcional: para filtrar os dados, faça qualquer uma das seguintes ações:
Para filtrar por linhas, clique na caixa de verificação Filtrar linhas. Introduza uma expressão SQL válida que possa ser usada numa cláusula
WHEREna sintaxe GoogleSQL. Por exemplo:col1 >= 0.O filtro pode ser uma combinação de condições SQL em várias colunas. Por exemplo:
col1 >= 0 AND col2 < 10.Para filtrar por colunas, selecione a caixa de verificação Filtrar colunas.
Para incluir colunas na análise do perfil, no campo Incluir colunas, clique em Procurar. Selecione as colunas a incluir e, de seguida, clique em Selecionar.
Para excluir colunas da análise do perfil, no campo Excluir colunas, clique em Procurar. Selecione as colunas a excluir e, de seguida, clique em Selecionar.
Para aplicar a amostragem à análise do perfil de dados, na lista Tamanho da amostragem, selecione uma percentagem de amostragem. Escolha um valor percentual entre 0,0% e 100,0% com um máximo de 3 dígitos decimais.
Para conjuntos de dados maiores, escolha uma percentagem de amostragem mais baixa. Por exemplo, para uma tabela de 1 PB, se introduzir um valor entre 0,1% e 1,0%, o perfil de dados faz a amostragem entre 1 e 10 TB de dados.
Tem de haver, pelo menos, 100 registos nos dados com amostragem para devolver um resultado.
Para verificações de dados incrementais, a verificação do perfil de dados aplica a amostragem ao incremento mais recente.
Opcional: publique os resultados da análise do perfil de dados nas páginas do catálogo universal do BigQuery e Dataplex na consola para a tabela de origem.Google Cloud Selecione a caixa de verificação Publicar resultados no BigQuery e no catálogo do Dataplex.
Pode ver os resultados da análise mais recentes no separador Perfil de dados nas páginas do catálogo universal do BigQuery e do Dataplex para a tabela de origem. Para permitir que os utilizadores acedam aos resultados da análise publicados, consulte a secção Conceda acesso aos resultados da análise do perfil de dados deste documento.
A opção de publicação pode não estar disponível nos seguintes casos:
- Não tem as autorizações necessárias na tabela.
- Outra análise da qualidade de dados está definida para publicar resultados.
Na secção Programação, escolha uma das seguintes opções:
Repetir: execute a análise do perfil de dados de acordo com um agendamento: de hora a hora, diariamente, semanalmente, mensalmente ou personalizado. Especifique a frequência com que a análise deve ser executada e a que horas. Se escolher a opção personalizada, use o formato cron para especificar a agenda.
A pedido: execute a análise do perfil de dados a pedido.
Clique em Continuar.
Opcional: exporte os resultados da análise para uma tabela padrão do BigQuery. Na secção Exporte os resultados da análise para a tabela do BigQuery, faça o seguinte:
No campo Selecionar conjunto de dados do BigQuery, clique em Procurar. Selecione um conjunto de dados do BigQuery para armazenar os resultados da análise do perfil de dados.
No campo Tabela do BigQuery, especifique a tabela para armazenar os resultados da análise do perfil de dados. Se estiver a usar uma tabela existente, certifique-se de que é compatível com o esquema da tabela de exportação. Se a tabela especificada não existir, o catálogo universal do Dataplex cria-a para si.
Opcional: adicione etiquetas. As etiquetas são pares de chave-valor que lhe permitem agrupar objetos relacionados ou agrupá-los a outros Google Cloud recursos.
Para criar a análise, clique em Criar.
Se definir a programação como a pedido, também pode executar a análise agora clicando em Executar análise.
gcloud
Para criar uma análise de perfil de dados, use o comando
gcloud dataplex datascans create data-profile.Se os dados de origem estiverem organizados num lake do catálogo universal do Dataplex, inclua a flag
--data-source-entity:gcloud dataplex datascans create data-profile DATASCAN \ --location=LOCATION \ --data-source-entity=DATA_SOURCE_ENTITY
Se os dados de origem não estiverem organizados num lake do catálogo universal do Dataplex, inclua a flag
--data-source-resource:gcloud dataplex datascans create data-profile DATASCAN \ --location=LOCATION \ --data-source-resource=DATA_SOURCE_RESOURCE
Substitua as seguintes variáveis:
DATASCAN: o nome da análise do perfil de dados.LOCATION: A Google Cloud região na qual criar a análise do perfil de dados.DATA_SOURCE_ENTITY: a entidade do Dataplex Universal Catalog que contém os dados para a análise do perfil de dados. Por exemplo,projects/test-project/locations/test-location/lakes/test-lake/zones/test-zone/entities/test-entity.DATA_SOURCE_RESOURCE: O nome do recurso que contém os dados para a análise do perfil de dados. Por exemplo,//bigquery.googleapis.com/projects/test-project/datasets/test-dataset/tables/test-table.
C#
C#
Antes de experimentar este exemplo, siga as C#instruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API C# Dataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Ir
Go
Antes de experimentar este exemplo, siga as Goinstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API Go do catálogo universal do Dataplex.
Para se autenticar no catálogo universal do Dataplex, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Java
Java
Antes de experimentar este exemplo, siga as Javainstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API JavaDataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Python
Python
Antes de experimentar este exemplo, siga as Pythoninstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API PythonDataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Ruby
Ruby
Antes de experimentar este exemplo, siga as Rubyinstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API RubyDataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
REST
Para criar uma análise de perfil de dados, use o método
dataScans.create.Crie várias análises de perfis de dados
Pode configurar análises de perfis de dados para várias tabelas num conjunto de dados do BigQuery em simultâneo através da Google Cloud consola.
Na Google Cloud consola, na página de Organização de metadados do BigQuery, aceda ao separador Perfil e qualidade dos dados.
Clique em Criar análise do perfil de dados.
Selecione a opção Várias análises do perfil de dados.
Introduza um prefixo do ID. O Dataplex Universal Catalog gera automaticamente IDs de análise através do prefixo fornecido e de sufixos únicos.
Introduza uma Descrição para todas as análises do perfil de dados.
No campo Conjunto de dados, clique em Procurar. Selecione um conjunto de dados para escolher tabelas. Clique em Selecionar.
Se o conjunto de dados for multirregional, selecione uma Região na qual criar as análises de perfil de dados.
Configure as definições comuns para as análises:
No campo Âmbito, escolha Incremental ou Dados completos.
Para aplicar a amostragem às análises do perfil de dados, na lista Tamanho da amostragem, selecione uma percentagem de amostragem.
Escolha um valor percentual entre 0,0% e 100,0% com até 3 casas decimais.
Opcional: publique os resultados da análise do perfil de dados nas páginas do catálogo universal do BigQuery e Dataplex na consola para a tabela de origem.Google Cloud Selecione a caixa de verificação Publicar resultados no BigQuery e no catálogo do Dataplex.
Pode ver os resultados da análise mais recentes no separador Perfil de dados nas páginas do catálogo universal do BigQuery e do Dataplex para a tabela de origem. Para permitir que os utilizadores acedam aos resultados da análise publicados, consulte a secção Conceda acesso aos resultados da análise do perfil de dados deste documento.
Na secção Programação, escolha uma das seguintes opções:
Repetir: execute as análises de perfil de dados de acordo com uma programação: de hora em hora, diariamente, semanalmente, mensalmente ou de forma personalizada. Especifique a frequência com que as análises devem ser executadas e a que horas. Se escolher a opção personalizada, use o formato cron para especificar a agenda.
A pedido: execute as análises de perfis de dados a pedido.
Clique em Continuar.
No campo Escolher tabelas, clique em Procurar. Escolha uma ou mais tabelas para analisar e, de seguida, clique em Selecionar.
Clique em Continuar.
Opcional: exporte os resultados da análise para uma tabela padrão do BigQuery. Na secção Exporte os resultados da análise para a tabela do BigQuery, faça o seguinte:
No campo Selecionar conjunto de dados do BigQuery, clique em Procurar. Selecione um conjunto de dados do BigQuery para armazenar os resultados da análise do perfil de dados.
No campo Tabela do BigQuery, especifique a tabela para armazenar os resultados da análise do perfil de dados. Se estiver a usar uma tabela existente, certifique-se de que é compatível com o esquema da tabela de exportação. Se a tabela especificada não existir, o Dataplex Universal Catalog cria-a para si.
O Dataplex Universal Catalog usa a mesma tabela de resultados para todas as análises de perfil de dados.
Opcional: adicione etiquetas. As etiquetas são pares de chave-valor que lhe permitem agrupar objetos relacionados ou agrupá-los a outros Google Cloud recursos.
Para criar as digitalizações, clique em Criar.
Se definir a programação como a pedido, também pode executar as análises agora clicando em Executar análise.
Execute uma análise do perfil de dados
Consola
-
Na Google Cloud consola, na página de Organização de metadados do BigQuery, aceda ao separador Perfil e qualidade dos dados.
- Clique na análise do perfil de dados para executar.
- Clique em Executar agora.
gcloud
Para executar uma análise do perfil de dados, use o comando
gcloud dataplex datascans run:gcloud dataplex datascans run DATASCAN \ --location=LOCATION
Substitua as seguintes variáveis:
DATASCAN: o nome da análise do perfil de dados.LOCATION: A Google Cloud região em que a análise do perfil de dados foi criada.
C#
C#
Antes de experimentar este exemplo, siga as C#instruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API C# do catálogo universal do Dataplex.
Para se autenticar no catálogo universal do Dataplex, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Ir
Go
Antes de experimentar este exemplo, siga as Goinstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API Go do catálogo universal do Dataplex.
Para se autenticar no catálogo universal do Dataplex, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Java
Java
Antes de experimentar este exemplo, siga as Javainstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API Java do catálogo universal do Dataplex.
Para se autenticar no catálogo universal do Dataplex, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Python
Python
Antes de experimentar este exemplo, siga as Pythoninstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API Python do catálogo universal do Dataplex.
Para se autenticar no catálogo universal do Dataplex, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Ruby
Ruby
Antes de experimentar este exemplo, siga as Rubyinstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API Ruby do catálogo universal do Dataplex.
Para se autenticar no catálogo universal do Dataplex, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
REST
Para executar uma análise de perfil de dados, use o método
dataScans.run.Veja os resultados da análise do perfil de dados
Consola
Na Google Cloud consola, na página Organização de metadados do BigQuery, aceda ao separador Perfil e qualidade dos dados.
Clique no nome de uma análise de perfil de dados.
A secção Vista geral apresenta informações sobre as tarefas mais recentes, incluindo a data de execução da análise, o número de registos de tabelas analisados e o estado da tarefa.
A secção Configuração da análise do perfil de dados apresenta detalhes sobre a análise.
Para ver informações detalhadas sobre uma tarefa, como as colunas da tabela analisada, as estatísticas sobre as colunas encontradas na análise e os registos de tarefas, clique no separador Histórico de tarefas. Em seguida, clique num ID da tarefa.
gcloud
Para ver os resultados de uma tarefa de análise de perfil de dados, use o comando
gcloud dataplex datascans jobs describe:gcloud dataplex datascans jobs describe JOB \ --location=LOCATION \ --datascan=DATASCAN \ --view=FULL
Substitua as seguintes variáveis:
JOB: o ID da tarefa de análise do perfil de dados.LOCATION: A Google Cloud região em que a análise do perfil de dados foi criada.DATASCAN: o nome da análise do perfil de dados a que a tarefa pertence.--view=FULL: para ver o resultado da tarefa de análise, especifiqueFULL.
C#
C#
Antes de experimentar este exemplo, siga as C#instruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API C#Dataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Ir
Go
Antes de experimentar este exemplo, siga as Goinstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API GoDataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Java
Java
Antes de experimentar este exemplo, siga as Javainstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API JavaDataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Python
Python
Antes de experimentar este exemplo, siga as Pythoninstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API PythonDataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Ruby
Ruby
Antes de experimentar este exemplo, siga as Rubyinstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API Ruby Dataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
REST
Para ver os resultados de uma análise de perfil de dados, use o método
dataScans.get.Veja os resultados publicados
Se os resultados da análise do perfil de dados forem publicados nas páginas do BigQuery e do catálogo universal do Dataplex na consola, pode ver os resultados da análise mais recentes no separador Perfil de dados da tabela de origem. Google Cloud
Na Google Cloud consola, aceda à página do BigQuery.
No painel esquerdo, clique em Explorador:

Se não vir o painel do lado esquerdo, clique em Expandir painel do lado esquerdo para o abrir.
No painel Explorador, clique em Conjuntos de dados e, de seguida, clique no seu conjunto de dados.
Clique em Vista geral > Tabelas e, de seguida, selecione a tabela cujos resultados da análise do perfil de dados quer ver.
Clique no separador Perfil de dados.
São apresentados os resultados publicados mais recentes.
Veja a tarefa de análise do perfil de dados mais recente
Consola
Na Google Cloud consola, na página de Organização de metadados do BigQuery, aceda ao separador Perfil e qualidade dos dados.
Clique no nome de uma análise de perfil de dados.
Clique no separador Resultados de tarefas mais recentes.
O separador Resultados da tarefa mais recente, quando existe, pelo menos, uma execução concluída com êxito, fornece informações sobre a tarefa mais recente. Apresenta as colunas da tabela analisada e as estatísticas sobre as colunas encontradas na análise.
gcloud
Para ver a análise bem-sucedida mais recente do perfil de dados, use o comando
gcloud dataplex datascans describe:gcloud dataplex datascans describe DATASCAN \ --location=LOCATION \ --view=FULL
Substitua as seguintes variáveis:
DATASCAN: o nome da análise do perfil de dados para ver o trabalho mais recente.LOCATION: A Google Cloud região em que a análise do perfil de dados foi criada.--view=FULL: para ver o resultado da tarefa de análise, especifiqueFULL.
REST
Para ver a tarefa de análise mais recente, use o método
dataScans.get.Veja os resultados da análise do histórico
O catálogo universal do Dataplex guarda o histórico de análise do perfil de dados dos últimos 300 trabalhos ou durante o último ano, consoante o que ocorrer primeiro.
Consola
Na Google Cloud consola, na página de Organização de metadados do BigQuery, aceda ao separador Perfil e qualidade dos dados.
Clique no nome de uma análise de perfil de dados.
Clique no separador Histórico de trabalhos.
O separador Histórico de tarefas fornece informações sobre tarefas anteriores, como o número de registos analisados em cada tarefa, o estado da tarefa e a hora em que a tarefa foi executada.
Para ver informações detalhadas sobre uma tarefa, clique em qualquer uma das tarefas na coluna ID da tarefa.
gcloud
Para ver tarefas de análise do perfil de dados do histórico, use o comando
gcloud dataplex datascans jobs list:gcloud dataplex datascans jobs list \ --location=LOCATION \ --datascan=DATASCAN
Substitua as seguintes variáveis:
LOCATION: A Google Cloud região em que a análise do perfil de dados foi criada.DATASCAN: o nome da análise do perfil de dados para ver trabalhos.
C#
C#
Antes de experimentar este exemplo, siga as C#instruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API C#Dataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Ir
Go
Antes de experimentar este exemplo, siga as Goinstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API GoDataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Java
Java
Antes de experimentar este exemplo, siga as Javainstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API JavaDataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Python
Python
Antes de experimentar este exemplo, siga as Pythoninstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API Python do catálogo universal do Dataplex.
Para se autenticar no catálogo universal do Dataplex, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Ruby
Ruby
Antes de experimentar este exemplo, siga as Rubyinstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API Ruby do catálogo universal do Dataplex.
Para se autenticar no catálogo universal do Dataplex, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
REST
Para ver tarefas de análise do perfil de dados do histórico, use o método
dataScans.jobs.list.Veja as análises do perfil de dados de uma tabela
Para ver as análises do perfil de dados que se aplicam a uma tabela específica, faça o seguinte:
Na Google Cloud consola, na página Organização de metadados do BigQuery, aceda ao separador Perfil e qualidade dos dados.
Filtre a lista por nome da tabela e tipo de análise.
Conceda acesso aos resultados da análise do perfil de dados
Para permitir que os utilizadores na sua organização vejam os resultados da análise, faça o seguinte:
Na Google Cloud consola, na página de Organização de metadados do BigQuery, aceda ao separador Perfil e qualidade dos dados.
Clique na análise de qualidade de dados cujos resultados quer partilhar.
Clique no separador Autorizações.
Faça o seguinte:
- Para conceder acesso a um principal, clique em Conceder acesso. Conceda a função Dataplex DataScan DataViewer ao principal associado.
- Para remover o acesso de um principal, selecione o principal do qual quer remover a função Dataplex DataScan DataViewer. Clique em Remover acesso e, de seguida, confirme quando lhe for pedido.
Faça a gestão das análises de perfis de dados para uma tabela específica
Os passos neste documento mostram como gerir as análises de perfis de dados no seu projeto através da página Organização de metadados > Criação de perfis e qualidade dos dados do BigQuery na Google Cloud consola.
Também pode criar e gerir análises de perfis de dados quando trabalha com uma tabela específica. Na Google Cloud consola, na página do BigQuery para a tabela, use o separador Perfil de dados. Faça o seguinte:
Na Google Cloud consola, aceda à página BigQuery.
No painel Explorador (no painel esquerdo), clique em Conjuntos de dados e, de seguida, clique no seu conjunto de dados. Agora, clique em Vista geral > Tabelas e selecione a tabela cujos resultados da análise do perfil de dados quer ver.
Clique no separador Perfil de dados.
Consoante a tabela tenha uma análise do perfil de dados cujos resultados são publicados, pode trabalhar com as análises do perfil de dados da tabela das seguintes formas:
Os resultados da análise do perfil de dados são publicados: os resultados da análise publicados mais recentemente são apresentados na página.
Para gerir as análises do perfil de dados desta tabela, clique em Análise do perfil de dados e, de seguida, selecione uma das seguintes opções:
Criar nova análise: crie uma nova análise do perfil de dados. Para mais informações, consulte a secção Crie uma análise de perfil de dados deste documento. Quando cria uma análise a partir da página de detalhes de uma tabela, a tabela é pré-selecionada.
Executar agora: execute a análise.
Editar configuração da análise: edite as definições, incluindo o nome a apresentar, os filtros, o tamanho da amostragem e a programação.
Faça a gestão das autorizações de análise: controle quem pode aceder aos resultados da análise. Para mais informações, consulte a secção Conceda acesso aos resultados da análise do perfil de dados deste documento.
Ver resultados do histórico: veja informações detalhadas sobre tarefas de análise de perfis de dados anteriores. Para mais informações, consulte as secções Ver resultados da análise do perfil de dados e Ver resultados da análise do histórico deste documento.
Ver todas as análises: veja uma lista de análises do perfil de dados que se aplicam a esta tabela.
Os resultados da análise do perfil de dados não são publicados: clique no menu junto a Perfil de dados rápido e, de seguida, selecione uma das seguintes opções:
Personalize a criação de perfis de dados: crie uma nova análise de perfis de dados. Para mais informações, consulte a secção Crie uma análise de perfil de dados deste documento. Quando cria uma análise a partir da página de detalhes de uma tabela, a tabela é pré-selecionada.
Ver perfis anteriores: veja uma lista de análises de perfis de dados que se aplicam a esta tabela.
Atualize uma análise do perfil de dados
Consola
Na Google Cloud consola, na página Organização de metadados do BigQuery, aceda ao separador Perfil e qualidade dos dados.
Clique no nome de uma análise de perfil de dados.
Clique em Editar e, de seguida, edite os valores.
Clique em Guardar.
gcloud
Para atualizar uma análise de um perfil de dados, use o comando
gcloud dataplex datascans update data-profile:gcloud dataplex datascans update data-profile DATASCAN \ --location=LOCATION \ --description=DESCRIPTION
Substitua as seguintes variáveis:
DATASCAN: o nome da análise do perfil de dados a atualizar.LOCATION: A Google Cloud região em que a análise do perfil de dados foi criada.DESCRIPTION: a nova descrição da análise do perfil de dados.
C#
C#
Antes de experimentar este exemplo, siga as C#instruções de configuração no início rápido do catálogo universal do Dataplex usando bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API C#Dataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Ir
Go
Antes de experimentar este exemplo, siga as Goinstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API Go Dataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Java
Java
Antes de experimentar este exemplo, siga as Javainstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API Java Dataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Python
Python
Antes de experimentar este exemplo, siga as Pythoninstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API PythonDataplex Universal Catalog.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
Ruby
Ruby
Antes de experimentar este exemplo, siga as Rubyinstruções de configuração no início rápido do Dataplex Universal Catalog com bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API Ruby do catálogo universal do Dataplex.
Para se autenticar no Dataplex Universal Catalog, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.
REST
Para editar uma análise de perfil de dados, use o método
dataScans.patch.Elimine uma análise do perfil de dados
Consola
Na Google Cloud consola, na página de Organização de metadados do BigQuery, aceda ao separador Perfil e qualidade dos dados.
Clique na análise que quer eliminar.
Clique em Eliminar e, de seguida, confirme quando lhe for pedido.
gcloud
Para eliminar uma análise de perfil de dados, use o comando
gcloud dataplex datascans delete:gcloud dataplex datascans delete DATASCAN \ --location=LOCATION --async
Substitua as seguintes variáveis:
DATASCAN: o nome da análise do perfil de dados a eliminar.LOCATION: A Google Cloud região em que a análise do perfil de dados foi criada.
REST
Para eliminar uma análise de um perfil de dados, use o método
dataScans.delete.O que se segue?
- Saiba como explorar os seus dados gerando estatísticas de dados.
- Saiba mais sobre a governança de dados no BigQuery.
- Saiba como analisar os seus dados para detetar problemas de qualidade de dados.
- Saiba como examinar dados de tabelas e criar consultas com o explorador de tabelas.