O Knowledge Catalog (antigo Dataplex Universal Catalog) permite gerenciar jobs de conector que executam importações de metadados programadas e sob demanda para manter o catálogo sincronizado com fontes de dados externas. É possível visualizar configurações de jobs, histórico de execuções e registros, atualizar as configurações de importação, desativar ou ativar execuções programadas, acionar manualmente execuções de jobs e excluir jobs.
Para mais informações sobre como os conectores funcionam, consulte Sobre os conectores de metadados.
Antes de começar
Para gerenciar jobs de conector, você precisa dos papéis do IAM adequados. Consulte Papéis do IAM para mais detalhes.
- Para ver os jobs e o histórico de execuções:
- Usuário do BigQuery (
roles/bigquery.user) - Leitor do Dataplex (
roles/dataplex.viewer)
- Usuário do BigQuery (
- Para editar, excluir ou acionar jobs manualmente:
- Administrador do BigQuery (
roles/bigquery.admin) - Administrador do Dataplex (
roles/dataplex.admin) ou Editor do Dataplex (roles/dataplex.editor)
- Administrador do BigQuery (
É preciso ativar o serviço de transferência de dados do BigQuery.
Além disso, é preciso conceder ao agente de serviço do serviço de transferência de dados do BigQuery
(service-PROJECT_NUMBER@gcp-sa-bigquerydatatransfer.iam.gserviceaccount.com)
a permissão dataplex.entryGroups.import ou o papel
Importador do grupo de entrada do Dataplex (roles/dataplex.entryGroupImporter). Isso pode ser concedido no nível do projeto ou do grupo de
entradas.
Ver jobs do conector
No console do Google Cloud , acesse a página Knowledge Catalog.
No menu de navegação, na seção Gerenciar, clique em Conectores. A página Conectores lista todos os jobs de importação de metadados no seu projeto.
Para ver os detalhes, o histórico de execução ou a configuração de um job específico, clique no nome de exibição dele na lista.
Ver o histórico e os registros de execução do job
Para qualquer job de conector, é possível ver o histórico de execuções, incluindo as bem-sucedidas e as com falha. As execuções de jobs com mais de 90 dias são excluídas automaticamente.
- Na página Conectores, clique no nome de exibição do job que você quer visualizar.
- Clique na guia Histórico de execuções. Essa guia mostra as execuções de jobs recentes.
- Para ver os registros de uma execução específica, encontre-a na lista e clique em Ver detalhes.
Geração de registros e monitoramento
Os conectores de metadados do Knowledge Catalog exportam registros e métricas para o Cloud Monitoring e o Cloud Logging, que fornecem observabilidade nas configurações de importação. É possível usar o Monitoring para configurar painéis para monitorar configurações de importação de metadados, avaliar o desempenho da execução e visualizar mensagens de erro para resolver falhas de execução. É possível usar o Logging para ver registros relacionados a uma execução ou configuração.
Atualizar um job de conector
É possível modificar a configuração de um job, incluindo a programação, o grupo de entrada de destino, as configurações de notificação e os objetos de origem a serem importados.
- Na página Conectores, clique no nome de exibição do job que você quer atualizar.
- Clique em Editar.
- Modifique a configuração do job conforme necessário.
- Clique em Salvar.
Desativar ou ativar um job de conector
Quando você desativa um job, o nome dele é atualizado com o status disabled, e nenhuma nova execução de job é programada. Todas as execuções em andamento são concluídas.
A desativação de um job não remove os metadados já importados para o
Knowledge Catalog.
- Na página Conectores, encontre o job que você quer desativar ou ativar.
- Clique em Ações e selecione Desativar ou Ativar.
Excluir um job de conector
Quando você exclui um job, nenhuma nova execução é programada, e todas as execuções em andamento são interrompidas. A exclusão de um job não remove os metadados já importados para o Knowledge Catalog.
- Na página Conectores, encontre o job que você quer excluir.
- Clique em Ações e selecione Excluir.
- Para confirmar, digite
deletee clique em Excluir.
Acionar um job manualmente
É possível iniciar uma execução de job fora da programação regular. Isso às vezes é chamado de preenchimento.
- Na página Conectores, clique no nome de exibição do job que você quer executar.
Clique em Executar transferência agora e selecione Executar transferência única.