As implantações permitem programar a execução de códigos, como pipelines, armazenados em repositórios Git remotos. Você pode escolher o diretório em que o código está localizado e realizar as seguintes ações:
- Crie e gerencie implantações conectadas a repositórios remotos.
- Configure gatilhos para extrair código de repositórios remotos e executar código regularmente.
- Executar pipelines em uma programação ou com outros acionadores.
- Veja os registros das suas execuções diretamente no console do Google Cloud . Para alertas, as implantações do Dataform se integram ao Cloud Logging e ao Cloud Monitoring.
Limitações
- As implantações não têm alertas integrados. Use o Logging e o Monitoring para configurar alertas.
- A autenticação com o Developer Connect só é compatível com conexões, não com conectores de conta.
Antes de começar
Antes de criar uma implantação, conclua as seguintes tarefas:
- Ative o uso da página Pipelines e conexões no console do Google Cloud .
Ative a API BigQuery, a API Dataform e a API Developer Connect:
Funções exigidas
Para conseguir as permissões necessárias a fim de concluir as tarefas neste documento, peça ao administrador para conceder a você os seguintes papéis do IAM:
- Administrador do Dataform (
roles/dataform.admin) no projeto - Usuário de jobs do BigQuery (
roles/bigquery.jobUser) no projeto - Leitor do Developer Connect (
roles/developerconnect.viewer) no projeto -
Use uma conta de serviço personalizada para executar uma implantação:
Usuário da conta de serviço (
roles/iam.serviceAccountUser) na conta de serviço personalizada
Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.
Também é possível conseguir as permissões necessárias usando papéis personalizados ou outros papéis predefinidos.
Para usar uma conta de serviço personalizada e executar uma implantação, também é necessário conceder a ela o papel de editor de dados do BigQuery (roles/bigquery.dataEditor).
Criar uma implantação
Para criar uma implantação do Dataform, faça o seguinte:
No console do Google Cloud , acesse a página Pipelines e conexões.
Clique em Criar > Criar implantação.
Selecione um tipo de autenticação de repositório e uma das seguintes opções:
Developer Connect
- Selecione um repositório e uma ramificação.
- Insira o caminho para o diretório em que o código está localizado.
- Insira um nome para a implantação.
- Selecione uma região para a implantação.
Na seção Frequência de programação, realize estas ações:
- No menu Repetições, selecione a frequência de execução do pipeline programado.
- No campo Em horário, insira o horário das execuções programadas do pipeline.
- No menu Fuso horário, selecione o fuso horário da programação.
Como alternativa, selecione Sob demanda para executar a implantação quando quiser.
Opcional: insira o ID do projeto Google Cloud .
Opcional: insira um sufixo de esquema.
Opcional: insira um prefixo da tabela.
Opcional: insira o esquema padrão.
Opcional: insira variáveis de compilação.
Clique em Implantar.
HTTPS
- Insira o URL do seu repositório Git remoto.
- Selecione uma ramificação.
- Insira o caminho para o diretório em que o código está localizado.
- Insira o secret que contém o token de acesso pessoal para conexões remotas HTTPS. Para mais informações, consulte Conectar um repositório remoto por HTTPS.
- Insira um nome para a implantação.
- Selecione uma região para a implantação.
Na seção Frequência de programação, realize estas ações:
- No menu Repetições, selecione a frequência de execução do pipeline programado.
- No campo Em horário, insira o horário das execuções programadas do pipeline.
- No menu Fuso horário, selecione o fuso horário da programação.
Como alternativa, selecione Sob demanda para executar a implantação quando quiser.
Opcional: insira o ID do projeto Google Cloud .
Opcional: insira um sufixo de esquema.
Opcional: insira um prefixo da tabela.
Opcional: insira o esquema padrão.
Opcional: insira variáveis de compilação.
Clique em Implantar.
SSH
- Insira o URL do seu repositório Git remoto.
- Selecione uma ramificação.
- Insira o caminho para o diretório em que o código está localizado.
- Insira o secret que contém uma chave privada do usuário e o valor da chave pública do host SSH. Para mais informações, consulte Conectar um repositório remoto por SSH.
- Insira um nome para a implantação.
- Selecione uma região para a implantação.
Na seção Frequência de programação, realize estas ações:
- No menu Repetições, selecione a frequência de execução do pipeline programado.
- No campo Em horário, insira o horário das execuções programadas do pipeline.
- No menu Fuso horário, selecione o fuso horário da programação.
Como alternativa, selecione Sob demanda para executar a implantação quando quiser.
Opcional: insira o ID do projeto Google Cloud .
Opcional: insira um sufixo de esquema.
Opcional: insira um prefixo da tabela.
Opcional: insira o esquema padrão.
Opcional: insira variáveis de compilação.
Clique em Implantar.
Listar implantações
Para listar as implantações criadas, faça o seguinte:
No console do Google Cloud , acesse a página Pipelines e conexões.
Confira a lista de implantações.
Criar uma programação de implantação
Para criar uma programação para uma implantação, faça o seguinte:
No console do Google Cloud , acesse a página Pipelines e conexões.
Clique na guia Implantações e selecione uma implantação.
Na página Detalhes da implantação, na seção Gatilhos (configurações de fluxo de trabalho), clique em Criar.
No painel Criar configuração do fluxo de trabalho, siga as etapas para criar uma configuração de fluxo de trabalho.
Executar uma programação de implantação
Para executar uma programação de uma implantação, faça o seguinte:
No console do Google Cloud , acesse a página Pipelines e conexões.
Clique na guia Implantações e selecione uma opção.
Na seção Gatilhos (configurações de fluxo de trabalho), ao lado da programação de implantação que você quer executar, clique em Conferir ações > Executar agora.
Excluir uma programação de implantação
Para excluir um cronograma de uma implantação, faça o seguinte:
No console do Google Cloud , acesse a página Pipelines e conexões.
Clique na guia Implantações e selecione uma implantação.
Na página Detalhes da implantação, na seção Gatilhos (configurações de fluxo de trabalho), ao lado da programação de implantação que você quer excluir, clique em Ver ações > Excluir.
Configurar alertas
Para receber notificações quando uma execução de fluxo de trabalho falhar, configure alertas para invocações de fluxo de trabalho com falha.
A seguir
- Saiba como criar um repositório.
- Saiba como programar execuções.
- Saiba como configurar alertas.