프로덕션 실행 예약

이 빠른 시작에서는 Dataform에서 프로덕션 실행을 예약하는 다음과 같은 단계를 안내합니다.

시작하기 전에

  1. 계정에 로그인합니다. Google Cloud 를 처음 사용하는 경우 계정을 만들고 Google 제품의 실제 성능을 평가해 보세요. Google Cloud신규 고객에게는 워크로드를 실행, 테스트, 배포하는 데 사용할 수 있는 $300의 무료 크레딧이 제공됩니다.

  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  3. Verify that billing is enabled for your Google Cloud project.

  4. Enable the BigQuery and Dataform APIs.

    Roles required to enable APIs

    To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

    Enable the APIs

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  6. Verify that billing is enabled for your Google Cloud project.

  7. Enable the BigQuery and Dataform APIs.

    Roles required to enable APIs

    To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

    Enable the APIs

    8.

또한 BigQuery에서 워크플로를 실행할 커스텀 서비스 계정 을 선택하거나 만듭니다.

필요한 역할

이 빠른 시작의 모든 태스크를 수행하는 데 필요한 권한을 얻으려면 관리자에게 다음의 IAM 역할을 부여해 달라고 요청하세요.

역할 부여에 대한 자세한 내용은 프로젝트, 폴더, 조직에 대한 액세스 관리를 참조하세요.

커스텀 역할이나 다른 사전 정의된 역할을 통해 필요한 권한을 얻을 수도 있습니다.

필수 역할 부여

BigQuery에서 워크플로를 실행하려면 커스텀 서비스 계정 또는 Google 계정 (미리보기)을 사용하면 됩니다. 하지만 커스텀 서비스 계정 사용자 인증 정보는 예약된 실행의 기본 옵션입니다. 예약된 실행에는 Google 계정 사용자 계정 사용자 인증 정보를 사용하는 것이 좋습니다.

커스텀 서비스 계정에는 다음 필수 역할이 있어야 합니다.

  • BigQuery 데이터 편집자 (roles/bigquery.dataEditor) Dataform에 읽기 및 쓰기 액세스 권한이 모두 필요한 프로젝트 또는 특정 BigQuery 데이터 세트에 대한. 여기에는 일반적으로 Dataform 저장소를 호스팅하는 프로젝트가 포함됩니다.
  • BigQuery 데이터 뷰어 (roles/bigquery.dataViewer) Dataform에 읽기 전용 액세스 권한이 필요한 프로젝트 또는 특정 BigQuery 데이터 세트에 대한.
  • BigQuery 작업 사용자 (roles/bigquery.jobUser) Dataform 저장소를 호스팅하는 프로젝트에 대한

Dataform에서 커스텀 서비스 계정을 사용하려면 기본 Dataform 서비스 에이전트에 커스텀 서비스 계정 리소스에 대한 다음 역할이 있어야 합니다.

이러한 역할을 부여하려면 다음 단계를 수행합니다.

  1. 콘솔에서 IAM 페이지로 이동합니다. Google Cloud

    IAM으로 이동

  2. 액세스 권한 부여 를 클릭합니다.

  3. 새 주 구성원 필드에 커스텀 서비스 계정 ID를 입력합니다.

  4. 역할 선택 메뉴에서 추가 역할마다 다른 역할 추가 를 사용하여 다음 역할을 하나씩 선택합니다.

    • BigQuery 데이터 편집자
    • BigQuery 데이터 뷰어
    • BigQuery 작업 사용자

  5. 저장 을 클릭합니다.

  6. 콘솔에서 서비스 계정 페이지로 이동합니다. Google Cloud

    서비스 계정으로 이동

  7. 커스텀 서비스 계정을 선택합니다.

  8. **액세스 권한이 있는 주 구성원** 으로 이동한 다음 **액세스 권한 부여** 를 클릭합니다.

  9. 새 주 구성원 필드에 기본 Dataform 서비스 에이전트 ID를 입력합니다.

    기본 Dataform 서비스 에이전트 ID의 형식은 다음과 같습니다.

    service-PROJECT_NUMBER@gcp-sa-dataform.iam.gserviceaccount.com

    PROJECT_NUMBER를 프로젝트의 숫자 ID로 바꿉니다.Google Cloud 프로젝트 ID는 콘솔 대시보드에서 찾을 수 있습니다. Google Cloud Google Cloud 자세한 내용은 프로젝트 식별을 참조하세요.

  10. 역할 선택 목록에서 다음 역할을 추가합니다.

    • 서비스 계정 사용자
    • 서비스 계정 토큰 생성자

  11. 저장 을 클릭합니다.

역할 부여에 대한 자세한 내용은 Dataform에 필요한 액세스 권한 부여를 참조하세요.

Dataform 저장소 만들기

  1. 콘솔에서 Dataform 페이지로 이동합니다. Google Cloud

    Dataform으로 이동

  2. 저장소 만들기를 클릭합니다.

  3. 저장소 만들기 페이지에서 다음을 수행합니다.

    1. 저장소 ID 필드에 quickstart-production을 입력합니다.

    2. 리전 목록에서 europe-west4를 선택합니다.

    3. 서비스 계정 목록에서 저장소의 커스텀 서비스 계정을 선택합니다.

    4. actAs 권한 검사 섹션에서 저장소에 대한 사용자 작업에 권한 검사를 적용합니다.

    5. 만들기 를 클릭합니다.

  4. 저장소로 이동 을 클릭합니다.

출시 구성 및 워크플로 구성 만들기

저장소의 프로덕션 컴파일 결과를 만들고 production 테이블의 실행을 예약하려면 다음 단계를 따르세요.quickstart-production

  1. 콘솔에서 Dataform 페이지로 이동합니다. Google Cloud

    Dataform으로 이동

  2. quickstart-production을 클릭합니다.

  3. 출시 및 예약 을 클릭한 다음 프로덕션 출시 만들기 를 클릭합니다.

  4. 출시 구성 만들기 창에서 다음 설정을 구성합니다.

    1. 출시 ID 필드에 production을 입력합니다.
    2. Git commitish 필드에 기본값 main을 그대로 둡니다.
    3. 실행 빈도 섹션의 반복 메뉴에서 커스텀 을 선택합니다.
    4. 커스텀 예약 필드에 0 16 * * *을 입력합니다.

    5. 시간대 메뉴에서 UTC+1 시간대(예: 중부 유럽 표준시(CET))를 선택합니다.

      Dataform은 매일 오후 4시(UTC+1)에 quickstart-production 저장소를 컴파일하고 이 출시 구성에 구성된 컴파일 설정을 적용하여 production 컴파일 결과를 만듭니다.

  5. 만들기 를 클릭합니다.

    production 출시 구성은 매일 오후 4시(UTC+1)에 전체 quickstart-production 저장소의 컴파일 결과를 만듭니다.

  6. 출시 및 예약 탭에 있는지 확인합니다. 워크플로 구성 섹션으로 이동하여 만들기 를 클릭합니다.

  7. 워크플로 구성 만들기 창에서 다음 설정을 구성합니다.

    1. 구성 ID 필드에 production을 입력합니다.
    2. 출시 구성 메뉴에서 production을 선택합니다.
    3. 실행 빈도 섹션의 반복 메뉴에서 커스텀 을 선택합니다.
    4. 커스텀 예약 필드에 0 17 * * *을 입력합니다.

    5. 시간대 메뉴에서 UTC+1 시간대(예: 중부 유럽 표준시(CET))를 선택합니다.

      Dataform은 매일 오후 5시(UTC+1)에 quickstart-production 저장소의 최신 production 컴파일 결과를 실행합니다.

    6. 모든 작업 을 클릭합니다.

      Dataform은 production 컴파일 결과에서 모든 워크플로 작업을 실행합니다.

  8. 만들기 를 클릭합니다.

    production 워크플로 구성은 매일 오후 5시(UTC+1)에 프로덕션 출시 구성에서 만든 최신 컴파일 결과 전체를 실행합니다.

이전 production 컴파일 결과 보기

이전에 예약된 production 컴파일 결과를 보려면 다음 단계를 따르세요.

  1. 콘솔에서 Dataform 페이지로 이동합니다. Google Cloud

    Dataform으로 이동

  2. quickstart-production 저장소를 선택합니다.

  3. 출시 및 예약 을 클릭합니다.

  4. 출시 구성 섹션에서 production을 클릭합니다.

이전 production 워크플로 실행 보기

이전 production 워크플로 실행을 보려면 다음 단계를 따르세요.

  1. 콘솔에서 Dataform 페이지로 이동합니다. Google Cloud

    Dataform으로 이동

  2. quickstart-production 저장소를 선택합니다.

  3. 워크플로 실행 로그 를 클릭합니다.

  4. 워크플로 실행을 선택하여 각 작업의 상태와 로그를 비롯한 자세한 정보를 확인합니다.

삭제

이 페이지에서 사용한 리소스 비용이 Google Cloud 계정에 청구되지 않도록 하려면 다음 단계를 수행합니다.

BigQuery에서 만든 데이터 세트 삭제

BigQuery 애셋에 대한 요금이 청구되지 않도록 하려면 다음 단계에 따라 dataform_production이라는 데이터 세트를 삭제하세요.

  1. 콘솔에서 Google Cloud BigQuery 페이지로 이동합니다.

    BigQuery로 이동

  2. 탐색기 패널에서 프로젝트를 확장하고 dataform_production을 선택합니다.

  3. 작업 메뉴를 클릭한 후 삭제를 클릭합니다.

  4. 데이터 세트 삭제 대화상자에 delete를 입력한 후 삭제를 클릭합니다.

Dataform 출시 구성 삭제

Dataform 출시 구성을 만드는 데에는 비용이 발생하지 않습니다. 하지만 production 출시 구성을 삭제하려면 다음 단계를 수행합니다.

  1. 콘솔에서 Dataform 페이지로 이동합니다. Google Cloud

    Dataform으로 이동

  2. quickstart-production을 클릭합니다.

  3. 출시 및 예약 을 클릭하고 출시 구성 섹션으로 이동합니다.

  4. production 출시 구성에서 더보기 메뉴를 클릭한 다음 삭제 를 클릭합니다.

  5. 출시 구성 삭제 대화상자에서 삭제를 클릭합니다.

Dataform 워크플로 구성 삭제

BigQuery 애셋에 대한 요금이 청구되지 않도록 하려면 다음 단계에 따라 Dataform production 워크플로 구성을 삭제합니다.

  1. 콘솔에서 Dataform 페이지로 이동합니다. Google Cloud

    Dataform으로 이동

  2. quickstart-production을 클릭합니다.

  3. 출시 및 예약 을 클릭하고 워크플로 구성 섹션으로 이동합니다.

  4. production 워크플로 구성에서 더보기 메뉴를 클릭한 다음 삭제를 클릭합니다.

  5. 출시 구성 삭제 대화상자에서 삭제를 클릭합니다.

Dataform 저장소 삭제

Dataform 저장소를 만드는 데에는 비용이 발생하지 않습니다. 그러나 저장소와 저장소의 모든 콘텐츠를 삭제하려면 다음 단계를 수행합니다.

  1. 콘솔에서 Dataform 페이지로 이동합니다. Google Cloud

    Dataform으로 이동

  2. quickstart-production까지 더보기 메뉴를 클릭한 다음 삭제를 선택합니다.

  3. 저장소 삭제 창에서 저장소 이름을 입력하여 삭제를 확인합니다.

  4. 확인하려면 삭제를 클릭합니다.

다음 단계