이 페이지는 Cloud Translation API를 통해 번역되었습니다.

데이터 프로파일링

이 문서에서는 데이터 프로필 스캔을 사용하여 데이터를 보다 잘 이해하는 방법을 설명합니다. BigQuery는 Dataplex Universal Catalog를 사용하여 평균값, 고유값, 최댓값과 같은 데이터의 통계 특성을 분석합니다. Dataplex Universal Catalog는 이 정보를 사용하여 데이터 품질 검사 규칙을 추천하기도 합니다.

데이터 프로파일링에 대한 자세한 내용은 데이터 프로파일링 정보를 참조하세요.

시작하기 전에

Enable the Dataplex API.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the API

필요한 역할

데이터 프로필 스캔을 만들고 관리하는 데 필요한 권한을 얻으려면 관리자에게 프로젝트 또는 테이블과 같은 리소스에 대한 다음 IAM 역할을 부여해 달라고 요청하세요.

데이터 프로필 스캔 만들기, 실행, 업데이트, 삭제: 데이터 스캔이 포함된 프로젝트에 대한 Dataplex DataScan 편집자(roles/dataplex.dataScanEditor) 역할
Dataplex Universal Catalog가 BigQuery 데이터에 대해 데이터 프로필 스캔을 실행하도록 허용하려면 Dataplex Universal Catalog 서비스 계정에 다음 역할을 부여하세요. 스캔을 실행하는 프로젝트의 BigQuery 작업 사용자(roles/bigquery.jobUser) 역할, 스캔되는 테이블의 BigQuery 데이터 뷰어(roles/bigquery.dataViewer) 역할
Cloud Storage 데이터를 사용하는 BigQuery 외부 테이블에 대한 데이터 프로필 스캔을 실행하려면 Dataplex Universal Catalog 서비스 계정에 Cloud Storage 버킷에 대한 스토리지 객체 뷰어(roles/storage.objectViewer) 및 스토리지 기존 버킷 리더(roles/storage.legacyBucketReader) 역할을 부여합니다.
데이터 프로필 스캔 결과, 작업, 기록 보기: 데이터 스캔이 포함된 프로젝트에 대한 Dataplex DataScan 뷰어(roles/dataplex.dataScanViewer) 역할
데이터 프로필 스캔 결과를 BigQuery 테이블로 내보내기: 테이블에 대한 BigQuery 데이터 편집자(roles/bigquery.dataEditor) 역할
데이터 프로필 스캔 결과를 Dataplex Universal Catalog에 게시: @bigquery 항목 그룹에 대한 Dataplex 카탈로그 편집자(roles/dataplex.catalogEditor) 역할
데이터 프로필 탭에서 BigQuery에 게시된 데이터 프로필 스캔 결과 보기: 테이블에 대한 BigQuery 데이터 뷰어(roles/bigquery.dataViewer) 역할

역할 부여에 대한 자세한 내용은 프로젝트, 폴더, 조직에 대한 액세스 관리를 참조하세요.

커스텀 역할이나 다른 사전 정의된 역할을 통해 필요한 권한을 얻을 수도 있습니다.

필수 권한

커스텀 역할을 사용하는 경우 다음 IAM 권한을 부여해야 합니다.

데이터 프로필 스캔 만들기, 실행, 업데이트, 삭제:
- 프로젝트에 대한 dataplex.datascans.create: DataScan 만들기
- 데이터 스캔에 대한 dataplex.datascans.update: DataScan 설명 업데이트
- 데이터 스캔에 대한 dataplex.datascans.delete: DataScan 삭제
- 데이터 스캔에 대한 dataplex.datascans.run: DataScan 실행
- 데이터 스캔에 대한 dataplex.datascans.get: 결과를 제외한 DataScan 세부정보 보기
- 프로젝트에 대한 dataplex.datascans.list: DataScan 나열
- 데이터 스캔 작업에 대한 dataplex.dataScanJobs.get: DataScan 작업 리소스 읽기
- 데이터 스캔에 대한 dataplex.dataScanJobs.list: 프로젝트의 DataScan 작업 리소스 나열
Dataplex Universal Catalog가 BigQuery 데이터에 대해 데이터 프로필 스캔을 실행하도록 허용:
- 프로젝트에 대한 bigquery.jobs.create: 작업 실행
- 테이블에 대한 bigquery.tables.get: 테이블 메타데이터 가져오기
- 테이블에 대한 bigquery.tables.getData: 테이블 데이터 가져오기
Cloud Storage 데이터를 사용하는 BigQuery 외부 테이블에 대한 데이터 프로필 스캔 실행:
- 버킷에 대한 storage.buckets.get: 버킷 메타데이터 읽기
- 객체에 대한 storage.objects.get: 객체 데이터 읽기
데이터 프로필 스캔 결과, 작업, 기록 보기:
- 데이터 스캔에 대한 dataplex.datascans.getData: 결과를 포함한 DataScan 세부정보 보기
- 프로젝트에 대한 dataplex.datascans.list: DataScan 나열
- 데이터 스캔 작업에 대한 dataplex.dataScanJobs.get: DataScan 작업 리소스 읽기
- 데이터 스캔에 대한 dataplex.dataScanJobs.list: 프로젝트의 DataScan 작업 리소스 나열
데이터 프로필 스캔 결과를 BigQuery 테이블로 내보내기:
- 데이터 세트에 대한 bigquery.tables.create: 테이블 만들기
- 테이블에 대한 bigquery.tables.updateData: 테이블에 데이터 쓰기
데이터 프로필 스캔 결과를 Dataplex Universal Catalog에 게시:
- 항목 그룹에 대한 dataplex.entryGroups.useDataProfileAspect: Dataplex Universal Catalog 데이터 프로필 스캔이 결과를 Dataplex Universal Catalog에 저장할 수 있도록 허용
- 또한 다음 권한 중 하나가 필요합니다.
  - 테이블에 대한 bigquery.tables.update: 테이블 메타데이터 업데이트
  - 항목에 대한 dataplex.entries.update: 항목 업데이트
BigQuery 또는 Dataplex Universal Catalog의 테이블에 대해 게시된 데이터 프로필 결과 보기:
- 테이블에 대한 bigquery.tables.get: 테이블 메타데이터 가져오기
- 테이블에 대한 bigquery.tables.getData: 테이블 데이터 가져오기

테이블에서 BigQuery 행 수준 보안을 사용하는 경우 Dataplex Universal Catalog는 Dataplex Universal Catalog 서비스 계정에 표시되는 행만 스캔할 수 있습니다. Dataplex Universal Catalog가 모든 행을 스캔하도록 허용하려면 조건자가 TRUE인 행 필터에 서비스 계정을 추가하세요.

테이블에서 BigQuery 열 수준 보안을 사용하는 경우 Dataplex Universal Catalog에서 보호된 열을 스캔하려면 액세스 권한이 필요합니다. 액세스 권한을 부여하려면 테이블에 사용된 모든 정책 태그에 대해 Dataplex Universal Catalog 서비스 계정에 Data Catalog 세분화된 권한의 리더(roles/datacatalog.fineGrainedReader) 역할을 부여합니다. 데이터 스캔을 만들거나 업데이트하는 사용자는 보호된 열에 대한 권한도 필요합니다.

Dataplex Universal Catalog 서비스 계정에 역할 부여

데이터 프로필 스캔을 실행하기 위해 Dataplex Universal Catalog는 BigQuery 작업을 실행하고 BigQuery 테이블 데이터를 읽을 수 있는 권한이 필요한 서비스 계정을 사용합니다. 필요한 역할을 부여하려면 다음 단계를 따르세요.

Dataplex Universal Catalog 서비스 계정 이메일 주소를 가져옵니다. 이 프로젝트에서 데이터 프로필 또는 데이터 품질 스캔을 이전에 만든 적이 없는 경우 다음 gcloud 명령어를 실행하여 서비스 ID를 생성합니다.
```
gcloud beta services identity create --service=dataplex.googleapis.com
```
이 명령어는 서비스 계정 이메일을 반환하며, 이메일의 형식은 service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com입니다.

서비스 계정이 이미 있는 경우 Google Cloud 콘솔의 IAM 페이지에서 Dataplex 이름이 있는 주 구성원을 확인하여 이메일을 찾을 수 있습니다.
프로젝트에서 서비스 계정에 BigQuery 작업 사용자(roles/bigquery.jobUser) 역할을 부여합니다. 이 역할을 통해 서비스 계정에서 스캔을 위한 BigQuery 작업을 실행할 수 있습니다.
```
gcloud projects add-iam-policy-binding PROJECT_ID \
    --member="serviceAccount:service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com" \
    --role="roles/bigquery.jobUser"
```
다음을 바꿉니다.
- PROJECT_ID: Google Cloud 프로젝트 ID입니다.
- service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com: Dataplex Universal Catalog 서비스 계정의 이메일입니다.

프로파일링할 각 테이블에 대해 서비스 계정에 BigQuery 데이터 뷰어(roles/bigquery.dataViewer) 역할을 부여합니다. 이 역할은 테이블에 대한 읽기 전용 액세스 권한을 부여합니다.

gcloud bigquery tables add-iam-policy-binding DATASET_ID.TABLE_ID \
    --member="serviceAccount:service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com" \
    --role="roles/bigquery.dataViewer"

다음을 바꿉니다.

DATASET_ID: 테이블이 포함된 데이터 세트의 ID입니다.
TABLE_ID: 프로파일링할 테이블의 ID입니다.

service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com: Dataplex Universal Catalog 서비스 계정의 이메일입니다.

데이터 프로필 스캔 만들기

콘솔

Google Cloud 콘솔의 BigQuery 메타데이터 선별 페이지에서 데이터 프로파일링 및 품질 탭으로 이동합니다.

데이터 프로파일링 및 품질로 이동
데이터 프로필 스캔 만들기를 클릭합니다.
선택사항: 표시 이름을 입력합니다.
ID를 입력합니다. 리소스 이름 지정 규칙을 참조하세요.
선택사항: 설명을 입력합니다.
테이블 필드에서 찾아보기를 클릭합니다. 스캔할 테이블을 선택한 후 선택을 클릭합니다.

멀티 리전 데이터 세트의 테이블에서 데이터 스캔을 생성할 리전을 선택합니다.

Dataplex Universal Catalog 레이크 내에 구성된 테이블을 찾아보려면 Dataplex 레이크 둘러보기를 클릭합니다.
범위 필드에서 증분 또는 전체 데이터를 선택합니다.
- 증분 데이터를 선택한 경우 타임스탬프 열 필드에서 새 레코드가 추가될 때 증가하고 새 레코드를 식별하는 데 사용할 수 있는 BigQuery 테이블의 DATE 또는 TIMESTAMP 유형 열을 선택합니다. DATE 또는 TIMESTAMP 유형의 열로 파티션을 나눈 테이블의 경우 파티션 열을 타임스탬프 필드로 사용하는 것이 좋습니다.
선택사항: 데이터를 필터링하려면 다음 중 하나를 수행합니다.
- 행별로 필터링하려면 행 필터링 체크박스를 선택합니다. GoogleSQL 문법의 WHERE 절에서 사용할 수 있는 유효한 SQL 표현식을 입력합니다. 예를 들면 col1 >= 0입니다.
  
  필터는 여러 열에 대한 SQL 조건의 조합일 수 있습니다. 예를 들면 col1 >= 0 AND col2 < 10입니다.
- 열별로 필터링하려면 열 필터링 체크박스를 선택합니다.
  - 프로필 스캔에 열을 포함하려면 열 포함 필드에서 찾아보기를 클릭합니다. 포함할 열을 선택한 후 선택을 클릭합니다.
  - 프로필 스캔에서 열을 제외하려면 열 제외 필드에서 찾아보기를 클릭합니다. 제외할 열을 선택한 후 선택을 클릭합니다.
  참고: 열 포함, 열 제외 또는 둘 다를 사용할 수 있습니다. 두 필드 모두 사용하면 먼저 데이터 프로필 스캔에서 열 포함 필드의 입력을 기반으로 열을 선택한 후 열 제외 필드의 입력을 기반으로 열을 제외합니다.
데이터 프로필 스캔에 샘플링을 적용하려면 샘플링 크기 목록에서 샘플링 비율을 선택합니다. 소수점 이하 3자리까지 0.0%에서 100.0% 사이의 백분율 값을 선택합니다.
- 데이터 세트가 클수록 낮은 샘플링 비율을 선택합니다. 예를 들어 1PB 테이블의 경우 0.1%~1.0% 사이의 값을 입력하면 데이터 프로필 샘플에서 데이터 1~10TB를 샘플링합니다.
- 결과를 반환하려면 샘플링된 데이터에 레코드가 최소 100개 이상 있어야 합니다.
- 증분 데이터 스캔의 경우 데이터 프로필 스캔은 최신 증분에 샘플링을 적용합니다.
선택사항: 소스 테이블의Google Cloud 콘솔에서 BigQuery 및 Dataplex Universal Catalog 페이지에 데이터 프로필 스캔 결과를 게시합니다. BigQuery 및 Dataplex 카탈로그에 결과 게시 체크박스를 선택합니다.

소스 테이블의 BigQuery 페이지와 Dataplex Universal Catalog 페이지에 있는 데이터 프로필 탭에서 최신 스캔 결과를 볼 수 있습니다. 사용자가 게시된 스캔 결과에 액세스할 수 있게 하려면 이 문서의 데이터 프로필 스캔 결과에 대한 액세스 권한 부여 섹션을 참조하세요.

다음과 같은 경우 게시 옵션을 사용하지 못할 수 있습니다.
- 테이블에 대한 필수 권한이 없습니다.
- 결과를 게시하도록 또 다른 데이터 품질 스캔이 설정되었습니다.
일정 섹션에서 다음 옵션 중 하나를 선택합니다.
- 반복: 시간별, 일별, 주별, 월별 또는 커스텀 일정으로 데이터 프로필 스캔을 실행합니다. 스캔 실행 빈도와 시간을 지정합니다. 커스텀을 선택하는 경우 크론 형식을 사용하여 일정을 지정합니다.
- 주문형: 데이터 프로필 스캔을 주문형으로 실행합니다.
계속을 클릭합니다.
선택사항: 스캔 결과를 BigQuery 표준 테이블로 내보냅니다. BigQuery 테이블로 스캔 결과 내보내기 섹션에서 다음을 수행합니다.
1. BigQuery 데이터 세트 선택 필드에서 찾아보기를 클릭합니다. 데이터 프로필 스캔 결과를 저장할 BigQuery 데이터 세트를 선택합니다.
2. BigQuery 테이블 필드에서 데이터 프로필 스캔 결과를 저장할 테이블을 지정합니다. 기존 테이블을 사용하는 경우 내보내기 테이블 스키마와 호환되는지 확인합니다. 지정된 테이블이 없으면 Dataplex Universal Catalog에서 테이블을 자동으로 만듭니다.
  
  참고: 여러 데이터 프로필 스캔에 같은 결과 테이블을 사용할 수 있습니다.
선택사항: 라벨을 추가합니다. 라벨은 관련 객체를 함께 그룹화하거나 다른 Google Cloud 리소스와 그룹화할 수 있게 해주는 키-값 쌍입니다.
스캔을 만들려면 만들기를 클릭합니다.

일정을 주문형으로 설정한 경우 스캔 실행을 클릭하여 지금 스캔을 실행할 수도 있습니다.

gcloud

데이터 프로필 스캔을 만들려면 gcloud dataplex datascans create data-profile 명령어를 사용합니다.

소스 데이터가 Dataplex Universal Catalog 레이크에 구성된 경우 --data-source-entity 플래그를 포함합니다.

gcloud dataplex datascans create data-profile DATASCAN \
--location=LOCATION \
--data-source-entity=DATA_SOURCE_ENTITY

소스 데이터가 Dataplex Universal Catalog 레이크에 구성되지 않은 경우에는 --data-source-resource 플래그를 포함합니다.

gcloud dataplex datascans create data-profile DATASCAN \
--location=LOCATION \
--data-source-resource=DATA_SOURCE_RESOURCE

다음 변수를 바꿉니다.

DATASCAN: 데이터 프로필 스캔의 이름입니다.
LOCATION: 데이터 프로필 스캔을 만들 Google Cloud 리전입니다.
DATA_SOURCE_ENTITY: 데이터 프로필 스캔 데이터가 포함된 Dataplex Universal Catalog 항목. 예를 들면 projects/test-project/locations/test-location/lakes/test-lake/zones/test-zone/entities/test-entity입니다.
DATA_SOURCE_RESOURCE: 데이터 프로필 스캔 데이터가 포함된 리소스의 이름. 예를 들면 //bigquery.googleapis.com/projects/test-project/datasets/test-dataset/tables/test-table입니다.

C#

이 샘플을 사용해 보기 전에 Dataplex Universal Catalog 빠른 시작: 클라이언트 라이브러리 사용의 C# 설정 안내를 따르세요. 자세한 내용은 Dataplex Universal Catalog C# API 참고 문서를 참조하세요.

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

using Google.Api.Gax.ResourceNames;
using Google.Cloud.Dataplex.V1;
using Google.LongRunning;

public sealed partial class GeneratedDataScanServiceClientSnippets
{
    /// <summary>Snippet for CreateDataScan</summary>
    /// <remarks>
    /// This snippet has been automatically generated and should be regarded as a code template only.
    /// It will require modifications to work:
    /// - It may require correct/in-range values for request initialization.
    /// - It may require specifying regional endpoints when creating the service client as shown in
    ///   https://cloud.google.com/dotnet/docs/reference/help/client-configuration#endpoint.
    /// </remarks>
    public void CreateDataScanRequestObject()
    {
        // Create client
        DataScanServiceClient dataScanServiceClient = DataScanServiceClient.Create();
        // Initialize request argument(s)
        CreateDataScanRequest request = new CreateDataScanRequest
        {
            ParentAsLocationName = LocationName.FromProjectLocation("[PROJECT]", "[LOCATION]"),
            DataScan = new DataScan(),
            DataScanId = "",
            ValidateOnly = false,
        };
        // Make the request
        Operation<DataScan, OperationMetadata> response = dataScanServiceClient.CreateDataScan(request);

        // Poll until the returned long-running operation is complete
        Operation<DataScan, OperationMetadata> completedResponse = response.PollUntilCompleted();
        // Retrieve the operation result
        DataScan result = completedResponse.Result;

        // Or get the name of the operation
        string operationName = response.Name;
        // This name can be stored, then the long-running operation retrieved later by name
        Operation<DataScan, OperationMetadata> retrievedResponse = dataScanServiceClient.PollOnceCreateDataScan(operationName);
        // Check if the retrieved long-running operation has completed
        if (retrievedResponse.IsCompleted)
        {
            // If it has completed, then access the result
            DataScan retrievedResult = retrievedResponse.Result;
        }
    }
}

Go

이 샘플을 사용해 보기 전에 Dataplex Universal Catalog 빠른 시작: 클라이언트 라이브러리 사용의 Go 설정 안내를 따르세요. 자세한 내용은 Dataplex Universal Catalog Go API 참고 문서를 참조하세요.

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.


package main

import (
	"context"

	dataplex "cloud.google.com/go/dataplex/apiv1"
	dataplexpb "cloud.google.com/go/dataplex/apiv1/dataplexpb"
)

func main() {
	ctx := context.Background()
	// This snippet has been automatically generated and should be regarded as a code template only.
	// It will require modifications to work:
	// - It may require correct/in-range values for request initialization.
	// - It may require specifying regional endpoints when creating the service client as shown in:
	//   https://pkg.go.dev/cloud.google.com/go#hdr-Client_Options
	c, err := dataplex.NewDataScanClient(ctx)
	if err != nil {
		// TODO: Handle error.
	}
	defer c.Close()

	req := &dataplexpb.CreateDataScanRequest{
		// TODO: Fill request struct fields.
		// See https://pkg.go.dev/cloud.google.com/go/dataplex/apiv1/dataplexpb#CreateDataScanRequest.
	}
	op, err := c.CreateDataScan(ctx, req)
	if err != nil {
		// TODO: Handle error.
	}

	resp, err := op.Wait(ctx)
	if err != nil {
		// TODO: Handle error.
	}
	// TODO: Use resp.
	_ = resp
}

Java

이 샘플을 사용해 보기 전에 Dataplex Universal Catalog 빠른 시작: 클라이언트 라이브러리 사용의 Java 설정 안내를 따르세요. 자세한 내용은 Dataplex Universal Catalog Java API 참고 문서를 참조하세요.

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

import com.google.cloud.dataplex.v1.CreateDataScanRequest;
import com.google.cloud.dataplex.v1.DataScan;
import com.google.cloud.dataplex.v1.DataScanServiceClient;
import com.google.cloud.dataplex.v1.LocationName;

public class SyncCreateDataScan {

  public static void main(String[] args) throws Exception {
    syncCreateDataScan();
  }

  public static void syncCreateDataScan() throws Exception {
    // This snippet has been automatically generated and should be regarded as a code template only.
    // It will require modifications to work:
    // - It may require correct/in-range values for request initialization.
    // - It may require specifying regional endpoints when creating the service client as shown in
    // https://cloud.google.com/java/docs/setup#configure_endpoints_for_the_client_library
    try (DataScanServiceClient dataScanServiceClient = DataScanServiceClient.create()) {
      CreateDataScanRequest request =
          CreateDataScanRequest.newBuilder()
              .setParent(LocationName.of("[PROJECT]", "[LOCATION]").toString())
              .setDataScan(DataScan.newBuilder().build())
              .setDataScanId("dataScanId1260787906")
              .setValidateOnly(true)
              .build();
      DataScan response = dataScanServiceClient.createDataScanAsync(request).get();
    }
  }
}

Python

이 샘플을 사용해 보기 전에 Dataplex Universal Catalog 빠른 시작: 클라이언트 라이브러리 사용의 Python 설정 안내를 따르세요. 자세한 내용은 Dataplex Universal Catalog Python API 참고 문서를 참조하세요.

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

# This snippet has been automatically generated and should be regarded as a
# code template only.
# It will require modifications to work:
# - It may require correct/in-range values for request initialization.
# - It may require specifying regional endpoints when creating the service
#   client as shown in:
#   https://googleapis.dev/python/google-api-core/latest/client_options.html
from google.cloud import dataplex_v1


def sample_create_data_scan():
    # Create a client
    client = dataplex_v1.DataScanServiceClient()

    # Initialize request argument(s)
    data_scan = dataplex_v1.DataScan()
    data_scan.data_quality_spec.rules.dimension = "dimension_value"
    data_scan.data.entity = "entity_value"

    request = dataplex_v1.CreateDataScanRequest(
        parent="parent_value",
        data_scan=data_scan,
        data_scan_id="data_scan_id_value",
    )

    # Make the request
    operation = client.create_data_scan(request=request)

    print("Waiting for operation to complete...")

    response = operation.result()

    # Handle the response
    print(response)

Ruby

이 샘플을 사용해 보기 전에 Dataplex Universal Catalog 빠른 시작: 클라이언트 라이브러리 사용의 Ruby 설정 안내를 따르세요. 자세한 내용은 Dataplex Universal Catalog Ruby API 참고 문서를 참조하세요.

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

require "google/cloud/dataplex/v1"

##
# Snippet for the create_data_scan call in the DataScanService service
#
# This snippet has been automatically generated and should be regarded as a code
# template only. It will require modifications to work:
# - It may require correct/in-range values for request initialization.
# - It may require specifying regional endpoints when creating the service
# client as shown in https://cloud.google.com/ruby/docs/reference.
#
# This is an auto-generated example demonstrating basic usage of
# Google::Cloud::Dataplex::V1::DataScanService::Client#create_data_scan.
#
def create_data_scan
  # Create a client object. The client can be reused for multiple calls.
  client = Google::Cloud::Dataplex::V1::DataScanService::Client.new

  # Create a request. To set request fields, pass in keyword arguments.
  request = Google::Cloud::Dataplex::V1::CreateDataScanRequest.new

  # Call the create_data_scan method.
  result = client.create_data_scan request

  # The returned object is of type Gapic::Operation. You can use it to
  # check the status of an operation, cancel it, or wait for results.
  # Here is how to wait for a response.
  result.wait_until_done! timeout: 60
  if result.response?
    p result.response
  else
    puts "No response received."
  end
end

REST

데이터 프로필 스캔을 만들려면 dataScans.create 메서드를 사용합니다.

여러 데이터 프로필 스캔 만들기

Google Cloud 콘솔을 사용하여 BigQuery 데이터 세트의 테이블 여러 개에 데이터 프로필 스캔을 동시에 구성할 수 있습니다.

Google Cloud 콘솔의 BigQuery 메타데이터 선별 페이지에서 데이터 프로파일링 및 품질 탭으로 이동합니다.

데이터 프로파일링 및 품질로 이동
데이터 프로필 스캔 만들기를 클릭합니다.
여러 데이터 프로필 스캔 옵션을 선택합니다.
ID 프리픽스를 입력합니다. Dataplex Universal Catalog는 제공된 프리픽스와 고유한 서픽스를 사용하여 스캔 ID를 자동으로 생성합니다.
모든 데이터 프로필 스캔에 설명을 입력합니다.
데이터 세트 필드에서 찾아보기를 클릭합니다. 테이블을 선택할 데이터 세트를 선택합니다. 선택을 클릭합니다.
데이터 세트가 멀티 리전 데이터 세트이면 데이터 프로필 스캔을 만들 리전을 선택합니다.
스캔 일반 설정을 구성합니다.
1. 범위 필드에서 증분 또는 전체 데이터를 선택합니다.
  
  참고: 증분 데이터를 선택하면 DATE 또는 TIMESTAMP 유형의 열로 파티셔닝된 테이블만 선택할 수 있습니다.
2. 데이터 프로필 스캔에 샘플링을 적용하려면 샘플링 크기 목록에서 샘플링 비율을 선택합니다.
  
  소수점 이하 3자리까지 0.0%에서 100.0% 사이의 백분율 값을 선택합니다.
3. 선택사항: 소스 테이블의Google Cloud 콘솔에서 BigQuery 및 Dataplex Universal Catalog 페이지에 데이터 프로필 스캔 결과를 게시합니다. BigQuery 및 Dataplex 카탈로그에 결과 게시 체크박스를 선택합니다.
  
  소스 테이블의 BigQuery 페이지와 Dataplex Universal Catalog 페이지에 있는 데이터 프로필 탭에서 최신 스캔 결과를 볼 수 있습니다. 사용자가 게시된 스캔 결과에 액세스할 수 있게 하려면 이 문서의 데이터 프로필 스캔 결과에 대한 액세스 권한 부여 섹션을 참조하세요.
  
  참고: 결과를 게시하는 기존 스캔이 없는 테이블을 선택해야 합니다.
4. 일정 섹션에서 다음 옵션 중 하나를 선택합니다.
  - 반복: 시간별, 일별, 주별, 월별 또는 커스텀 일정으로 데이터 프로필 스캔을 실행합니다. 스캔 실행 빈도와 시간을 지정합니다. 커스텀을 선택하는 경우 크론 형식을 사용하여 일정을 지정합니다.
  - 주문형: 데이터 프로필 스캔을 주문형으로 실행합니다.
계속을 클릭합니다.
테이블 선택 필드에서 찾아보기를 클릭합니다. 스캔할 테이블을 하나 이상 선택한 후 선택을 클릭합니다.
계속을 클릭합니다.
선택사항: 스캔 결과를 BigQuery 표준 테이블로 내보냅니다. BigQuery 테이블로 스캔 결과 내보내기 섹션에서 다음을 수행합니다.
1. BigQuery 데이터 세트 선택 필드에서 찾아보기를 클릭합니다. 데이터 프로필 스캔 결과를 저장할 BigQuery 데이터 세트를 선택합니다.
2. BigQuery 테이블 필드에서 데이터 프로필 스캔 결과를 저장할 테이블을 지정합니다. 기존 테이블을 사용하는 경우 내보내기 테이블 스키마와 호환되는지 확인합니다. 지정된 테이블이 없으면 Dataplex Universal Catalog에서 테이블을 자동으로 만듭니다.
  
  Dataplex Universal Catalog는 모든 데이터 프로필 스캔에 같은 결과 테이블을 사용합니다.
선택사항: 라벨을 추가합니다. 라벨은 관련 객체를 함께 그룹화하거나 다른 Google Cloud 리소스와 그룹화할 수 있게 해주는 키-값 쌍입니다.
스캔을 만들려면 만들기를 클릭합니다.

일정을 주문형으로 설정한 경우 스캔 실행을 클릭하여 지금 스캔을 실행할 수도 있습니다.

데이터 프로필 스캔 실행

콘솔

Google Cloud 콘솔의 BigQuery 메타데이터 선별 페이지에서 데이터 프로파일링 및 품질 탭으로 이동합니다.

데이터 프로파일링 및 품질로 이동
실행할 데이터 프로필 스캔을 클릭합니다.
지금 실행을 클릭합니다.

gcloud

데이터 프로필 스캔을 실행하려면 gcloud dataplex datascans run 명령어를 사용합니다.

gcloud dataplex datascans run DATASCAN \
--location=LOCATION

다음 변수를 바꿉니다.

DATASCAN: 데이터 프로필 스캔의 이름입니다.
LOCATION: 데이터 프로필 스캔이 생성된 Google Cloud 리전입니다.

C#

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

using Google.Cloud.Dataplex.V1;

public sealed partial class GeneratedDataScanServiceClientSnippets
{
    /// <summary>Snippet for RunDataScan</summary>
    /// <remarks>
    /// This snippet has been automatically generated and should be regarded as a code template only.
    /// It will require modifications to work:
    /// - It may require correct/in-range values for request initialization.
    /// - It may require specifying regional endpoints when creating the service client as shown in
    ///   https://cloud.google.com/dotnet/docs/reference/help/client-configuration#endpoint.
    /// </remarks>
    public void RunDataScanRequestObject()
    {
        // Create client
        DataScanServiceClient dataScanServiceClient = DataScanServiceClient.Create();
        // Initialize request argument(s)
        RunDataScanRequest request = new RunDataScanRequest
        {
            DataScanName = DataScanName.FromProjectLocationDataScan("[PROJECT]", "[LOCATION]", "[DATASCAN]"),
        };
        // Make the request
        RunDataScanResponse response = dataScanServiceClient.RunDataScan(request);
    }
}

Go

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.


package main

import (
	"context"

	dataplex "cloud.google.com/go/dataplex/apiv1"
	dataplexpb "cloud.google.com/go/dataplex/apiv1/dataplexpb"
)

func main() {
	ctx := context.Background()
	// This snippet has been automatically generated and should be regarded as a code template only.
	// It will require modifications to work:
	// - It may require correct/in-range values for request initialization.
	// - It may require specifying regional endpoints when creating the service client as shown in:
	//   https://pkg.go.dev/cloud.google.com/go#hdr-Client_Options
	c, err := dataplex.NewDataScanClient(ctx)
	if err != nil {
		// TODO: Handle error.
	}
	defer c.Close()

	req := &dataplexpb.RunDataScanRequest{
		// TODO: Fill request struct fields.
		// See https://pkg.go.dev/cloud.google.com/go/dataplex/apiv1/dataplexpb#RunDataScanRequest.
	}
	resp, err := c.RunDataScan(ctx, req)
	if err != nil {
		// TODO: Handle error.
	}
	// TODO: Use resp.
	_ = resp
}

Java

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

import com.google.cloud.dataplex.v1.DataScanName;
import com.google.cloud.dataplex.v1.DataScanServiceClient;
import com.google.cloud.dataplex.v1.RunDataScanRequest;
import com.google.cloud.dataplex.v1.RunDataScanResponse;

public class SyncRunDataScan {

  public static void main(String[] args) throws Exception {
    syncRunDataScan();
  }

  public static void syncRunDataScan() throws Exception {
    // This snippet has been automatically generated and should be regarded as a code template only.
    // It will require modifications to work:
    // - It may require correct/in-range values for request initialization.
    // - It may require specifying regional endpoints when creating the service client as shown in
    // https://cloud.google.com/java/docs/setup#configure_endpoints_for_the_client_library
    try (DataScanServiceClient dataScanServiceClient = DataScanServiceClient.create()) {
      RunDataScanRequest request =
          RunDataScanRequest.newBuilder()
              .setName(DataScanName.of("[PROJECT]", "[LOCATION]", "[DATASCAN]").toString())
              .build();
      RunDataScanResponse response = dataScanServiceClient.runDataScan(request);
    }
  }
}

Python

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

# This snippet has been automatically generated and should be regarded as a
# code template only.
# It will require modifications to work:
# - It may require correct/in-range values for request initialization.
# - It may require specifying regional endpoints when creating the service
#   client as shown in:
#   https://googleapis.dev/python/google-api-core/latest/client_options.html
from google.cloud import dataplex_v1


def sample_run_data_scan():
    # Create a client
    client = dataplex_v1.DataScanServiceClient()

    # Initialize request argument(s)
    request = dataplex_v1.RunDataScanRequest(
        name="name_value",
    )

    # Make the request
    response = client.run_data_scan(request=request)

    # Handle the response
    print(response)

Ruby

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

require "google/cloud/dataplex/v1"

##
# Snippet for the run_data_scan call in the DataScanService service
#
# This snippet has been automatically generated and should be regarded as a code
# template only. It will require modifications to work:
# - It may require correct/in-range values for request initialization.
# - It may require specifying regional endpoints when creating the service
# client as shown in https://cloud.google.com/ruby/docs/reference.
#
# This is an auto-generated example demonstrating basic usage of
# Google::Cloud::Dataplex::V1::DataScanService::Client#run_data_scan.
#
def run_data_scan
  # Create a client object. The client can be reused for multiple calls.
  client = Google::Cloud::Dataplex::V1::DataScanService::Client.new

  # Create a request. To set request fields, pass in keyword arguments.
  request = Google::Cloud::Dataplex::V1::RunDataScanRequest.new

  # Call the run_data_scan method.
  result = client.run_data_scan request

  # The returned object is of type Google::Cloud::Dataplex::V1::RunDataScanResponse.
  p result
end

REST

데이터 프로필 스캔을 실행하려면 dataScans.run 메서드를 사용합니다.

데이터 프로필 스캔 결과 보기

콘솔

Google Cloud 콘솔의 BigQuery 메타데이터 선별 페이지에서 데이터 프로파일링 및 품질 탭으로 이동합니다.

데이터 프로파일링 및 품질로 이동
데이터 프로필 스캔 이름을 클릭합니다.
- 개요 섹션에는 스캔이 실행된 시기, 스캔된 테이블 레코드 수, 작업 상태를 포함한 최근 작업에 대한 정보가 표시됩니다.
- 데이터 프로필 스캔 구성 섹션에 스캔 세부정보가 표시됩니다.
스캔된 테이블의 열, 스캔에서 발견된 열에 대한 통계, 작업 로그와 같은 작업에 대한 자세한 정보를 확인하려면 작업 기록 탭을 클릭합니다. 그런 다음 작업 ID를 클릭합니다.

gcloud

데이터 프로필 스캔 작업 결과를 보려면 gcloud dataplex datascans jobs describe 명령어를 사용합니다.

gcloud dataplex datascans jobs describe JOB \
--location=LOCATION \
--datascan=DATASCAN \
--view=FULL

다음 변수를 바꿉니다.

JOB: 데이터 프로필 스캔 작업의 작업 ID입니다.
LOCATION: 데이터 프로필 스캔이 생성된 Google Cloud 리전입니다.
DATASCAN: 작업이 속한 데이터 프로필의 스캔 이름입니다.
--view=FULL: 스캔 작업 결과를 보려면 FULL을 지정합니다.

C#

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

using Google.Cloud.Dataplex.V1;

public sealed partial class GeneratedDataScanServiceClientSnippets
{
    /// <summary>Snippet for GetDataScan</summary>
    /// <remarks>
    /// This snippet has been automatically generated and should be regarded as a code template only.
    /// It will require modifications to work:
    /// - It may require correct/in-range values for request initialization.
    /// - It may require specifying regional endpoints when creating the service client as shown in
    ///   https://cloud.google.com/dotnet/docs/reference/help/client-configuration#endpoint.
    /// </remarks>
    public void GetDataScanRequestObject()
    {
        // Create client
        DataScanServiceClient dataScanServiceClient = DataScanServiceClient.Create();
        // Initialize request argument(s)
        GetDataScanRequest request = new GetDataScanRequest
        {
            DataScanName = DataScanName.FromProjectLocationDataScan("[PROJECT]", "[LOCATION]", "[DATASCAN]"),
            View = GetDataScanRequest.Types.DataScanView.Unspecified,
        };
        // Make the request
        DataScan response = dataScanServiceClient.GetDataScan(request);
    }
}

Go

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.


package main

import (
	"context"

	dataplex "cloud.google.com/go/dataplex/apiv1"
	dataplexpb "cloud.google.com/go/dataplex/apiv1/dataplexpb"
)

func main() {
	ctx := context.Background()
	// This snippet has been automatically generated and should be regarded as a code template only.
	// It will require modifications to work:
	// - It may require correct/in-range values for request initialization.
	// - It may require specifying regional endpoints when creating the service client as shown in:
	//   https://pkg.go.dev/cloud.google.com/go#hdr-Client_Options
	c, err := dataplex.NewDataScanClient(ctx)
	if err != nil {
		// TODO: Handle error.
	}
	defer c.Close()

	req := &dataplexpb.GetDataScanRequest{
		// TODO: Fill request struct fields.
		// See https://pkg.go.dev/cloud.google.com/go/dataplex/apiv1/dataplexpb#GetDataScanRequest.
	}
	resp, err := c.GetDataScan(ctx, req)
	if err != nil {
		// TODO: Handle error.
	}
	// TODO: Use resp.
	_ = resp
}

Java

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

import com.google.cloud.dataplex.v1.DataScan;
import com.google.cloud.dataplex.v1.DataScanName;
import com.google.cloud.dataplex.v1.DataScanServiceClient;
import com.google.cloud.dataplex.v1.GetDataScanRequest;

public class SyncGetDataScan {

  public static void main(String[] args) throws Exception {
    syncGetDataScan();
  }

  public static void syncGetDataScan() throws Exception {
    // This snippet has been automatically generated and should be regarded as a code template only.
    // It will require modifications to work:
    // - It may require correct/in-range values for request initialization.
    // - It may require specifying regional endpoints when creating the service client as shown in
    // https://cloud.google.com/java/docs/setup#configure_endpoints_for_the_client_library
    try (DataScanServiceClient dataScanServiceClient = DataScanServiceClient.create()) {
      GetDataScanRequest request =
          GetDataScanRequest.newBuilder()
              .setName(DataScanName.of("[PROJECT]", "[LOCATION]", "[DATASCAN]").toString())
              .build();
      DataScan response = dataScanServiceClient.getDataScan(request);
    }
  }
}

Python

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

# This snippet has been automatically generated and should be regarded as a
# code template only.
# It will require modifications to work:
# - It may require correct/in-range values for request initialization.
# - It may require specifying regional endpoints when creating the service
#   client as shown in:
#   https://googleapis.dev/python/google-api-core/latest/client_options.html
from google.cloud import dataplex_v1


def sample_get_data_scan():
    # Create a client
    client = dataplex_v1.DataScanServiceClient()

    # Initialize request argument(s)
    request = dataplex_v1.GetDataScanRequest(
        name="name_value",
    )

    # Make the request
    response = client.get_data_scan(request=request)

    # Handle the response
    print(response)

Ruby

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

require "google/cloud/dataplex/v1"

##
# Snippet for the get_data_scan call in the DataScanService service
#
# This snippet has been automatically generated and should be regarded as a code
# template only. It will require modifications to work:
# - It may require correct/in-range values for request initialization.
# - It may require specifying regional endpoints when creating the service
# client as shown in https://cloud.google.com/ruby/docs/reference.
#
# This is an auto-generated example demonstrating basic usage of
# Google::Cloud::Dataplex::V1::DataScanService::Client#get_data_scan.
#
def get_data_scan
  # Create a client object. The client can be reused for multiple calls.
  client = Google::Cloud::Dataplex::V1::DataScanService::Client.new

  # Create a request. To set request fields, pass in keyword arguments.
  request = Google::Cloud::Dataplex::V1::GetDataScanRequest.new

  # Call the get_data_scan method.
  result = client.get_data_scan request

  # The returned object is of type Google::Cloud::Dataplex::V1::DataScan.
  p result
end

REST

데이터 프로필 스캔 결과를 보려면 dataScans.get 메서드를 사용합니다.

게시된 결과 보기

데이터 프로필 스캔 결과가 Google Cloud 콘솔의 BigQuery 페이지와 Dataplex Universal Catalog 페이지에 게시된 경우 소스 테이블의 데이터 프로필 탭에서 최신 스캔 결과를 확인할 수 있습니다.

Google Cloud 콘솔에서 BigQuery 페이지로 이동합니다.

BigQuery로 이동
왼쪽 창에서 탐색기를 클릭합니다.

왼쪽 창이 표시되지 않으면 왼쪽 창 펼치기를 클릭하여 창을 엽니다.
탐색기 창에서 데이터 세트를 클릭한 다음 데이터 세트를 클릭합니다.
개요 > 테이블을 클릭한 다음 데이터 프로필 스캔 결과를 보려는 테이블을 선택합니다.
데이터 프로필 탭을 클릭합니다.

최근에 게시된 결과가 표시됩니다.

참고: 스캔을 처음 실행하는 경우에는 게시된 결과가 제공되지 않을 수 있습니다.

최근 데이터 프로필 스캔 작업 보기

콘솔

Google Cloud 콘솔의 BigQuery 메타데이터 선별 페이지에서 데이터 프로파일링 및 품질 탭으로 이동합니다.

데이터 프로파일링 및 품질로 이동
데이터 프로필 스캔 이름을 클릭합니다.
최신 작업 결과 탭을 클릭합니다.

성공적으로 완료된 실행이 최소 하나 이상 있으면 최신 작업 결과 탭에서 최근 작업에 대한 정보를 제공합니다. 여기에는 스캔된 테이블의 열과 스캔에서 발견된 열에 대한 통계가 나열됩니다.

gcloud

가장 최근에 성공한 데이터 프로필 스캔을 보려면 gcloud dataplex datascans describe 명령어를 사용합니다.

gcloud dataplex datascans describe DATASCAN \
--location=LOCATION \
--view=FULL

다음 변수를 바꿉니다.

DATASCAN: 가장 최근 작업을 확인할 데이터 프로필 스캔의 이름입니다.
LOCATION: 데이터 프로필 스캔이 생성된 Google Cloud 리전입니다.
--view=FULL: 스캔 작업 결과를 보려면 FULL을 지정합니다.

REST

최근 스캔 작업을 보려면 dataScans.get 메서드를 사용합니다.

이전 스캔 결과 보기

Dataplex Universal Catalog는 지난 300개 작업 또는 지난 1년 동안의 데이터 프로필 스캔 기록 중 먼저 발생하는 작업을 저장합니다.

콘솔

Google Cloud 콘솔의 BigQuery 메타데이터 선별 페이지에서 데이터 프로파일링 및 품질 탭으로 이동합니다.

데이터 프로파일링 및 품질로 이동
데이터 프로필 스캔 이름을 클릭합니다.
작업 기록 탭을 클릭합니다.

작업 기록 탭에서는 각 작업에서 스캔된 레코드 수, 작업 상태, 작업이 실행된 시간과 같은 이전 작업에 대한 정보를 제공합니다.
작업에 대한 자세한 정보를 보려면 작업 ID 열에서 아무 작업이나 클릭합니다.

gcloud

이전 데이터 프로필 스캔 작업을 보려면 gcloud dataplex datascans jobs list 명령어를 사용합니다.

gcloud dataplex datascans jobs list \
--location=LOCATION \
--datascan=DATASCAN

다음 변수를 바꿉니다.

LOCATION: 데이터 프로필 스캔이 생성된 Google Cloud 리전입니다.
DATASCAN: 작업을 볼 데이터 프로필 스캔의 이름

C#

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

using Google.Api.Gax;
using Google.Cloud.Dataplex.V1;
using System;

public sealed partial class GeneratedDataScanServiceClientSnippets
{
    /// <summary>Snippet for ListDataScanJobs</summary>
    /// <remarks>
    /// This snippet has been automatically generated and should be regarded as a code template only.
    /// It will require modifications to work:
    /// - It may require correct/in-range values for request initialization.
    /// - It may require specifying regional endpoints when creating the service client as shown in
    ///   https://cloud.google.com/dotnet/docs/reference/help/client-configuration#endpoint.
    /// </remarks>
    public void ListDataScanJobsRequestObject()
    {
        // Create client
        DataScanServiceClient dataScanServiceClient = DataScanServiceClient.Create();
        // Initialize request argument(s)
        ListDataScanJobsRequest request = new ListDataScanJobsRequest
        {
            ParentAsDataScanName = DataScanName.FromProjectLocationDataScan("[PROJECT]", "[LOCATION]", "[DATASCAN]"),
            Filter = "",
        };
        // Make the request
        PagedEnumerable<ListDataScanJobsResponse, DataScanJob> response = dataScanServiceClient.ListDataScanJobs(request);

        // Iterate over all response items, lazily performing RPCs as required
        foreach (DataScanJob item in response)
        {
            // Do something with each item
            Console.WriteLine(item);
        }

        // Or iterate over pages (of server-defined size), performing one RPC per page
        foreach (ListDataScanJobsResponse page in response.AsRawResponses())
        {
            // Do something with each page of items
            Console.WriteLine("A page of results:");
            foreach (DataScanJob item in page)
            {
                // Do something with each item
                Console.WriteLine(item);
            }
        }

        // Or retrieve a single page of known size (unless it's the final page), performing as many RPCs as required
        int pageSize = 10;
        Page<DataScanJob> singlePage = response.ReadPage(pageSize);
        // Do something with the page of items
        Console.WriteLine($"A page of {pageSize} results (unless it's the final page):");
        foreach (DataScanJob item in singlePage)
        {
            // Do something with each item
            Console.WriteLine(item);
        }
        // Store the pageToken, for when the next page is required.
        string nextPageToken = singlePage.NextPageToken;
    }
}

Go

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.


package main

import (
	"context"

	dataplex "cloud.google.com/go/dataplex/apiv1"
	dataplexpb "cloud.google.com/go/dataplex/apiv1/dataplexpb"
	"google.golang.org/api/iterator"
)

func main() {
	ctx := context.Background()
	// This snippet has been automatically generated and should be regarded as a code template only.
	// It will require modifications to work:
	// - It may require correct/in-range values for request initialization.
	// - It may require specifying regional endpoints when creating the service client as shown in:
	//   https://pkg.go.dev/cloud.google.com/go#hdr-Client_Options
	c, err := dataplex.NewDataScanClient(ctx)
	if err != nil {
		// TODO: Handle error.
	}
	defer c.Close()

	req := &dataplexpb.ListDataScanJobsRequest{
		// TODO: Fill request struct fields.
		// See https://pkg.go.dev/cloud.google.com/go/dataplex/apiv1/dataplexpb#ListDataScanJobsRequest.
	}
	it := c.ListDataScanJobs(ctx, req)
	for {
		resp, err := it.Next()
		if err == iterator.Done {
			break
		}
		if err != nil {
			// TODO: Handle error.
		}
		// TODO: Use resp.
		_ = resp

		// If you need to access the underlying RPC response,
		// you can do so by casting the `Response` as below.
		// Otherwise, remove this line. Only populated after
		// first call to Next(). Not safe for concurrent access.
		_ = it.Response.(*dataplexpb.ListDataScanJobsResponse)
	}
}

Java

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

import com.google.cloud.dataplex.v1.DataScanJob;
import com.google.cloud.dataplex.v1.DataScanName;
import com.google.cloud.dataplex.v1.DataScanServiceClient;
import com.google.cloud.dataplex.v1.ListDataScanJobsRequest;

public class SyncListDataScanJobs {

  public static void main(String[] args) throws Exception {
    syncListDataScanJobs();
  }

  public static void syncListDataScanJobs() throws Exception {
    // This snippet has been automatically generated and should be regarded as a code template only.
    // It will require modifications to work:
    // - It may require correct/in-range values for request initialization.
    // - It may require specifying regional endpoints when creating the service client as shown in
    // https://cloud.google.com/java/docs/setup#configure_endpoints_for_the_client_library
    try (DataScanServiceClient dataScanServiceClient = DataScanServiceClient.create()) {
      ListDataScanJobsRequest request =
          ListDataScanJobsRequest.newBuilder()
              .setParent(DataScanName.of("[PROJECT]", "[LOCATION]", "[DATASCAN]").toString())
              .setPageSize(883849137)
              .setPageToken("pageToken873572522")
              .setFilter("filter-1274492040")
              .build();
      for (DataScanJob element : dataScanServiceClient.listDataScanJobs(request).iterateAll()) {
        // doThingsWith(element);
      }
    }
  }
}

Python

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

# This snippet has been automatically generated and should be regarded as a
# code template only.
# It will require modifications to work:
# - It may require correct/in-range values for request initialization.
# - It may require specifying regional endpoints when creating the service
#   client as shown in:
#   https://googleapis.dev/python/google-api-core/latest/client_options.html
from google.cloud import dataplex_v1


def sample_list_data_scan_jobs():
    # Create a client
    client = dataplex_v1.DataScanServiceClient()

    # Initialize request argument(s)
    request = dataplex_v1.ListDataScanJobsRequest(
        parent="parent_value",
    )

    # Make the request
    page_result = client.list_data_scan_jobs(request=request)

    # Handle the response
    for response in page_result:
        print(response)

Ruby

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

require "google/cloud/dataplex/v1"

##
# Snippet for the list_data_scan_jobs call in the DataScanService service
#
# This snippet has been automatically generated and should be regarded as a code
# template only. It will require modifications to work:
# - It may require correct/in-range values for request initialization.
# - It may require specifying regional endpoints when creating the service
# client as shown in https://cloud.google.com/ruby/docs/reference.
#
# This is an auto-generated example demonstrating basic usage of
# Google::Cloud::Dataplex::V1::DataScanService::Client#list_data_scan_jobs.
#
def list_data_scan_jobs
  # Create a client object. The client can be reused for multiple calls.
  client = Google::Cloud::Dataplex::V1::DataScanService::Client.new

  # Create a request. To set request fields, pass in keyword arguments.
  request = Google::Cloud::Dataplex::V1::ListDataScanJobsRequest.new

  # Call the list_data_scan_jobs method.
  result = client.list_data_scan_jobs request

  # The returned object is of type Gapic::PagedEnumerable. You can iterate
  # over elements, and API calls will be issued to fetch pages as needed.
  result.each do |item|
    # Each element is of type ::Google::Cloud::Dataplex::V1::DataScanJob.
    p item
  end
end

REST

이전 데이터 프로필 스캔 작업을 보려면 dataScans.jobs.list 메서드를 사용합니다.

테이블의 데이터 프로필 스캔 보기

특정 테이블에 적용되는 데이터 프로필 스캔을 보려면 다음 단계를 따르세요.

Google Cloud 콘솔의 BigQuery 메타데이터 선별 페이지에서 데이터 프로파일링 및 품질 탭으로 이동합니다.

데이터 프로파일링 및 품질로 이동
테이블 이름과 스캔 유형으로 목록을 필터링합니다.

데이터 프로필 스캔 결과에 대한 액세스 권한 부여

조직 내 사용자가 스캔 결과를 볼 수 있게 하려면 다음을 수행합니다.

Google Cloud 콘솔의 BigQuery 메타데이터 선별 페이지에서 데이터 프로파일링 및 품질 탭으로 이동합니다.

데이터 프로파일링 및 품질로 이동
결과를 공유할 데이터 품질 스캔을 클릭합니다.
권한 탭을 클릭합니다.
다음 단계를 따르세요.
- 주 구성원에게 액세스 권한을 부여하려면 액세스 권한 부여를 클릭합니다. 연결된 주 구성원에게 Dataplex DataScan DataViewer 역할을 부여합니다.
- 주 구성원의 액세스 권한을 삭제하려면 Dataplex DataScan DataViewer 역할을 삭제할 주 구성원을 선택합니다. 액세스 권한 삭제를 클릭한 후 메시지가 표시되면 확인합니다.

특정 테이블의 데이터 프로필 스캔 관리

이 문서의 단계에서는Google Cloud 콘솔의 BigQuery 메타데이터 선별> 데이터 프로파일링 및 품질 페이지를 사용하여 프로젝트 전반에서 데이터 프로필 스캔을 관리하는 방법을 보여줍니다.

특정 테이블을 사용할 때 데이터 프로필 스캔을 만들고 관리할 수도 있습니다. Google Cloud 콘솔에서 해당 테이블에 대한 BigQuery 페이지에 있는 데이터 프로필 탭을 사용합니다. 다음 단계를 따르세요.

Google Cloud 콘솔에서 BigQuery 페이지로 이동합니다.

BigQuery로 이동

탐색기 창 (왼쪽 창)에서 데이터 세트를 클릭한 다음 데이터 세트를 클릭합니다. 이제 개요 > 테이블을 클릭하고 데이터 프로필 스캔 결과를 확인할 테이블을 선택합니다.
데이터 프로필 탭을 클릭합니다.
결과가 게시된 데이터 프로필 스캔이 테이블에 있는지 여부에 따라 다음과 같은 방법으로 테이블의 데이터 프로필 스캔을 사용할 수 있습니다.
- 데이터 프로필 스캔 결과가 게시됨: 게시된 최신 스캔 결과가 페이지에 표시됩니다.
  
  이 테이블의 데이터 프로필 스캔을 관리하려면 데이터 프로필 스캔을 클릭한 후 다음 옵션 중에서 선택합니다.
  - 새 스캔 만들기: 새 데이터 프로필 스캔을 만듭니다. 자세한 내용은 이 문서의 데이터 프로필 스캔 만들기 섹션을 참조하세요. 테이블의 세부정보 페이지에서 스캔을 만들면 테이블이 미리 선택됩니다.
  - 지금 실행: 스캔을 실행합니다.
  - 스캔 구성 수정: 표시 이름, 샘플링 크기, 필터, 일정을 포함한 설정을 수정합니다.
  - 스캔 권한 관리: 스캔 결과에 액세스할 수 있는 사용자를 관리합니다. 자세한 내용은 이 문서의 데이터 프로필 스캔 결과에 대한 액세스 권한 부여 섹션을 참조하세요.
  - 이전 결과 보기: 이전 데이터 프로필 스캔 작업에 대한 세부정보를 봅니다. 자세한 내용은 이 문서의 데이터 프로필 스캔 결과 보기 및 이전 스캔 결과 보기 섹션을 참조하세요.
  - 모든 스캔 보기: 이 테이블에 적용되는 데이터 프로필 스캔 목록을 봅니다.
- 데이터 프로필 스캔 결과가 게시되지 않음: 빠른 데이터 프로필 옆에 있는 메뉴를 클릭한 후 다음 옵션 중에서 선택합니다.
  - 데이터 프로파일링 맞춤설정: 새 데이터 프로필 스캔을 만듭니다. 자세한 내용은 이 문서의 데이터 프로필 스캔 만들기 섹션을 참조하세요. 테이블의 세부정보 페이지에서 스캔을 만들면 테이블이 미리 선택됩니다.
  - 이전 프로필 보기: 이 테이블에 적용되는 데이터 프로필 스캔 목록을 봅니다.

데이터 프로필 스캔 업데이트

콘솔

Google Cloud 콘솔의 BigQuery 메타데이터 선별 페이지에서 데이터 프로파일링 및 품질 탭으로 이동합니다.

데이터 프로파일링 및 품질로 이동
데이터 프로필 스캔 이름을 클릭합니다.
수정을 클릭한 후 값을 수정합니다.
저장을 클릭합니다.

gcloud

데이터 프로필 스캔을 업데이트하려면 gcloud dataplex datascans update data-profile 명령어를 사용합니다.

gcloud dataplex datascans update data-profile DATASCAN \
--location=LOCATION \
--description=DESCRIPTION

다음 변수를 바꿉니다.

DATASCAN: 업데이트할 데이터 프로필 스캔의 이름입니다.
LOCATION: 데이터 프로필 스캔이 생성된 Google Cloud 리전입니다.
DESCRIPTION: 데이터 프로필 스캔에 대한 새로운 설명입니다.

C#

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

using Google.Cloud.Dataplex.V1;
using Google.LongRunning;
using Google.Protobuf.WellKnownTypes;

public sealed partial class GeneratedDataScanServiceClientSnippets
{
    /// <summary>Snippet for UpdateDataScan</summary>
    /// <remarks>
    /// This snippet has been automatically generated and should be regarded as a code template only.
    /// It will require modifications to work:
    /// - It may require correct/in-range values for request initialization.
    /// - It may require specifying regional endpoints when creating the service client as shown in
    ///   https://cloud.google.com/dotnet/docs/reference/help/client-configuration#endpoint.
    /// </remarks>
    public void UpdateDataScanRequestObject()
    {
        // Create client
        DataScanServiceClient dataScanServiceClient = DataScanServiceClient.Create();
        // Initialize request argument(s)
        UpdateDataScanRequest request = new UpdateDataScanRequest
        {
            DataScan = new DataScan(),
            UpdateMask = new FieldMask(),
            ValidateOnly = false,
        };
        // Make the request
        Operation<DataScan, OperationMetadata> response = dataScanServiceClient.UpdateDataScan(request);

        // Poll until the returned long-running operation is complete
        Operation<DataScan, OperationMetadata> completedResponse = response.PollUntilCompleted();
        // Retrieve the operation result
        DataScan result = completedResponse.Result;

        // Or get the name of the operation
        string operationName = response.Name;
        // This name can be stored, then the long-running operation retrieved later by name
        Operation<DataScan, OperationMetadata> retrievedResponse = dataScanServiceClient.PollOnceUpdateDataScan(operationName);
        // Check if the retrieved long-running operation has completed
        if (retrievedResponse.IsCompleted)
        {
            // If it has completed, then access the result
            DataScan retrievedResult = retrievedResponse.Result;
        }
    }
}

Go

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.


package main

import (
	"context"

	dataplex "cloud.google.com/go/dataplex/apiv1"
	dataplexpb "cloud.google.com/go/dataplex/apiv1/dataplexpb"
)

func main() {
	ctx := context.Background()
	// This snippet has been automatically generated and should be regarded as a code template only.
	// It will require modifications to work:
	// - It may require correct/in-range values for request initialization.
	// - It may require specifying regional endpoints when creating the service client as shown in:
	//   https://pkg.go.dev/cloud.google.com/go#hdr-Client_Options
	c, err := dataplex.NewDataScanClient(ctx)
	if err != nil {
		// TODO: Handle error.
	}
	defer c.Close()

	req := &dataplexpb.UpdateDataScanRequest{
		// TODO: Fill request struct fields.
		// See https://pkg.go.dev/cloud.google.com/go/dataplex/apiv1/dataplexpb#UpdateDataScanRequest.
	}
	op, err := c.UpdateDataScan(ctx, req)
	if err != nil {
		// TODO: Handle error.
	}

	resp, err := op.Wait(ctx)
	if err != nil {
		// TODO: Handle error.
	}
	// TODO: Use resp.
	_ = resp
}

Java

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

import com.google.cloud.dataplex.v1.DataScan;
import com.google.cloud.dataplex.v1.DataScanServiceClient;
import com.google.cloud.dataplex.v1.UpdateDataScanRequest;
import com.google.protobuf.FieldMask;

public class SyncUpdateDataScan {

  public static void main(String[] args) throws Exception {
    syncUpdateDataScan();
  }

  public static void syncUpdateDataScan() throws Exception {
    // This snippet has been automatically generated and should be regarded as a code template only.
    // It will require modifications to work:
    // - It may require correct/in-range values for request initialization.
    // - It may require specifying regional endpoints when creating the service client as shown in
    // https://cloud.google.com/java/docs/setup#configure_endpoints_for_the_client_library
    try (DataScanServiceClient dataScanServiceClient = DataScanServiceClient.create()) {
      UpdateDataScanRequest request =
          UpdateDataScanRequest.newBuilder()
              .setDataScan(DataScan.newBuilder().build())
              .setUpdateMask(FieldMask.newBuilder().build())
              .setValidateOnly(true)
              .build();
      DataScan response = dataScanServiceClient.updateDataScanAsync(request).get();
    }
  }
}

Python

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

# This snippet has been automatically generated and should be regarded as a
# code template only.
# It will require modifications to work:
# - It may require correct/in-range values for request initialization.
# - It may require specifying regional endpoints when creating the service
#   client as shown in:
#   https://googleapis.dev/python/google-api-core/latest/client_options.html
from google.cloud import dataplex_v1


def sample_update_data_scan():
    # Create a client
    client = dataplex_v1.DataScanServiceClient()

    # Initialize request argument(s)
    data_scan = dataplex_v1.DataScan()
    data_scan.data_quality_spec.rules.dimension = "dimension_value"
    data_scan.data.entity = "entity_value"

    request = dataplex_v1.UpdateDataScanRequest(
        data_scan=data_scan,
    )

    # Make the request
    operation = client.update_data_scan(request=request)

    print("Waiting for operation to complete...")

    response = operation.result()

    # Handle the response
    print(response)

Ruby

Dataplex Universal Catalog에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

require "google/cloud/dataplex/v1"

##
# Snippet for the update_data_scan call in the DataScanService service
#
# This snippet has been automatically generated and should be regarded as a code
# template only. It will require modifications to work:
# - It may require correct/in-range values for request initialization.
# - It may require specifying regional endpoints when creating the service
# client as shown in https://cloud.google.com/ruby/docs/reference.
#
# This is an auto-generated example demonstrating basic usage of
# Google::Cloud::Dataplex::V1::DataScanService::Client#update_data_scan.
#
def update_data_scan
  # Create a client object. The client can be reused for multiple calls.
  client = Google::Cloud::Dataplex::V1::DataScanService::Client.new

  # Create a request. To set request fields, pass in keyword arguments.
  request = Google::Cloud::Dataplex::V1::UpdateDataScanRequest.new

  # Call the update_data_scan method.
  result = client.update_data_scan request

  # The returned object is of type Gapic::Operation. You can use it to
  # check the status of an operation, cancel it, or wait for results.
  # Here is how to wait for a response.
  result.wait_until_done! timeout: 60
  if result.response?
    p result.response
  else
    puts "No response received."
  end
end

REST

데이터 프로필 스캔을 수정하려면 dataScans.patch 메서드를 사용합니다.

데이터 프로필 스캔 삭제

콘솔

Google Cloud 콘솔의 BigQuery 메타데이터 선별 페이지에서 데이터 프로파일링 및 품질 탭으로 이동합니다.

데이터 프로파일링 및 품질로 이동
삭제하려는 스캔을 클릭합니다.
삭제를 클릭한 후 메시지가 표시되면 확인합니다.

gcloud

데이터 프로필 스캔을 삭제하려면 gcloud dataplex datascans delete 명령어를 사용합니다.

gcloud dataplex datascans delete DATASCAN \
--location=LOCATION --async

다음 변수를 바꿉니다.

DATASCAN: 삭제할 데이터 프로필 스캔의 이름입니다.
LOCATION: 데이터 프로필 스캔이 생성된 Google Cloud 리전입니다.

REST

데이터 프로필 스캔을 삭제하려면 dataScans.delete 메서드를 사용합니다.

다음 단계

데이터 인사이트를 생성하여 데이터를 탐색하는 방법 알아보기
BigQuery의 데이터 거버넌스 자세히 알아보기
데이터에서 데이터 품질 문제를 스캔하는 방법을 알아보세요.
테이블 탐색기를 사용하여 테이블 데이터를 검사하고 쿼리를 만드는 방법을 알아봅니다.