TRANSFORM 절을 사용하여 특성 추출 수행

이 튜토리얼은 모델을 생성하고 훈련하는 동시에 특성 추출을 수행하기 위해 CREATE MODEL 문의 TRANSFORM 절을 사용하는 방법을 설명합니다. TRANSFORM 절을 사용하여 모델 학습에 사용하는 입력 데이터를 변환하는 하나 이상의 전처리 함수를 지정할 수 있습니다. 모델에 적용하는 전처리는 ML.EVALUATE 및 ML.PREDICT 함수와 함께 모델을 사용할 때 자동으로 적용됩니다.

이 튜토리얼에서는 공개 bigquery-public-data.ml_datasets.penguin 데이터 세트를 사용합니다.

데이터 세트 만들기

ML 모델을 저장할 BigQuery 데이터 세트를 만듭니다.

콘솔

1. Google Cloud 콘솔에서 BigQuery 페이지로 이동합니다.

   BigQuery 페이지로 이동

2. 탐색기 창에서 프로젝트 이름을 클릭합니다.

3. 작업 보기 > 데이터 세트 만들기를 클릭합니다.

4. 데이터 세트 만들기 페이지에서 다음을 수행합니다.

   • 데이터 세트 ID에 bqml_tutorial를 입력합니다.

   • 위치 유형에 대해 멀티 리전을 선택한 다음 US(미국 내 여러 리전)를 선택합니다.

   • 나머지 기본 설정은 그대로 두고 데이터 세트 만들기를 클릭합니다.

bq

새 데이터 세트를 만들려면 --location 플래그와 함께 bq mk 명령어를 실행합니다. 사용할 수 있는 전체 파라미터 목록은 bq mk --dataset 명령어 참조를 확인하세요.

1. 데이터 위치가 US로 설정되고 설명이 BigQuery ML tutorial dataset인 bqml_tutorial 데이터 세트를 만듭니다.

   bq --location=US mk -d \
    --description "BigQuery ML tutorial dataset." \
    bqml_tutorial

   --dataset 플래그를 사용하는 대신 이 명령어는 -d 단축키를 사용합니다. -d와 --dataset를 생략하면 이 명령어는 기본적으로 데이터 세트를 만듭니다.

2. 데이터 세트가 생성되었는지 확인합니다.

   bq ls

API

데이터 세트 리소스가 정의된 datasets.insert 메서드를 호출합니다.

{
  "datasetReference": {
     "datasetId": "bqml_tutorial"
  }
}

BigQuery DataFrames

이 샘플을 사용해 보기 전에 BigQuery DataFrames를 사용하여 BigQuery 빠른 시작의 BigQuery DataFrames 설정 안내를 따르세요. 자세한 내용은 BigQuery DataFrames 참고 문서를 확인하세요.

BigQuery에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 ADC 설정을 참조하세요.

import google.cloud.bigquery

bqclient = google.cloud.bigquery.Client()
bqclient.create_dataset("bqml_tutorial", exists_ok=True)

모델 만들기

펭귄 체중을 예측하는 선형 회귀 모델을 만들고 penguins 샘플 테이블로 학습시킵니다.

OPTIONS(model_type='linear_reg', input_label_cols=['body_mass_g']) 절은 선형 회귀 모델을 만든다는 것을 나타냅니다. 선형 회귀 모델은 입력 특성의 선형 조합에서 연속 값을 생성합니다. body_mass_g 열은 입력 라벨 열입니다. 선형 회귀 모델에서 라벨 열은 실수치여야 합니다 즉, 열 값이 실수여야 합니다.

이 쿼리의 TRANSFORM 절은 SELECT 문에서 다음 열을 사용합니다.

• body_mass_g: 변경 없이 학습에 사용됩니다.
• culmen_depth_mm: 변경 없이 학습에 사용됩니다.
• flipper_length_mm: 변경 없이 학습에 사용됩니다.
• bucketized_culmen_length: ML.QUANTILE_BUCKETIZE() 분석 함수를 사용하여 분위수를 기반으로 culmen_length_mm를 버킷화하여 culmen_length_mm에서 생성됩니다.
• culmen_length_mm: 원래 culmen_length_mm 값이 STRING 값으로 전송되어 학습에 사용됩니다.
• species_sex: ML.FEATURE_CROSS 함수를 사용하여 species과 sex를 교차해 생성됩니다.

TRANSFORM 절에서 학습 테이블의 모든 열을 사용할 필요는 없습니다.

WHERE 절인 WHERE body_mass_g IS NOT NULL AND RAND() < 0.2는 펭귄의 체중이 NULL인 행을 제외하고 RAND 함수를 사용하여 데이터의 무작위 샘플을 추출합니다.

모델을 만들려면 다음 단계를 따르세요.

1. Google Cloud 콘솔에서 BigQuery 페이지로 이동합니다.

   BigQuery로 이동

2. 쿼리 편집기에 다음 쿼리를 붙여넣고 실행을 클릭합니다.

   CREATE OR REPLACE MODEL `bqml_tutorial.penguin_transform`
     TRANSFORM(
       body_mass_g,
       culmen_depth_mm,
       flipper_length_mm,
       ML.QUANTILE_BUCKETIZE(culmen_length_mm, 10) OVER () AS bucketized_culmen_length,
       CAST(culmen_length_mm AS string) AS culmen_length_mm,
       ML.FEATURE_CROSS(STRUCT(species, sex)) AS species_sex)
     OPTIONS (
       model_type = 'linear_reg',
       input_label_cols = ['body_mass_g'])
   AS
   SELECT
     *
   FROM
     `bigquery-public-data.ml_datasets.penguins`
   WHERE
     body_mass_g IS NOT NULL
     AND RAND() < 0.2;

   쿼리를 완료하는 데 약 15분이 소요되며 이후에는 penguin_transform 모델이 탐색기 창에 표시됩니다. 이 쿼리에서는 CREATE MODEL 문을 사용하여 모델을 만들므로 쿼리 결과가 표시되지 않습니다.

모델 평가

ML.EVALUATE 함수를 사용하여 모델의 성능을 평가합니다. ML.EVALUATE 함수는 모델에서 반환한 예측 펭귄 체중을 학습 데이터의 실제 펭귄 체중과 비교하여 평가합니다.

이 쿼리의 중첩된 SELECT 문과 FROM 절은 CREATE MODEL 쿼리와 동일합니다. 모델을 만들 때 TRANSFORM 절을 사용했으므로 ML.EVALUATE 함수에서 열과 변환을 다시 지정할 필요가 없습니다. 함수는 모델에서 자동으로 검색합니다.

모델을 평가하려면 다음 단계를 따르세요.

1. Google Cloud 콘솔에서 BigQuery 페이지로 이동합니다.

   BigQuery로 이동

2. 쿼리 편집기에 다음 쿼리를 붙여넣고 실행을 클릭합니다.

   SELECT
     *
   FROM
     ML.EVALUATE(
       MODEL `bqml_tutorial.penguin_transform`,
       (
         SELECT
           *
         FROM
           `bigquery-public-data.ml_datasets.penguins`
         WHERE
           body_mass_g IS NOT NULL
       ));

   결과는 다음과 비슷하게 표시됩니다.

   +---------------------+--------------------+------------------------+-----------------------+--------------------+--------------------+
   | mean_absolute_error | mean_squared_error | mean_squared_log_error | median_absolute_error |      r2_score      | explained_variance |
   +---------------------+--------------------+------------------------+-----------------------+--------------------+--------------------+
   |   64.21134350607677 | 13016.433317859564 |   7.140935762696211E-4 |     15.31788461553515 | 0.9813042531507734 | 0.9813186268757634 |
   +---------------------+--------------------+------------------------+-----------------------+--------------------+--------------------+
   

   평가 결과에서 중요 측정항목은 R² 점수입니다. R² 점수는 선형 회귀 예측이 실제 데이터에 가까운지 알 수 있는 통계 척도입니다. 0 값은 모델이 평균 주위 응답 데이터의 변동성을 전혀 설명하지 못한다는 것을 나타냅니다. 1 값은 모델이 평균 주위 응답 데이터의 변동성을 모두 설명한다는 것을 나타냅니다.

   ML.EVALUATE 함수 출력에 관한 자세한 내용은 출력을 참고하세요.

   또한 입력 데이터를 제공하지 않고 ML.EVALUATE를 호출할 수도 있습니다. 그러면 학습 중에 계산된 평가 측정항목을 사용합니다.

모델을 사용하여 펭귄 체중 예측

ML.PREDICT 함수와 함께 모델을 사용하여 수컷 펭귄의 무게를 예측합니다.

ML.PREDICT 함수는 예측된 값(이 경우 predicted_body_mass_g)을 predicted_label_column_name 열에 출력합니다.

ML.PREDICT 함수를 사용할 때는 모델 학습에 사용된 모든 열을 전달하지 않아도 됩니다. TRANSFORM 절에서 사용한 열만 필요합니다. ML.EVALUATE와 마찬가지로 ML.PREDICT 함수는 모델에서 TRANSFORM 열과 변환을 자동으로 검색합니다.

모델에서 예측을 가져오려면 다음 단계를 따르세요.

1. Google Cloud 콘솔에서 BigQuery 페이지로 이동합니다.

   BigQuery로 이동

2. 쿼리 편집기에 다음 쿼리를 붙여넣고 실행을 클릭합니다.

   SELECT
     predicted_body_mass_g
   FROM
     ML.PREDICT(
       MODEL `bqml_tutorial.penguin_transform`,
       (
         SELECT
           *
         FROM
           `bigquery-public-data.ml_datasets.penguins`
         WHERE
           sex = 'MALE'
       ));

   결과는 다음과 비슷하게 표시됩니다.

   +-----------------------+
   | predicted_body_mass_g |
   +-----------------------+
   |    2810.2868541725757 |
   +-----------------------+
   |    3813.6574220842676 |
   +-----------------------+
   |     4098.844698262214 |
   +-----------------------+
   |     4256.587135004173 |
   +-----------------------+
   |     3008.393497302691 |
   +-----------------------+
   |     ...               |
   +-----------------------+