Eseguire il feature engineering con la clausola TRANSFORM

Questo tutorial ti insegna a utilizzare la TRANSFORM clausola dello CREATE MODEL statement per eseguire l'feature engineering contemporaneamente alla creazione e all'addestramento di un modello. Utilizzando la clausola TRANSFORM, puoi specificare una o più funzioni di pre-elaborazione per trasformare i dati di input utilizzati per addestrare il modello. La pre-elaborazione applicata al modello viene applicata automaticamente quando utilizzi il modello con le ML.EVALUATE e ML.PREDICT funzioni.

Questo tutorial utilizza il set di dati pubblico bigquery-public-data.ml_datasets.penguin dataset.

Obiettivi

Questo tutorial ti guida nel completamento delle seguenti attività:

• Creazione di un modello di regressione lineare per prevedere il tipo di chiamata di servizio utilizzando l' CREATE MODEListruzione. All'interno dell'istruzione CREATE MODEL, utilizza le funzioni ML.QUANTILE_BUCKETIZE e ML.FEATURE_CROSS per pre-elaborare i dati.
• Valutazione del modello utilizzando la ML.EVALUATE funzione.
• Ottenimento delle previsioni dal modello utilizzando la ML.PREDICT funzione.

Costi

Questo tutorial utilizza componenti fatturabili di Google Cloud, tra cui:

• BigQuery
• BigQuery ML

Per saperne di più sui costi di BigQuery, consulta la pagina dei prezzi di BigQuery.

Prima di iniziare

Accedi al tuo Google Cloud account. Se non conosci Google Cloud, crea un account per valutare le prestazioni dei nostri prodotti in scenari reali. I nuovi clienti ricevono anche 300 $di crediti senza costi per l'esecuzione, il test e il deployment dei workload.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

1. BigQuery è abilitato automaticamente nei nuovi progetti. Per attivare BigQuery in un progetto preesistente, vai a

   Abilita l'API BigQuery.

   Ruoli richiesti per abilitare le API

   Per abilitare le API, devi disporre del ruolo IAM Amministratore utilizzo servizi (roles/serviceusage.serviceUsageAdmin), che contiene l'autorizzazione serviceusage.services.enable. Scopri come concedere i ruoli.

   Abilitare l'API

Crea un set di dati

Crea un set di dati BigQuery per archiviare il modello di ML.

Console

1. Nella Google Cloud console, vai alla pagina BigQuery.

   Vai alla pagina BigQuery

2. Nel riquadro Explorer, fai clic sul nome del progetto.

3. Fai clic su Visualizza azioni > Crea set di dati

4. Nella pagina Crea set di dati, segui questi passaggi:

   • In ID set di dati, inserisci bqml_tutorial.

   • Per Tipo di località, seleziona Multi-regione e poi seleziona Stati Uniti.

   • Lascia invariate le restanti impostazioni predefinite e fai clic su Crea set di dati.

bq

Per creare un nuovo set di dati, utilizza il bq mk --dataset comando.

1. Crea un set di dati denominato bqml_tutorial con la località dei dati impostata su US.

   bq mk --dataset \
     --location=US \
     --description "BigQuery ML tutorial dataset." \
     bqml_tutorial

2. Verifica che il set di dati sia stato creato:

   bq ls

API

Chiama il datasets.insert metodo con una risorsa del set di dati definita.

{
  "datasetReference": {
     "datasetId": "bqml_tutorial"
  }
}

Crea il modello

Crea un modello di regressione lineare per prevedere il peso dei pinguini e addestralo sulla tabella di esempio penguins.

La OPTIONS(model_type='linear_reg', input_label_cols=['body_mass_g']) clausola indica che stai creando un modello di regressione lineare. Un modello di regressione lineare genera un valore continuo da una combinazione lineare di caratteristiche di input. La colonna body_mass_g è la colonna dell'etichetta di input. Per i modelli di regressione lineare, la colonna dell'etichetta deve avere valori reali (ovvero i valori della colonna devono essere numeri reali).

La clausola TRANSFORM di questa query utilizza le seguenti colonne dell'istruzione SELECT:

• body_mass_g: utilizzata nell'addestramento senza modifiche.
• culmen_depth_mm: utilizzata nell'addestramento senza modifiche.
• flipper_length_mm: utilizzata nell'addestramento senza modifiche.
• bucketized_culmen_length: generata da culmen_length_mm tramite la suddivisione in bucket di culmen_length_mm in base ai quantili utilizzando la funzione analitica ML.QUANTILE_BUCKETIZE().
• culmen_length_mm: il valore originale di culmen_length_mm, convertito in un valore STRING e utilizzato nell'addestramento.
• species_sex: generata dall'incrocio di species e sex utilizzando la funzione ML.FEATURE_CROSS.

Non è necessario utilizzare tutte le colonne della tabella di addestramento nella clausola TRANSFORM.

La clausola WHERE (WHERE body_mass_g IS NOT NULL AND RAND() < 0.2) esclude le righe in cui il peso dei pinguini è NULL e utilizza la funzione RAND per estrarre un campione casuale dei dati.

Per creare il modello:

1. Nella Google Cloud console, vai alla pagina BigQuery.

   Vai a BigQuery

2. Nell'editor di query, incolla la query seguente e fai clic su Esegui:

   CREATE OR REPLACE MODEL `bqml_tutorial.penguin_transform`
     TRANSFORM(
       body_mass_g,
       culmen_depth_mm,
       flipper_length_mm,
       ML.QUANTILE_BUCKETIZE(culmen_length_mm, 10) OVER () AS bucketized_culmen_length,
       CAST(culmen_length_mm AS string) AS culmen_length_mm,
       ML.FEATURE_CROSS(STRUCT(species, sex)) AS species_sex)
     OPTIONS (
       model_type = 'linear_reg',
       input_label_cols = ['body_mass_g'])
   AS
   SELECT
     *
   FROM
     `bigquery-public-data.ml_datasets.penguins`
   WHERE
     body_mass_g IS NOT NULL
     AND RAND() < 0.2;

   Il completamento della query richiede circa 15 minuti, dopodiché il modello penguin_transform viene visualizzato nel riquadro Explorer. Poiché la query utilizza un'istruzione CREATE MODEL per creare un modello, non vengono visualizzati i risultati della query.

Valuta il modello

Valuta le prestazioni del modello utilizzando la funzione ML.EVALUATE. La funzione ML.EVALUATE valuta i pesi dei pinguini previsti restituiti dal modello rispetto ai pesi effettivi dei pinguini dai dati di addestramento.

L'istruzione SELECT nidificata e la clausola FROM di questa query sono le stesse della query CREATE MODEL. Poiché hai utilizzato la clausola TRANSFORM durante la creazione del modello, non devi specificare di nuovo le colonne e le trasformazioni nella funzione ML.EVALUATE. La funzione le recupera automaticamente dal modello.

Per valutare il modello:

1. Nella Google Cloud console, vai alla pagina BigQuery.

   Vai a BigQuery

2. Nell'editor di query, incolla la query seguente e fai clic su Esegui:

   SELECT
     *
   FROM
     ML.EVALUATE(
       MODEL `bqml_tutorial.penguin_transform`,
       (
         SELECT
           *
         FROM
           `bigquery-public-data.ml_datasets.penguins`
         WHERE
           body_mass_g IS NOT NULL
       ));

   I risultati dovrebbero essere simili ai seguenti:

   +---------------------+--------------------+------------------------+-----------------------+--------------------+--------------------+
   | mean_absolute_error | mean_squared_error | mean_squared_log_error | median_absolute_error |      r2_score      | explained_variance |
   +---------------------+--------------------+------------------------+-----------------------+--------------------+--------------------+
   |   64.21134350607677 | 13016.433317859564 |   7.140935762696211E-4 |     15.31788461553515 | 0.9813042531507734 | 0.9813186268757634 |
   +---------------------+--------------------+------------------------+-----------------------+--------------------+--------------------+
   

   Una metrica importante nei risultati della valutazione è il punteggio R². Il punteggio R² è una misura statistica che determina se le previsioni di regressione lineare approssimano i dati effettivi. Un valore di 0 indica che il modello non spiega la variabilità dei dati di risposta intorno alla media. Un valore di 1 indica che il modello spiega tutta la variabilità dei dati di risposta intorno alla media.

   Per saperne di più sull'output della funzione ML.EVALUATE, consulta Output.

   Puoi anche chiamare ML.EVALUATE senza fornire dati di input. Utilizzerà le metriche di valutazione calcolate durante l'addestramento.

Utilizza il modello per prevedere il peso dei pinguini

Utilizza il modello con la funzione ML.PREDICT per prevedere il peso dei pinguini maschi.

La funzione ML.PREDICT restituisce il valore previsto nella colonna predicted_label_column_name, in questo caso predicted_body_mass_g.

Quando utilizzi la funzione ML.PREDICT, non devi passare tutte le colonne utilizzate nell'addestramento del modello. Sono necessarie solo le colonne utilizzate nella clausola TRANSFORM. Analogamente a ML.EVALUATE, la funzione ML.PREDICT recupera automaticamente le colonne e le trasformazioni TRANSFORM dal modello.

Per ottenere le previsioni dal modello:

1. Nella Google Cloud console, vai alla pagina BigQuery.

   Vai a BigQuery

2. Nell'editor di query, incolla la query seguente e fai clic su Esegui:

   SELECT
     predicted_body_mass_g
   FROM
     ML.PREDICT(
       MODEL `bqml_tutorial.penguin_transform`,
       (
         SELECT
           *
         FROM
           `bigquery-public-data.ml_datasets.penguins`
         WHERE
           sex = 'MALE'
       ));

   I risultati dovrebbero essere simili ai seguenti:

   +-----------------------+
   | predicted_body_mass_g |
   +-----------------------+
   |    2810.2868541725757 |
   +-----------------------+
   |    3813.6574220842676 |
   +-----------------------+
   |     4098.844698262214 |
   +-----------------------+
   |     4256.587135004173 |
   +-----------------------+
   |     3008.393497302691 |
   +-----------------------+
   |     ...               |
   +-----------------------+
   

Libera spazio

Per evitare che al tuo account Google Cloud vengano addebitati costi relativi alle risorse utilizzate in questo tutorial, elimina il progetto che contiene le risorse oppure mantieni il progetto ed elimina le singole risorse.

• Puoi eliminare il progetto che hai creato.
• In alternativa, puoi mantenere il progetto ed eliminare il set di dati.

Elimina il set di dati

L'eliminazione del progetto rimuove tutti i set di dati e tutte le tabelle nel progetto. Se preferisci riutilizzare il progetto, puoi eliminare il set di dati creato in questo tutorial:

1. Se necessario, apri la pagina BigQuery nella Google Cloud console.

   Vai alla pagina BigQuery

2. Nel pannello di navigazione, fai clic sul set di dati bqml_tutorial che hai creato.

3. Sul lato destro della finestra, fai clic su Elimina set di dati. Questa azione elimina il set di dati, la tabella e tutti i dati.

4. Nella finestra di dialogo Elimina set di dati, conferma il comando di eliminazione digitando il nome del set di dati (bqml_tutorial) e poi fai clic su Elimina.

Elimina il progetto

Per eliminare il progetto:

Attenzione: l'eliminazione di un progetto ha i seguenti effetti:

• L'intero contenuto del progetto viene eliminato. Se hai utilizzato un progetto esistente per, le attività descritte in questo documento, eliminerai anche tutto il lavoro che hai svolto nel progetto.
• Gli ID progetto personalizzati non sono più disponibili. Quando hai creato questo progetto, potresti aver creato un ID progetto personalizzato che vuoi utilizzare in futuro. Per conservare gli URL che utilizzano l'ID progetto, ad esempio un URL appspot.com, elimina le risorse selezionate all'interno del progetto anziché eliminare l'intero progetto.

Se intendi esplorare più architetture, tutorial o guide rapide, puoi riutilizzare i progetti ed evitare così di superare i limiti di quota.

1. Nella Google Cloud console, vai alla pagina Gestisci risorse.

   Vai a Gestisci risorse

2. Nell'elenco dei progetti, seleziona il progetto che vuoi eliminare, quindi fai clic su Elimina.
3. Nella finestra di dialogo, digita l'ID progetto e fai clic su Chiudi per eliminare il progetto.

Passaggi successivi

• Per saperne di più sul machine learning, consulta il Machine Learning Crash Course.
• Per una panoramica di BigQuery ML, consulta Introduzione a BigQuery ML.
• Per saperne di più sulla console, consulta Utilizzo della console. Google Cloud Google Cloud