Eseguire il feature engineering con la clausola TRANSFORM

Questo tutorial ti insegna a utilizzare la clausola TRANSFORM dell'istruzione CREATE MODEL per eseguire l'feature engineering contemporaneamente alla creazione e all'addestramento di un modello. Utilizzando la clausola TRANSFORM, puoi specificare una o più funzioni di pre-elaborazione per trasformare i dati di input utilizzati per addestrare il modello. Il pre-elaborazione che applichi al modello viene applicata automaticamente quando utilizzi il modello con le funzioni ML.EVALUATE e ML.PREDICT.

Questo tutorial utilizza il set di dati pubblico bigquery-public-data.ml_datasets.penguin.

Obiettivi

Questo tutorial ti guida nel completamento delle seguenti attività:

• Creazione di un modello di regressione lineare per prevedere il tipo di chiamata di assistenza utilizzando l'istruzione CREATE MODEL. All'interno dell'istruzione CREATE MODEL, utilizza le funzioni ML.QUANTILE_BUCKETIZE e ML.FEATURE_CROSS per pre-elaborare i dati.
• Valutazione del modello utilizzando la funzione ML.EVALUATE.
• Ottenere previsioni dal modello utilizzando la funzione ML.PREDICT.

Costi

Questo tutorial utilizza componenti fatturabili di Google Cloud, tra cui:

• BigQuery
• BigQuery ML

Per ulteriori informazioni sui costi di BigQuery, consulta la pagina Prezzi di BigQuery.

Prima di iniziare

Accedi al tuo account Google Cloud . Se non conosci Google Cloud, crea un account per valutare le prestazioni dei nostri prodotti in scenari reali. I nuovi clienti ricevono anche 300 $di crediti senza costi per l'esecuzione, il test e il deployment dei carichi di lavoro.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

1. BigQuery viene attivato automaticamente nei nuovi progetti. Per attivare BigQuery in un progetto preesistente, vai a

   Abilita l'API BigQuery.

   Ruoli richiesti per abilitare le API

   Per abilitare le API, devi disporre dell'autorizzazione serviceusage.services.enable. Se hai creato il progetto, probabilmente disponi già di questa autorizzazione tramite il ruolo Proprietario (roles/owner). In caso contrario, puoi ottenere questa autorizzazione tramite il ruolo Amministratore utilizzo dei servizi (roles/serviceusage.serviceUsageAdmin). Scopri come concedere i ruoli.

   Abilitare l'API

Crea un set di dati

Crea un set di dati BigQuery per archiviare il tuo modello ML.

Console

1. Nella console Google Cloud , vai alla pagina BigQuery.

   Vai alla pagina BigQuery

2. Nel riquadro Explorer, fai clic sul nome del progetto.

3. Fai clic su Visualizza azioni > Crea set di dati.

4. Nella pagina Crea set di dati, segui questi passaggi:

   • In ID set di dati, inserisci bqml_tutorial.

   • Per Tipo di località, seleziona Più regioni, quindi seleziona Stati Uniti.

   • Lascia invariate le restanti impostazioni predefinite e fai clic su Crea set di dati.

bq

Per creare un nuovo set di dati, utilizza il comando bq mk --dataset.

1. Crea un set di dati denominato bqml_tutorial con la località dei dati impostata su US.

   bq mk --dataset \
     --location=US \
     --description "BigQuery ML tutorial dataset." \
     bqml_tutorial

2. Verifica che il set di dati sia stato creato:

   bq ls

API

Chiama il metodo datasets.insert con una risorsa dataset definita.

{
  "datasetReference": {
     "datasetId": "bqml_tutorial"
  }
}

Crea il modello

Crea un modello di regressione lineare per prevedere il peso dei pinguini e addestralo sulla tabella di esempio penguins.

La clausola OPTIONS(model_type='linear_reg', input_label_cols=['body_mass_g']) indica che stai creando un modello di regressione lineare. Un modello di regressione lineare genera un valore continuo da una combinazione lineare di caratteristiche di input. La colonna body_mass_g è la colonna dell'etichetta di input. Per i modelli di regressione lineare, la colonna dell'etichetta deve avere valori reali (ovvero i valori della colonna devono essere numeri reali).

La clausola TRANSFORM di questa query utilizza le seguenti colonne dell'istruzione SELECT:

• body_mass_g: utilizzato nell'addestramento senza alcuna modifica.
• culmen_depth_mm: utilizzato nell'addestramento senza alcuna modifica.
• flipper_length_mm: utilizzato nell'addestramento senza alcuna modifica.
• bucketized_culmen_length: generato da culmen_length_mm mediante la suddivisione in bucket di culmen_length_mm in base ai quantili utilizzando la funzione analitica ML.QUANTILE_BUCKETIZE().
• culmen_length_mm: il valore culmen_length_mm originale, convertito in un valore STRING e utilizzato nell'addestramento.
• species_sex: generato dall'incrocio di species e sex utilizzando la funzione ML.FEATURE_CROSS.

Non è necessario utilizzare tutte le colonne della tabella di addestramento nella clausolaTRANSFORM.

La clausola WHERE, WHERE body_mass_g IS NOT NULL AND RAND() < 0.2, esclude le righe in cui il peso dei pinguini è NULL e utilizza la funzione RAND per estrarre un campione casuale dei dati.

Per creare il modello:

1. Nella console Google Cloud , vai alla pagina BigQuery.

   Vai a BigQuery

2. Nell'editor di query, incolla la seguente query e fai clic su Esegui:

   CREATE OR REPLACE MODEL `bqml_tutorial.penguin_transform`
     TRANSFORM(
       body_mass_g,
       culmen_depth_mm,
       flipper_length_mm,
       ML.QUANTILE_BUCKETIZE(culmen_length_mm, 10) OVER () AS bucketized_culmen_length,
       CAST(culmen_length_mm AS string) AS culmen_length_mm,
       ML.FEATURE_CROSS(STRUCT(species, sex)) AS species_sex)
     OPTIONS (
       model_type = 'linear_reg',
       input_label_cols = ['body_mass_g'])
   AS
   SELECT
     *
   FROM
     `bigquery-public-data.ml_datasets.penguins`
   WHERE
     body_mass_g IS NOT NULL
     AND RAND() < 0.2;

   Il completamento della query richiede circa 15 minuti, dopodiché il modello penguin_transform viene visualizzato nel riquadro Explorer. Poiché la query utilizza un'istruzione CREATE MODEL per creare un modello, non vengono visualizzati i risultati della query.

Valuta il modello

Valuta le prestazioni del modello utilizzando la funzione ML.EVALUATE. La funzione ML.EVALUATE valuta i pesi dei pinguini previsti restituiti dal modello rispetto ai pesi effettivi dei pinguini provenienti dai dati di addestramento.

L'istruzione SELECT e la clausola FROM nidificate di questa query sono le stesse della query CREATE MODEL. Poiché hai utilizzato la clausola TRANSFORM durante la creazione del modello, non devi specificare di nuovo le colonne e le trasformazioni nella funzione ML.EVALUATE. La funzione li recupera automaticamente dal modello.

Per valutare il modello:

1. Nella console Google Cloud , vai alla pagina BigQuery.

   Vai a BigQuery

2. Nell'editor di query, incolla la seguente query e fai clic su Esegui:

   SELECT
     *
   FROM
     ML.EVALUATE(
       MODEL `bqml_tutorial.penguin_transform`,
       (
         SELECT
           *
         FROM
           `bigquery-public-data.ml_datasets.penguins`
         WHERE
           body_mass_g IS NOT NULL
       ));

   I risultati dovrebbero essere simili ai seguenti:

   +---------------------+--------------------+------------------------+-----------------------+--------------------+--------------------+
   | mean_absolute_error | mean_squared_error | mean_squared_log_error | median_absolute_error |      r2_score      | explained_variance |
   +---------------------+--------------------+------------------------+-----------------------+--------------------+--------------------+
   |   64.21134350607677 | 13016.433317859564 |   7.140935762696211E-4 |     15.31788461553515 | 0.9813042531507734 | 0.9813186268757634 |
   +---------------------+--------------------+------------------------+-----------------------+--------------------+--------------------+
   

   Una metrica importante nei risultati della valutazione è il coefficiente R². Il coefficiente R² è una misura statistica che determina se le previsioni della regressione lineare si avvicinano ai dati effettivi. Un valore pari a 0 indica che il modello non spiega nessuna delle variabilità dei dati di risposta attorno alla media. Un valore di 1 indica che il modello spiega tutte le variabilità dei dati di risposta attorno alla media.

   Per saperne di più sull'output della funzione ML.EVALUATE, consulta Output.

   Puoi anche chiamare ML.EVALUATE senza fornire dati di input. Utilizzerà le metriche di valutazione calcolate durante l'addestramento.

Utilizzare il modello per prevedere il peso dei pinguini

Utilizza il modello con la funzione ML.PREDICT per prevedere il peso dei pinguini maschi.

La funzione ML.PREDICT restituisce il valore previsto nella colonna predicted_label_column_name, in questo caso predicted_body_mass_g.

Quando utilizzi la funzione ML.PREDICT, non devi trasmettere tutte le colonne utilizzate nell'addestramento del modello. Sono obbligatorie solo le colonne utilizzate nella clausola TRANSFORM. Analogamente a ML.EVALUATE, la funzione ML.PREDICT recupera automaticamente le colonne e le trasformazioni TRANSFORM dal modello.

Per ottenere le previsioni dal modello:

1. Nella console Google Cloud , vai alla pagina BigQuery.

   Vai a BigQuery

2. Nell'editor di query, incolla la seguente query e fai clic su Esegui:

   SELECT
     predicted_body_mass_g
   FROM
     ML.PREDICT(
       MODEL `bqml_tutorial.penguin_transform`,
       (
         SELECT
           *
         FROM
           `bigquery-public-data.ml_datasets.penguins`
         WHERE
           sex = 'MALE'
       ));

   I risultati dovrebbero essere simili ai seguenti:

   +-----------------------+
   | predicted_body_mass_g |
   +-----------------------+
   |    2810.2868541725757 |
   +-----------------------+
   |    3813.6574220842676 |
   +-----------------------+
   |     4098.844698262214 |
   +-----------------------+
   |     4256.587135004173 |
   +-----------------------+
   |     3008.393497302691 |
   +-----------------------+
   |     ...               |
   +-----------------------+
   

Esegui la pulizia

Per evitare che al tuo account Google Cloud vengano addebitati costi relativi alle risorse utilizzate in questo tutorial, elimina il progetto che contiene le risorse oppure mantieni il progetto ed elimina le singole risorse.

• Puoi eliminare il progetto che hai creato.
• In alternativa, puoi conservare il progetto ed eliminare il set di dati.

Elimina il set di dati

L'eliminazione del progetto rimuove tutti i set di dati e tutte le tabelle nel progetto. Se preferisci riutilizzare il progetto, puoi eliminare il set di dati creato in questo tutorial:

1. Se necessario, apri la pagina BigQuery nella consoleGoogle Cloud .

   Vai alla pagina BigQuery

2. Nel pannello di navigazione, fai clic sul set di dati bqml_tutorial che hai creato.

3. Sul lato destro della finestra, fai clic su Elimina set di dati. Questa azione elimina il set di dati, la tabella e tutti i dati.

4. Nella finestra di dialogo Elimina set di dati, conferma il comando di eliminazione digitando il nome del set di dati (bqml_tutorial) e poi fai clic su Elimina.

Elimina il progetto

Per eliminare il progetto:

Attenzione: l'eliminazione di un progetto ha i seguenti effetti:

• L'intero contenuto del progetto viene eliminato. Se hai utilizzato un progetto esistente per, le attività descritte in questo documento, eliminerai anche tutto il lavoro che hai svolto nel progetto.
• Gli ID progetto personalizzati non sono più disponibili. Quando hai creato questo progetto, potresti aver creato un ID progetto personalizzato che vuoi utilizzare in futuro. Per conservare gli URL che utilizzano l'ID progetto, ad esempio un URL appspot.com, elimina le risorse selezionate all'interno del progetto anziché eliminare l'intero progetto.

Se intendi esplorare più architetture, tutorial o guide rapide, puoi riutilizzare i progetti ed evitare così di superare i limiti di quota.

1. Nella console Google Cloud , vai alla pagina Gestisci risorse.

   Vai a Gestisci risorse

2. Nell'elenco dei progetti, seleziona quello che vuoi eliminare, quindi fai clic su Elimina.
3. Nella finestra di dialogo, digita l'ID progetto, quindi fai clic su Chiudi per eliminare il progetto.

Passaggi successivi

• Per saperne di più sul machine learning, consulta Machine Learning Crash Course.
• Per una panoramica di BigQuery ML, consulta Introduzione a BigQuery ML.
• Per scoprire di più sulla console Google Cloud , consulta Utilizzo della console Google Cloud .