Questo tutorial ti insegna a utilizzare l'ottimizzazione degli iperparametri in BigQuery ML per ottimizzare un modello di machine learning e migliorarne le prestazioni.
Esegui l'ottimizzazione degli iperparametri specificando l'opzione NUM_TRIALS dell'istruzione CREATE MODEL, in combinazione con altre opzioni specifiche del modello. Quando imposti queste opzioni, BigQuery ML addestra
più versioni, o prove, del modello, ognuna con parametri
leggermente diversi, e restituisce la prova con il rendimento migliore.
Questo tutorial utilizza la tabella di esempio pubblica
tlc_yellow_trips_2018, che contiene informazioni sulle corse in taxi a New York
nel 2018.
Crea un set di dati
Crea un set di dati BigQuery per archiviare il tuo modello ML.
Console
Nella console Google Cloud , vai alla pagina BigQuery.
Nel riquadro Explorer, fai clic sul nome del progetto.
Fai clic su Visualizza azioni > Crea set di dati.
Nella pagina Crea set di dati:
In ID set di dati, inserisci
bqml_tutorial.Per Tipo di località, seleziona Multi-regione e poi Stati Uniti (più regioni negli Stati Uniti).
Lascia invariate le restanti impostazioni predefinite e fai clic su Crea set di dati.
bq
Per creare un nuovo set di dati, utilizza il
comando bq mk
con il flag --location. Per un elenco completo dei possibili parametri, consulta la
documentazione di riferimento del
comando bq mk --dataset.
Crea un set di dati denominato
bqml_tutorialcon la località dei dati impostata suUSe una descrizione diBigQuery ML tutorial dataset:bq --location=US mk -d \ --description "BigQuery ML tutorial dataset." \ bqml_tutorial
Anziché utilizzare il flag
--dataset, il comando utilizza la scorciatoia-d. Se ometti-de--dataset, il comando crea per impostazione predefinita un dataset.Verifica che il set di dati sia stato creato:
bq ls
API
Chiama il metodo datasets.insert con una risorsa dataset definita.
{ "datasetReference": { "datasetId": "bqml_tutorial" } }
BigQuery DataFrames
Prima di provare questo esempio, segui le istruzioni di configurazione di BigQuery DataFrames nella guida rapida di BigQuery che utilizza BigQuery DataFrames. Per ulteriori informazioni, consulta la documentazione di riferimento di BigQuery DataFrames.
Per eseguire l'autenticazione in BigQuery, configura le Credenziali predefinite dell'applicazione. Per maggiori informazioni, vedi Configurare ADC per un ambiente di sviluppo locale.
Crea una tabella di dati di addestramento
Crea una tabella di dati di addestramento basata su un sottoinsieme dei dati della tabella tlc_yellow_trips_2018.
Per creare la tabella:
Nella console Google Cloud , vai alla pagina BigQuery.
Nell'editor di query, incolla la seguente query e fai clic su Esegui:
CREATE OR REPLACE TABLE `bqml_tutorial.taxi_tip_input` AS SELECT * EXCEPT (tip_amount), tip_amount AS label FROM `bigquery-public-data.new_york_taxi_trips.tlc_yellow_trips_2018` WHERE tip_amount IS NOT NULL LIMIT 100000;
Crea un modello di regressione lineare di base
Crea un modello di regressione lineare senza ottimizzazione degli iperparametri e addestralo sui dati della tabella taxi_tip_input.
Per creare il modello:
Nella console Google Cloud , vai alla pagina BigQuery.
Nell'editor di query, incolla la seguente query e fai clic su Esegui:
CREATE OR REPLACE MODEL `bqml_tutorial.baseline_taxi_tip_model` OPTIONS ( MODEL_TYPE = 'LINEAR_REG' ) AS SELECT * FROM `bqml_tutorial.taxi_tip_input`;
Il completamento della query richiede circa 2 minuti.
Valuta il modello di base
Valuta le prestazioni del modello utilizzando la funzione ML.EVALUATE.
La funzione ML.EVALUATE valuta le classificazioni dei contenuti previste restituite dal modello rispetto alle metriche di valutazione calcolate durante l'addestramento del modello.
Per valutare il modello:
Nella console Google Cloud , vai alla pagina BigQuery.
Nell'editor di query, incolla la seguente query e fai clic su Esegui:
SELECT * FROM ML.EVALUATE(MODEL `bqml_tutorial.baseline_taxi_tip_model`);
I risultati sono simili ai seguenti:
+---------------------+--------------------+------------------------+-----------------------+---------------------+---------------------+ | mean_absolute_error | mean_squared_error | mean_squared_log_error | median_absolute_error | r2_score | explained_variance | +---------------------+--------------------+------------------------+-----------------------+---------------------+---------------------+ | 2.5853895559690323 | 23760.416358496139 | 0.017392406523370374 | 0.0044248227819481123 | -1934.5450533482465 | -1934.3513857946277 | +---------------------+--------------------+------------------------+-----------------------+---------------------+---------------------+
Il valore r2_score per il modello di base è negativo, il che indica un
adattamento scarso ai dati; più il
punteggio R2
è vicino a 1, migliore è l'adattamento del modello.
Crea un modello di regressione lineare con l'ottimizzazione degli iperparametri
Crea un modello di regressione lineare con l'ottimizzazione degli iperparametri e addestralo sui dati della tabella taxi_tip_input.
Utilizza le seguenti opzioni di ottimizzazione degli iperparametri nell'istruzione CREATE MODEL:
- L'opzione
NUM_TRIALSper impostare il numero di prove su 20. - L'opzione
MAX_PARALLEL_TRIALSper eseguire due prove in ogni job di addestramento, per un totale di dieci job e venti prove. In questo modo si riduce il tempo di addestramento necessario. Tuttavia, le due prove concorrenti non beneficiano dei risultati di addestramento reciproci. - L'opzione
L1_REGper provare diversi valori di regolarizzazione L1 nelle diverse prove. La regolarizzazione L1 rimuove le caratteristiche non pertinenti dal modello, il che aiuta a prevenire l'overfitting.
Le altre opzioni di ottimizzazione degli iperparametri supportate dal modello utilizzano i valori predefiniti, come segue:
L1_REG:0HPARAM_TUNING_ALGORITHM:'VIZIER_DEFAULT'HPARAM_TUNING_OBJECTIVES:['R2_SCORE']
Per creare il modello:
Nella console Google Cloud , vai alla pagina BigQuery.
Nell'editor di query, incolla la seguente query e fai clic su Esegui:
CREATE OR REPLACE MODEL `bqml_tutorial.hp_taxi_tip_model` OPTIONS ( MODEL_TYPE = 'LINEAR_REG', NUM_TRIALS = 20, MAX_PARALLEL_TRIALS = 2, L1_REG = HPARAM_RANGE(0, 5)) AS SELECT * FROM `bqml_tutorial.taxi_tip_input`;
La query richiede circa 20 minuti.
Ottieni informazioni sulle prove di addestramento
Ottieni informazioni su tutte le prove, inclusi i valori degli iperparametri, gli obiettivi e lo stato, utilizzando la funzione ML.TRIAL_INFO. Questa funzione
restituisce anche informazioni sulla prova con il rendimento migliore, in base
a queste informazioni.
Per ottenere informazioni sulla prova:
Nella console Google Cloud , vai alla pagina BigQuery.
Nell'editor di query, incolla la seguente query e fai clic su Esegui:
SELECT * FROM ML.TRIAL_INFO(MODEL `bqml_tutorial.hp_taxi_tip_model`) ORDER BY is_optimal DESC;
I risultati sono simili ai seguenti:
+----------+-------------------------------------+-----------------------------------+--------------------+--------------------+-----------+---------------+------------+ | trial_id | hyperparameters | hparam_tuning_evaluation_metrics | training_loss | eval_loss | status | error_message | is_optimal | +----------+-------------------------------------+-----------------------------------+--------------------+--------------------+-----------+---------------+------------+ | 7 | {"l1_reg":"4.999999999999985"} | {"r2_score":"0.653653627638174"} | 4.4677841296238165 | 4.478469742512195 | SUCCEEDED | NULL | true | | 2 | {"l1_reg":"2.402163664510254E-11"} | {"r2_score":"0.6532493667964732"} | 4.457692508421795 | 4.483697081650438 | SUCCEEDED | NULL | false | | 3 | {"l1_reg":"1.2929452948742316E-7"} | {"r2_score":"0.653249366811995"} | 4.45769250849513 | 4.483697081449748 | SUCCEEDED | NULL | false | | 4 | {"l1_reg":"2.5787102060628228E-5"} | {"r2_score":"0.6532493698925899"} | 4.457692523040582 | 4.483697041615808 | SUCCEEDED | NULL | false | | ... | ... | ... | ... | ... | ... | ... | ... | +----------+-------------------------------------+-----------------------------------+--------------------+--------------------+-----------+---------------+------------+Il valore della colonna
is_optimalindica che la prova 7 è il modello ottimale restituito dall'ottimizzazione.
Valuta le prove del modello ottimizzato
Valuta il rendimento delle prove utilizzando la funzione ML.EVALUATE.
La funzione ML.EVALUATE valuta le classificazioni dei contenuti previste restituite dal modello rispetto alle metriche di valutazione calcolate durante l'addestramento per tutte le prove.
Per valutare le prove del modello:
Nella console Google Cloud , vai alla pagina BigQuery.
Nell'editor di query, incolla la seguente query e fai clic su Esegui:
SELECT * FROM ML.EVALUATE(MODEL `bqml_tutorial.hp_taxi_tip_model`) ORDER BY r2_score DESC;
I risultati sono simili ai seguenti:
+----------+---------------------+--------------------+------------------------+-----------------------+--------------------+--------------------+ | trial_id | mean_absolute_error | mean_squared_error | mean_squared_log_error | median_absolute_error | r2_score | explained_variance | +----------+---------------------+--------------------+------------------------+-----------------------+--------------------+--------------------+ | 7 | 1.151814398002232 | 4.109811493266523 | 0.4918733252641176 | 0.5736103414025084 | 0.6652110305659145 | 0.6652144696114834 | | 19 | 1.1518143358927102 | 4.109811921460791 | 0.4918672150119582 | 0.5736106106914161 | 0.6652109956848206 | 0.6652144346901685 | | 8 | 1.152747850702547 | 4.123625876152422 | 0.4897808307399327 | 0.5731702310239184 | 0.6640856984144734 | 0.664088410199906 | | 5 | 1.152895108945439 | 4.125775524878872 | 0.48939088205957937 | 0.5723300569616766 | 0.6639105860807425 | 0.6639132416838652 | | ... | ... | ... | ... | ... | ... | ... | +----------+---------------------+--------------------+------------------------+-----------------------+--------------------+--------------------+
Il valore di
r2_scoreper il modello ottimale, ovvero la prova 7, è0.66521103056591446, il che mostra un miglioramento significativo rispetto al modello di base.
Puoi valutare una prova specifica specificando l'argomento TRIAL_ID
nella funzione ML.EVALUATE.
Per ulteriori informazioni sulla differenza tra gli obiettivi ML.TRIAL_INFO e le metriche di valutazione ML.EVALUATE, consulta Funzioni di erogazione dei modelli.
Utilizza il modello ottimizzato per prevedere le mance ai tassisti
Utilizza il modello ottimale restituito dal processo di ottimizzazione per prevedere le mance per diverse corse in taxi. Il modello ottimale viene utilizzato automaticamente dalla funzione ML.PREDICT,
a meno che tu non selezioni una prova diversa specificando l'argomento TRIAL_ID. Le
previsioni vengono restituite nella colonna predicted_label.
Per ottenere le previsioni:
Nella console Google Cloud , vai alla pagina BigQuery.
Nell'editor di query, incolla la seguente query e fai clic su Esegui:
SELECT * FROM ML.PREDICT( MODEL `bqml_tutorial.hp_taxi_tip_model`, ( SELECT * FROM `bqml_tutorial.taxi_tip_input` LIMIT 5 ));
I risultati sono simili ai seguenti:
+----------+--------------------+-----------+---------------------+---------------------+-----------------+---------------+-----------+--------------------+--------------+-------------+-------+---------+--------------+---------------+--------------+--------------------+---------------------+----------------+-----------------+-------+ | trial_id | predicted_label | vendor_id | pickup_datetime | dropoff_datetime | passenger_count | trip_distance | rate_code | store_and_fwd_flag | payment_type | fare_amount | extra | mta_tax | tolls_amount | imp_surcharge | total_amount | pickup_location_id | dropoff_location_id | data_file_year | data_file_month | label | +----------+--------------------+-----------+---------------------+---------------------+-----------------+---------------+-----------+--------------------+--------------+-------------+-------+---------+--------------+---------------+--------------+--------------------+---------------------+----------------+-----------------+-------+ | 7 | 1.343367839584448 | 2 | 2018-01-15 18:55:15 | 2018-01-15 18:56:18 | 1 | 0 | 1 | N | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 193 | 193 | 2018 | 1 | 0 | | 7 | -1.176072791783461 | 1 | 2018-01-08 10:26:24 | 2018-01-08 10:26:37 | 1 | 0 | 5 | N | 3 | 0.01 | 0 | 0 | 0 | 0.3 | 0.31 | 158 | 158 | 2018 | 1 | 0 | | 7 | 3.839580104168765 | 1 | 2018-01-22 10:58:02 | 2018-01-22 12:01:11 | 1 | 16.1 | 1 | N | 1 | 54.5 | 0 | 0.5 | 0 | 0.3 | 55.3 | 140 | 91 | 2018 | 1 | 0 | | 7 | 4.677393985230036 | 1 | 2018-01-16 10:14:35 | 2018-01-16 11:07:28 | 1 | 18 | 1 | N | 2 | 54.5 | 0 | 0.5 | 0 | 0.3 | 55.3 | 138 | 67 | 2018 | 1 | 0 | | 7 | 7.938988937253062 | 2 | 2018-01-16 07:05:15 | 2018-01-16 08:06:31 | 1 | 17.8 | 1 | N | 1 | 54.5 | 0 | 0.5 | 0 | 0.3 | 66.36 | 132 | 255 | 2018 | 1 | 11.06 | +----------+--------------------+-----------+---------------------+---------------------+-----------------+---------------+-----------+--------------------+--------------+-------------+-------+---------+--------------+---------------+--------------+--------------------+---------------------+----------------+-----------------+-------+