Panoramica di BigQuery Explainable AI

Questo documento descrive in che modo BigQuery ML supporta l'intelligenza artificiale (AI) interpretabile, a volte chiamata XAI.

Explainable AI ti aiuta a comprendere i risultati generati dal tuo modello predittivo di machine learning per le attività di classificazione e regressione definendo il contributo di ogni caratteristica in una riga di dati al risultato previsto. Queste informazioni vengono spesso chiamate attribuzione delle funzionalità. Puoi utilizzare queste informazioni per verificare se il modello funziona come previsto, riconoscere i bias nei modelli e trovare idee per migliorare il modello e i dati di addestramento.

Spiegabilità locale e globale

Esistono due tipi di interpretabilità: locale e globale. Questi sono noti anche rispettivamente come importanza delle caratteristiche locali e importanza delle caratteristiche globali.

  • L'interpretabilità locale restituisce i valori di attribuzione delle funzionalità per ogni esempio spiegato. Questi valori descrivono in che misura una determinata caratteristica ha influito sulla previsione rispetto alla previsione di base.
  • L'interpretabilità globale restituisce l'influenza complessiva della funzionalità sul modello e viene spesso ottenuta aggregando le attribuzioni delle funzionalità sull'intero set di dati. Un valore assoluto più alto indica che la caratteristica ha avuto un'influenza maggiore sulle previsioni del modello.

Offerte di Explainable AI in BigQuery ML

Explainable AI in BigQuery ML supporta una serie di modelli di machine learning, inclusi modelli di serie temporali e non di serie temporali. Ciascuno dei modelli sfrutta un metodo di interpretabilità diverso.

Categoria del modello Tipi di modello Metodo di spiegabilità Spiegazione di base del metodo Funzioni di spiegazione locale Funzioni di spiegazione globali
Modelli supervisionati Regressione lineare e logistica Valori di Shapley I valori di Shapley per i modelli lineari sono uguali a model weight * feature value, dove i valori delle caratteristiche sono standardizzati e i pesi del modello vengono addestrati con i valori delle caratteristiche standardizzati. ML.EXPLAIN_PREDICT1 ML.GLOBAL_EXPLAIN2
Errori standard e valori p Gli errori standard e i valori p vengono utilizzati per il test di significatività rispetto ai pesi del modello. N/D ML.ADVANCED_WEIGHTS4
Modelli boosted tree

Foresta casuale		 Tree SHAP Tree SHAP è un algoritmo per calcolare i valori SHAP esatti per i modelli basati su alberi decisionali. ML.EXPLAIN_PREDICT1 ML.GLOBAL_EXPLAIN2
Contributo approssimativo della funzionalità Approssima i valori del contributo della caratteristica. È più veloce e semplice rispetto a Tree SHAP. ML.EXPLAIN_PREDICT1 ML.GLOBAL_EXPLAIN2
Importanza delle caratteristiche basata sull'indice di Gini Un punteggio di importanza globale delle caratteristiche che indica l'utilità o il valore di ciascuna caratteristica nella costruzione del modello di albero potenziato o foresta casuale durante l'addestramento. N/D ML.FEATURE_IMPORTANCE
AutoML Tables Valore di Shapley campionato Sampled Shapley assegna il merito per il risultato del modello a ciascuna caratteristica e considera diverse permutazioni delle caratteristiche. Questo metodo fornisce un'approssimazione di campionamento dei valori di Shapley esatti. N/D ML.GLOBAL_EXPLAIN2
Modelli di serie temporali ARIMA_PLUS Decomposizione delle serie temporali Decompone la serie temporale in più componenti se questi sono presenti nella serie temporale. I componenti includono tendenza, stagionalità, festività, variazioni graduali, picchi e cali. Per ulteriori dettagli, consulta la pipeline di generazione di modelli ARIMA_PLUS. ML.EXPLAIN_FORECAST3 N/D
ARIMA_PLUS_XREG Decomposizione delle serie temporali
e
Valori di Shapley		 Decompone la serie temporale in più componenti, tra cui tendenza, stagionalità, festività, variazioni graduali e picchi e cali (simile ad ARIMA_PLUS). L'attribuzione di ogni regressore esterno viene calcolata in base ai valori di Shapley, che sono uguali a model weight * feature value. ML.EXPLAIN_FORECAST3 N/D

1ML_EXPLAIN_PREDICT è una versione estesa di ML.PREDICT.

2ML.GLOBAL_EXPLAIN restituisce la spiegabilità globale ottenuta calcolando l'attribuzione assoluta media che ogni caratteristica riceve per tutte le righe nel set di dati di valutazione.

3ML.EXPLAIN_FORECAST è una versione estesa di ML.FORECAST.

4ML.ADVANCED_WEIGHTS è una versione estesa di ML.WEIGHTS.

Passaggi successivi