Panoramica dell'inferenza del modello

Questo documento descrive i tipi di inferenza batch supportati da BigQuery ML, tra cui:

L'inferenza del machine learning è il processo di esecuzione di punti dati in un modello di machine learning per calcolare un output, ad esempio un singolo punteggio numerico. Questo processo è anche noto come "operazionalizzazione di un modello di machine learning" o "messa in produzione di un modello di machine learning".

Previsione in batch

Le sezioni seguenti descrivono i modi disponibili per eseguire la previsione in BigQuery ML.

Inferenza utilizzando i modelli addestrati di BigQuery ML

La previsione in BigQuery ML viene utilizzata non solo per i modelli di apprendimento supervisionato, ma anche per i modelli di apprendimento non supervisionato.

BigQuery ML supporta le funzionalità di previsione tramite la funzione ML.PREDICT, con i seguenti modelli:

Categoria di modello Tipi di modelli Cosa fa ML.PREDICT
Apprendimento supervisionato Regressione lineare e logistica

Alberi con boosting

Foresta casuale

Reti neurali profonde

Wide & Deep

AutoML Tables 		Prevedere l'etichetta, un valore numerico per le attività di regressione o un valore categorico per le attività di classificazione.
Apprendimento non supervisionato K-means Assegna il cluster all'entità.
PCA Applica la riduzione della dimensionalità all'entità trasformandola nello spazio generato dagli autovettori.
Autoencoder Trasforma l'entità nello spazio di embedding.

Inferenza con modelli importati

Con questo approccio, crei e addestri un modello al di fuori di BigQuery, lo importi utilizzando l'istruzione CREATE MODEL e poi esegui l'inferenza utilizzando la funzione ML.PREDICT. Tutta l'elaborazione dell'inferenza avviene in BigQuery, utilizzando i dati di BigQuery. I modelli importati possono eseguire l'apprendimento supervisionato o non supervisionato.

BigQuery ML supporta i seguenti tipi di modelli importati:

Utilizza questo approccio per sfruttare i modelli personalizzati sviluppati con una serie di framework ML, sfruttando al contempo la velocità di inferenza di BigQuery ML e la collocazione con i dati.

Per saperne di più, prova uno dei seguenti tutorial:

Inferenza utilizzando modelli remoti

Con questo approccio, puoi creare un riferimento a un modello ospitato in Vertex AI Inference utilizzando l'istruzione CREATE MODEL, quindi eseguire l'inferenza utilizzando la funzione ML.PREDICT. Tutta l'elaborazione dell'inferenza avviene in Agent Platform, utilizzando i dati di BigQuery. I modelli remoti possono eseguire l'apprendimento supervisionato o non supervisionato.

Utilizza questo approccio per eseguire l'inferenza su modelli di grandi dimensioni che richiedono il supporto hardware della GPU fornito da Agent Platform. Se la maggior parte dei tuoi modelli è ospitata da Agent Platform, questo ti consente anche di eseguire l'inferenza su questi modelli utilizzando SQL, senza dover creare manualmente pipeline di dati per trasferire i dati ad Agent Platform e riportare i risultati delle previsioni in BigQuery.

Per istruzioni passo passo, consulta Genera previsioni con modelli remoti su Agent Platform.

Inferenza batch con i modelli BigQuery in Agent Platform

BigQuery ML supporta in modo nativo le previsioni in batch, senza la necessità di utilizzare Agent Platform. È anche possibile registrare un modello BigQuery ML in Model Registry per eseguire previsioni in batch in Agent Platform utilizzando una tabella BigQuery come input. Tuttavia, questa operazione può essere eseguita solo utilizzando l'API Agent Platform e impostando InstanceConfig.instanceType su object.

Previsione online

La funzionalità di inferenza integrata di BigQuery ML è ottimizzata per casi d'uso su larga scala, come le previsioni in batch. Sebbene BigQuery ML fornisca risultati di inferenza a bassa latenza durante la gestione di piccoli dati di input, puoi ottenere previsioni online più rapide grazie all'integrazione perfetta con Gemini Enterprise Agent Platform.

Puoi gestire i modelli BigQuery ML nell'ambiente Gemini Enterprise Agent Platform, eliminando la necessità di esportare i modelli da BigQuery ML prima di eseguirne il deployment come endpoint Gemini Enterprise Agent Platform. Gestendo i modelli all'interno di Gemini Enterprise Agent Platform, ottieni l'accesso a tutte le funzionalità MLOps di Gemini Enterprise Agent Platform e anche a funzionalità come Vertex AI Feature Store.

Inoltre, hai la flessibilità di esportare i modelli BigQuery ML in Cloud Storage per renderli disponibili su altre piattaforme di hosting dei modelli.

Passaggi successivi