模型推論總覽

本文說明 BigQuery ML 支援的批次推論類型，包括：

機器學習推論是指將資料點傳送至機器學習模型，據此計算輸出結果 (例如單一數值分數)。這個程序也稱為「運作機器學習模型」或「將機器學習模型投入實際工作環境」。

批次預測

以下各節說明在 BigQuery ML 中執行預測的方法。

使用 BigQuery ML 訓練模型進行推論

BigQuery ML 的預測功能不僅適用於監督式學習模型，也適用於非監督式學習模型。

BigQuery ML 透過 ML.PREDICT 函式支援預測功能，並提供下列模型：

模型類別 模型類型 ML.PREDICT 的功能
監督式學習 線性與邏輯迴歸

Boosted Trees

隨機森林

深層類神經網路

Wide-and-Deep

AutoML Tables 		預測標籤，可以是迴歸任務的數值，或分類任務的類別值。
非監督式學習 K-means 將叢集指派給實體。
PCA 將實體轉換為特徵向量所跨越的空間，對實體套用降維。
自動編碼器 將實體轉換為嵌入空間。

使用匯入的模型進行推論

採用這種方法時，您會在 BigQuery 外部建立及訓練模型，使用 CREATE MODEL 陳述式匯入模型，然後使用 ML.PREDICT 函式對模型執行推論。所有推論處理作業都會在 BigQuery 中進行，並使用 BigQuery 的資料。匯入的模型可執行監督式或非監督式學習。

BigQuery ML 支援下列類型的匯入模型：

這種方法可讓您使用以各種機器學習架構開發的自訂模型，同時享有 BigQuery ML 的推論速度和資料共置優勢。

如要瞭解詳情，請嘗試下列其中一項教學課程：

使用遠端模型推論

這種方法可讓您使用 CREATE MODEL 陳述式，建立託管於 Vertex AI Inference 的模型參照，然後使用 ML.PREDICT 函式對該模型執行推論。所有推論處理作業都會在 Agent Platform 中進行，並使用 BigQuery 的資料。遠端模型可執行監督式或非監督式學習。

如要對大型模型執行推論，且需要 Agent Platform 提供的 GPU 硬體支援，請採用這個方法。如果大部分模型都託管於 Agent Platform，您也可以使用 SQL 對這些模型執行推論，不必手動建構資料管道，將資料傳送至 Agent Platform，再將預測結果傳回 BigQuery。

如需逐步說明，請參閱「在 Agent Platform 使用遠端模型進行預測」。

在 Agent Platform 使用 BigQuery 模型進行批次推論

BigQuery ML 內建批次預測功能，不需使用 Agent Platform。您也可以將 BigQuery ML 模型註冊至 Model Registry，以便在 Agent Platform 中使用 BigQuery 資料表做為輸入內容，執行批次預測。不過，這項操作只能透過 Agent Platform API 完成，並將 InstanceConfig.instanceType 設為 object。

線上預測

BigQuery ML 的內建推論功能已針對大規模用途 (例如批次預測) 進行最佳化。雖然 BigQuery ML 在處理小型輸入資料時，可提供低延遲的推論結果，但與 Gemini Enterprise Agent Platform 完美整合後，可加快線上預測速度。

您可以在 Gemini Enterprise Agent Platform 環境中管理 BigQuery ML 模型，這樣就不必先從 BigQuery ML 匯出模型，再部署為 Gemini Enterprise Agent Platform 端點。在 Gemini Enterprise Agent Platform 中管理模型，即可使用所有 Gemini Enterprise Agent Platform MLOps 功能，以及 Vertex AI 特徵儲存庫 等功能。

此外，您也可以彈性地將 BigQuery ML 模型匯出至 Cloud Storage，以便在其他模型託管平台上使用。

後續步驟