本頁提供 Spanner Agent Platform 整合總覽。Spanner Agent Platform 整合功能支援 GoogleSQL 和 PostgreSQL 資料庫。
有了 Spanner Agent Platform 整合功能，您就能透過 GoogleSQL 和 PostgreSQL 介面，存取託管於 Agent Platform 的分類器和迴歸機器學習模型。這有助於將機器學習預測服務功能，與使用 DQL/DML 查詢執行的一般 Spanner 資料存取作業順暢整合。
整合 Spanner Agent Platform 的優點
與分別存取 Spanner 資料和 Agent Platform 預測端點的方法相比，使用 Spanner Agent Platform 整合服務產生機器學習預測結果有下列優點：
- 效能：
- 延遲時間更短：Spanner Agent Platform 整合功能可直接與 Agent Platform 服務通訊，因此在執行 Spanner 用戶端的運算節點與 Agent Platform 服務之間，不會有額外的往返行程。
- 提升處理量/平行處理能力：Spanner Agent Platform 整合功能會在 Spanner 的分散式查詢處理基礎架構上執行，支援高度可平行處理的查詢執行作業。
- 使用者體驗：
- 使用單一、簡單、連貫且熟悉的 SQL 介面，即可在 Spanner 規模層級上，同時簡化資料轉換和機器學習服務情境，降低機器學習的入門門檻，並提供更流暢的使用者體驗。
- 費用：
- Spanner Agent Platform 整合功能會使用 Spanner 運算容量，合併機器學習運算和 SQL 查詢執行的結果，因此不需要為此額外佈建運算資源 (例如在 Compute Engine 或 Google Kubernetes Engine 中)。
Spanner Agent Platform 整合的運作方式
Spanner Agent Platform 整合功能不會託管機器學習模型，而是依賴 Agent Platform 服務基礎架構。如要透過 Spanner Agent Platform 整合功能使用模型，不必使用 Agent Platform 訓練模型，但必須將模型部署至 Agent Platform 端點。
如要使用 Spanner 中儲存的資料訓練模型，可以採取下列做法：
Spanner Agent Platform 整合功能擴充了下列使用機器學習模型的功能：
在 Spanner 資料上使用 SQL 呼叫模型，產生機器學習預測結果。您可以使用 Agent Platform Model Garden 中的模型，或部署至 Agent Platform 端點的模型。
生成文字嵌入，讓 LLM 將文字提示轉換為數字。如要進一步瞭解嵌入，請參閱「取得文字嵌入」。
使用 Spanner Agent Platform 整合函式
您可以使用 Spanner Agent Platform 整合服務中的模型，透過 ML Predict 函式在 SQL 程式碼中生成預測或文字嵌入。這些函式如下：
GoogleSQL
您可以使用下列 GoogleSQL 的 ML 預測函式：
您必須先使用 CREATE MODEL DDL 陳述式註冊模型，才能搭配 ML.PREDICT 函式使用。
您也可以使用 SAFE.ML.PREDICT 傳回 null，而非預測中的錯誤。如果執行大型查詢時，可以容許部分預測失敗，這項功能就很有幫助。
PostgreSQL
您可以搭配 PostgreSQL 使用下列 ML 預測函式：
如要使用函式，您可以從 Agent Platform Model Garden 選取模型，也可以使用已部署至 Agent Platform 的模型。
如要進一步瞭解如何在 Agent Platform 中將模型部署至端點，請參閱「將模型部署至端點」。
如要進一步瞭解如何使用這些函式產生機器學習預測結果，請參閱「使用 SQL 產生機器學習預測結果」。
如要進一步瞭解如何使用這些函式生成文字嵌入，請參閱「取得文字嵌入」。
定價
將 Spanner 與 Spanner Agent Platform 整合時，Spanner 不會收取額外費用。 不過，這項功能可能產生其他費用：
您需要支付 Agent Platform 線上預測的標準費率。總費用取決於使用的模型類型。部分模型類型會採用固定的小時費率，具體取決於您使用的機型和節點數量。部分模型類型會收取每次通話費用。建議您在已設定明確預測配額的專案中，部署後者。
您需要為 Spanner 和 Agent Platform 之間的資料移轉支付標準費率。總費用取決於執行查詢的伺服器所在區域，以及呼叫的端點所在區域。為減少這方面的費用，請在與 Spanner 執行個體相同的區域中部署 Agent Platform 端點。使用多區域例項設定或多個 Agent Platform 端點時，請在同一洲部署端點。
服務水準協議
由於 Agent Platform 線上預測服務的可用性較低，因此您必須正確設定 Spanner ML 模型，才能在使用 Spanner Agent Platform 整合服務時，維持 Spanner 的高可用性：
- Spanner 機器學習模型必須在後端使用多個 Agent Platform 端點，才能啟用容錯移轉。
- Agent Platform 端點必須符合 Agent Platform 服務水準協議。
- Agent Platform 端點必須提供足夠的容量，才能處理傳入的流量。
- Agent Platform 端點必須使用靠近 Spanner 資料庫的不同區域，以免發生區域性中斷。
- Agent Platform 端點應使用個別專案，以免發生專案預測配額問題。
冗餘 Agent Platform 端點的數量取決於其服務等級協議，以及 Spanner 查詢中的資料列數：
| Spanner 服務水準協議 | Agent Platform 服務水準協議 | 1 個資料列 | 10 列 | 100 列 | 1000 列 |
|---|---|---|---|---|---|
| 99.99% | 99.9% | 2 | 2 | 2 | 3 |
| 99.99% | 99.5% | 2 | 3 | 3 | 4 |
| 99.999% | 99.9% | 2 | 2 | 3 | 3 |
| 99.999% | 99.5% | 3 | 3 | 4 | 4 |
Agent Platform 端點不需要託管完全相同的模型。建議您將 Spanner 機器學習模型設定為以主要、複雜且運算密集型模型做為第一個端點。後續的容錯移轉端點可以指向運算密集度較低、擴充性較佳且可吸收流量尖峰的簡化模型。
限制
- 模型輸入和輸出內容必須是 JSON 物件。
法規遵循
Assured Workloads 不支援 Agent Platform Prediction API。啟用「限制資源用量」限制會停用 Agent Platform API，以及 Spanner Agent Platform 整合功能。
此外，建議您建立 VPC Service Controls perimeter，確保生產資料庫無法連線至非生產專案中的 Agent Platform 端點，因為這些專案可能沒有適當的法規遵循設定。