生成式 AI 用途的 Cloud Run functions 控制項

本文提供 Cloud Run 函式最佳做法和指南，適用於在 Google Cloud上執行生成式 AI 工作負載的情況。搭配 Vertex AI 使用 Cloud Run functions，即可自動執行工作、提供預測結果、觸發訓練工作、與其他服務整合，以及建構事件驅動型 ML 管道。

以下是搭配使用 Cloud Run functions 與 Vertex AI 的應用實例：

  • 預先處理和後續處理資料的能力：Cloud Run 函式可以預先處理資料，再將資料傳送至 Vertex AI 模型進行訓練或預測。舉例來說，函式可以清理及正規化資料，或從資料中擷取特徵。同樣地，Cloud Run 函式可以後續處理 Vertex AI 模型的輸出內容。舉例來說，函式可以格式化輸出資料，或將資料傳送至其他服務進行深入分析。
  • 自動觸發 Vertex AI 訓練工作：如要自動訓練 Vertex AI 模型，可以使用各種 Google Cloud 服務 (例如 Cloud Storage、Pub/Sub 和 Cloud Scheduler) 的事件觸發 Cloud Run 函式。舉例來說，您可以建立函式，在有新檔案上傳至 Cloud Storage 時觸發。這項函式可以啟動 Vertex AI 訓練工作，根據新資料訓練模型。
  • 提供預測結果：Cloud Run 函式可提供 Vertex AI 模型的預測結果，讓您為模型建立 API 端點，不必管理任何基礎架構。舉例來說，您可以編寫函式，將圖片做為輸入內容，並輸出 Vertex AI 圖像分類模型的預測結果。接著，您可以將這個函式部署為 HTTP API 端點。
  • 事件導向的 ML 工作流程：您可以使用 Cloud Run functions 建構事件導向的 ML 工作流程。舉例來說，當新記錄新增至 Pub/Sub 主題時，函式可以觸發 Vertex AI 預測工作。您可以使用這項函式即時處理資料，並根據模型預測結果採取行動。
  • 與其他服務整合：您可以將 Cloud Run 函式與其他 Google Cloud 服務整合，例如 Cloud Storage、BigQuery 和 Cloud Firestore。整合功能可讓您建構複雜的機器學習管道，將不同服務連結在一起。
  • 成本調整：Cloud Run 函式只會針對函式執行時使用的資源收費。此外，Cloud Run functions 會自動調整資源配置來滿足需求，因此您在流量尖峰時段也能維持適當的資源。

必要的 Cloud Run 函式控制項

使用 Cloud Run 函式時，強烈建議您採用下列控制項。

必須為 Cloud Run functions 指定虛擬私有雲連接器

Google 控制項 ID CF-CO-4.4
類別 必要
說明

cloudfunctions.requireVPCConnector 布林限制會要求管理員在部署 Cloud Run 函式時，指定無伺服器 VPC 存取權連接器。強制執行後，函式必須指定連接器。
適用產品
  • 組織政策服務
  • Cloud Run 函式
路徑 constraints/cloudfunctions.requireVPCConnector
運算子 =
值
  • True
類型 布林值
相關的 NIST-800-53 控制項
  • SC-7
  • SC-8
相關的 CRI 設定檔控制項
  • PR.AC-5.1
  • PR.AC-5.2
  • PR.DS-2.1
  • PR.DS-2.2
  • PR.DS-5.1
  • PR.PT-4.1
  • DE.CM-1.1
  • DE.CM-1.2
  • DE.CM-1.3
  • DE.CM-1.4
相關資訊

後續步驟