本文提供 Cloud Build 最佳做法和指南,適用於在 Google Cloud上執行生成式 AI 工作負載的情況。使用 Cloud Build 和 Vertex AI,在 Google Cloud上建構、測試及部署無伺服器 CI/CD 平台。
以下是搭配使用 Cloud Build 與 Vertex AI 的應用實例:
- 自動建構機器學習管道:Cloud Build 可自動建構及測試 Vertex AI Pipelines 中定義的機器學習管道。這項自動化功能可協助您更快且更一致地建構及部署模型。
- 建構自訂容器映像檔以供部署:Cloud Build 可為模型服務環境建構自訂容器映像檔。Cloud Build 可將模型程式碼、依附元件和執行階段環境封裝至單一映像檔,然後部署至 Vertex AI Inference,用於提供預測結果。
- 整合 CI/CD 工作流程:Cloud Build 可讓您在 CI/CD 工作流程中,自動建構及部署機器學習模型。這項自動化功能可確保模型為最新版本,並部署至實際工作環境。
- 根據程式碼變更觸發建構作業:當模型程式碼或管道定義有變更時,Cloud Build 可以自動觸發建構作業。這項自動化功能可確保模型是使用最新程式碼建構,且所有變更都會自動部署至正式環境。
- 取得可擴充且安全的基礎架構:Cloud Build 會使用可擴充且安全的基礎架構來建構及部署模型。Google Cloud這種可擴充性表示您不必擔心管理自己的基礎架構,可以專注於開發模型。
- 支援多種程式設計語言:Cloud Build 支援多種程式設計語言,包括 Python、Java、Go 和 Node.js。這項支援功能可讓您使用所選語言建構模型。
- 使用預先建構的建構步驟:為簡化建構程序,Cloud Build 提供常見 ML 工作的預先建構建構步驟,例如安裝依附元件、執行測試,以及將映像檔推送至容器登錄檔。
- 建立自訂建構步驟:您可以在 Cloud Build 中定義自己的自訂建構步驟,以便在建構程序期間執行任意程式碼。
- 為其他 Vertex AI 服務建構構件: Cloud Build 可為其他 Vertex AI 服務建構構件,例如 Vertex AI 特徵儲存庫和 Vertex AI 資料標註。這種彈性有助於在 Google Cloud上建構完整的機器學習工作流程。
- 打造經濟實惠的解決方案:Cloud Build 採用「即付即用」的定價模式,因此您只需要為實際使用的資源付費。
必要的 Cloud Build 控制項
使用 Cloud Build 時,強烈建議您採用下列控制項。
定義允許的私人集區
| Google 控制項 ID | CBD-CO-6.1 |
|---|---|
| 類別 | 必要 |
| 說明 |
請使用下列其中一種格式,定義允許或拒絕的工作站集區清單:
|
| 適用產品 |
|
| 路徑 | constraints/cloudbuild.allowedWorkerPools |
| 運算子 | = |
| 類型 | 字串 |
| 相關的 NIST-800-53 控制項 |
|
| 相關的 CRI 設定檔控制項 |
|
| 相關資訊 |
定義可叫用建構觸發條件的外部服務
| Google 控制項 ID | CBD-CO-6.2 |
|---|---|
| 類別 | 必要 |
| 說明 |
|
| 適用產品 |
|
| 路徑 | constraints/cloudbuild.allowedIntegrations |
| 運算子 | = |
| 類型 | 清單 |
| 相關的 NIST-800-53 控制項 |
|
| 相關的 CRI 設定檔控制項 |
|
| 相關資訊 |
為 VM 執行個體定義允許的外部 IP 位址
| Google 控制項 ID | CBD-CO-6.3 |
|---|---|
| 類別 | 必要 |
| 說明 |
|
| 適用產品 |
|
| 路徑 | compute.vmExternalIpAccess |
| 運算子 | = |
| 值 |
|
| 類型 | 清單 |
| 相關的 NIST-800-53 控制項 |
|
| 相關的 CRI 設定檔控制項 |
|
| 相關資訊 |
後續步驟
查看 Cloud DNS 控制項。
參閱這篇文章,瞭解更多生成式 AI 工作負載適用的Google Cloud 安全性最佳做法和指南。