Vertex AI Agent Engine 簡介

Vertex AI Agent Engine 是 Vertex AI 平台的一部分,這組服務可讓開發人員在正式環境中部署、管理及調度 AI 代理。Agent Engine 會處理基礎架構,以便在正式環境中調度代理,讓您專心打造應用程式。Vertex AI Agent Engine 提供下列服務,可單獨或搭配使用:

  • 執行階段

    • 透過代管執行階段和端對端管理功能部署及擴充代理程式。
    • 使用系統依附元件的建構時間安裝指令碼,自訂代理程式的容器映像檔。
    • 使用安全性功能,包括 VPC-SC 法規遵循和驗證與 IAM 設定。
    • 存取模型和工具,例如函式呼叫
    • 部署使用不同 Python 架構Agent2Agent 開放通訊協定建構的代理。
  • 品質和評估 (搶先版):使用整合式 Gen AI Evaluation Service 評估代理程式品質,並透過 Gemini 模型訓練執行作業,最佳化代理程式。

  • 樣本儲存庫 (搶先版):儲存及動態擷取少量樣本,提升代理程式成效。

  • 工作階段 (搶先版):代理程式引擎工作階段可儲存使用者與代理之間的個別互動,提供明確的對話脈絡來源。

  • 記憶庫 (搶先體驗):Agent Engine 記憶庫可讓您儲存及擷取工作階段中的資訊,以便提供個人化的代理互動體驗。

  • 程式碼執行 (搶先版):Agent Engine 程式碼執行功能可讓代理程式在安全、獨立且受管理的沙箱環境中執行程式碼。

  • 可觀測性:透過 Google Cloud Trace (支援 OpenTelemetry)、Cloud MonitoringCloud Logging 瞭解代理程式行為。

  • 管理:Vertex AI Agent Engine 支援多項功能,可協助您管理正式環境中的代理,並滿足安全性與企業需求:

    • 使用 Security Command Center 偵測威脅Agent Engine 威脅偵測 (預先發布版) 是 Security Command Center 的內建服務,可協助您偵測及調查部署至 Vertex AI Agent Engine Runtime 的代理程式,是否遭到潛在攻擊。

    • 代理程式身分 (搶先版): 使用 Identity Access Management (IAM) 代理程式身分,在 Vertex AI Agent Engine 執行階段使用代理程式時,提供安全防護和存取權管理功能。

Vertex AI Agent Engine 概念總覽

Vertex AI Agent Engine 是 Vertex AI Agent Builder 的一部分,這組功能可用於探索、建構及部署 AI 代理。

在 Vertex AI Agent Engine 建立及部署

注意:如要透過 IDE 簡化 Vertex AI Agent Engine 的開發和部署體驗,請考慮使用代理入門套件。提供可立即使用的範本、內建實驗用 UI,並簡化部署、作業、評估、自訂和可觀測性。

在 Vertex AI Agent Engine 上建構代理的流程如下:

步驟 說明
1. 設定環境 設定 Google 專案,並安裝最新版 Vertex AI SDK for Python。
2. 開發代理程式 開發可部署在 Vertex AI Agent Engine 上的代理。
3. 部署代理程式 在 Vertex AI Agent Engine 代管執行階段部署代理。
4. 使用代理程式 傳送 API 要求來查詢代理程式。
5. 管理已部署的代理程式 管理及刪除已部署至 Vertex AI Agent Engine 的代理。

下圖說明這些步驟:

建立及部署代理程式 

支援的架構

下表說明 Vertex AI Agent Engine 對各種代理程式架構的支援程度:

支援級別 代理架構
自訂範本:您可以調整自訂範本,支援從架構部署至 Vertex AI Agent Engine。 CrewAI自訂架構
整合 Vertex AI SDK:Vertex AI Agent Engine 會在 Vertex AI SDK 和說明文件中,提供每個架構的受管理範本。 AG2LlamaIndex
完整整合:這些功能已整合,可在架構、Vertex AI Agent Engine 和更廣泛的 Google Cloud 生態系統中運作。 Agent Development Kit (ADK)LangChainLangGraph

使用 Agent Starter Pack 部署至正式環境

代理程式入門套件是一系列適用於正式環境的生成式 AI 代理程式範本,專為 Vertex AI Agent Engine 而建。Agent Starter Pack 提供下列項目:

  • 預先建構的代理範本:ReAct、RAG、多代理和其他範本。
  • 互動式遊樂場:測試及使用代理。
  • 自動化基礎架構:使用 Terraform 簡化資源管理。
  • 持續整合/持續部署管道:運用 Cloud Build 的自動部署工作流程。
  • 可觀測性:內建支援 Cloud Trace 和 Cloud Logging。

如要開始使用,請參閱快速入門

用途

如要透過端對端範例瞭解 Vertex AI Agent Engine,請參閱下列資源:

用途 說明 連結
連線至公開 API 來建構代理程式 換算貨幣。

建立可連結至匯率應用程式的函式,讓模型能準確回答「今天歐元兌美元的匯率是多少?」等查詢。
Vertex AI SDK for Python 筆記本 - 簡介如何使用 Vertex AI Agent Engine 建構及部署代理程式
設計社區太陽能專案。

找出潛在位置、查詢相關政府機關和供應商,並查看區域和建築物的衛星圖像和太陽能發電潛力,找出安裝太陽能面板的最佳位置。
Vertex AI SDK for Python 筆記本 - 使用 Vertex AI Agent Engine 建構及部署 Google Maps API 代理程式
連結至資料庫來建構代理程式 與 AlloyDB 和 PostgreSQL 適用的 Cloud SQL 整合。 網誌文章 - 宣布在 Vertex AI Agent Builder 中推出適用於 AlloyDB 和 PostgreSQL 適用的 Cloud SQL 的 LangChain

Python 適用的 Vertex AI SDK 筆記本 - 將使用 PostgreSQL 適用的 Cloud SQL 的 RAG 應用程式部署至 Vertex AI Agent Engine

Python 適用的 Vertex AI SDK 筆記本 - 將使用 AlloyDB for PostgreSQL 的 RAG 應用程式部署至 Vertex AI Agent Engine
使用可存取資料庫中資料的工具建構代理程式。 Vertex AI SDK for Python 筆記本 - 使用 Vertex AI Agent Engine 和 MCP Toolbox for Databases 部署代理程式
使用自然語言查詢及瞭解結構化資料存放區。 Vertex AI SDK for Python 筆記本 - 使用 Vertex AI Agent Engine 和 Vertex AI Search 上的 RAG 建構對話式搜尋代理
使用自然語言查詢及瞭解圖形資料庫 網誌文章 - 使用 Vertex AI Agent Engine、LangChain 和 Neo4j 建構 GenAI GraphRAG 和 AI 代理
使用自然語言查詢及瞭解向量儲存庫 網誌文章 - 使用 MongoDB Atlas 和 Vertex AI Agent Engine 簡化生成式 AI RAG
使用 Agent Development Kit 建構代理 使用 Agent Development Kit 建構及部署代理。 Agent Development Kit - 部署至 Vertex AI Agent Engine
使用快速模式在不同貨幣間轉換。

建立可連線至匯率應用程式的函式,讓模型能準確回答「今天的歐元兌美元匯率是多少?」等查詢,並以 Vertex AI 快捷模式部署至 Agent Engine,不必支付費用。
Vertex AI SDK for Python 筆記本 - 在 Vertex AI Express 模式中部署至 Vertex AI Agent Engine。
在 Vertex AI Express 模式中,使用 Vertex AI Agent Engine 工作階段和 Memory Bank 管理情境,無須付費。 Agent Development Kit - Vertex AI Express 模式中的 Vertex AI Agent Engine 工作階段和 Memory Bank。
使用 OSS 框架建構代理 使用 OneTwo 開放原始碼架構建構及部署代理程式。 網誌文章 - OneTwo 和 Vertex AI Agent Engine:探索 Google Cloud上的進階 AI 代理程式開發作業
使用 LangGraph 開放原始碼架構建構及部署代理程式。 Vertex AI SDK for Python 筆記本 - 使用 Vertex AI Agent Engine 建構及部署 LangGraph 應用程式
偵錯及最佳化代理 使用 OpenTelemetry 和 Cloud Trace 建構及追蹤代理程式。 Vertex AI SDK for Python 筆記本 - 偵錯及最佳化代理程式:Vertex AI Agent Engine 中的追蹤指南
使用 A2A 通訊協定建構多代理系統 (搶先版) 建構可互通的代理程式,無論架構為何,都能與其他代理程式通訊及協作。 詳情請參閱 A2A 通訊協定說明文件

企業安全性

Vertex AI Agent Engine 支援多項功能,可協助您符合企業安全防護規定、遵守貴機構的安全防護政策,以及遵循安全防護最佳做法。支援的功能如下:

  • VPC Service Controls:Vertex AI Agent Engine 支援 VPC Service Controls,可強化資料安全性並降低資料竊取風險。設定 VPC Service Controls 後,已部署的代理程式會保留 Google API 和服務 (例如 BigQuery API、Cloud SQL Admin API 和 Vertex AI API) 的安全存取權,確保在您定義的範圍內順暢運作。最重要的是,VPC Service Controls 可有效封鎖所有公開網際網路存取權,將資料移動限制在授權網路邊界內,大幅提升企業安全狀態。

  • Private Service Connect 介面:對於 Vertex AI Agent Engine Runtime,PSC-I 可讓代理程式與使用者虛擬私有雲中私下代管的服務互動。詳情請參閱「搭配 Vertex AI Agent Engine 使用 Private Service Connect 介面」。

  • 客戶自行管理的加密金鑰 (CMEK):Vertex AI Agent Engine 支援 CMEK,可使用您自己的加密金鑰保護資料,讓您擁有及全權控管用來保護 Google Cloud靜態資料的金鑰。詳情請參閱「Agent Engine CMEK」。

  • 資料落地 (DRZ):Vertex AI Agent Engine 支援資料落地 (DRZ),確保所有靜態和使用中的資料都儲存在指定區域。

  • HIPAA:Vertex AI Agent Engine 是 Vertex AI 平台的一部分,支援 HIPAA 工作負載。

  • 資料存取透明化控管機制:資料存取透明化控管機制可記錄 Google 人員存取您的內容時所執行的操作,並提供記錄檔給您查看。如要進一步瞭解如何為 Vertex AI Agent Engine 啟用資料存取透明化控管機制,請參閱 Vertex AI 的資料存取透明化控管機制

下表列出各 Agent Engine 服務支援的企業安全防護功能:

安全防護功能 執行階段 工作階段 記憶庫 樣本儲存庫 程式碼執行
VPC Service Controls
客戶自行管理的加密金鑰
靜態資料落地 (DRZ)
使用資料落地 (DRZ) *
HIPAA
資料存取透明化控管機制

* 僅適用於使用 Gemini 地區端點

支援快速模式

Vertex AI Agent Engine 支援快捷模式下的 Vertex AI。這樣一來,您就能使用 Vertex AI Agent Engine,而不必建立 Google Cloud 專案。

在快捷模式中,Vertex AI Agent Engine 支援下列項目:

  • (免費或付費方案) 在代理程式的用戶端開發期間,您可以使用 API 金鑰,透過 Vertex AI 快捷模式存取 Vertex AI Studio 中的模型。

  • (免費或付費層級) 在快速模式中,您可以建立 ReasoningEngine 執行個體,使用「工作階段」和「記憶體庫」服務。

  • 您可以使用下列方法部署代理到 Vertex AI Agent Engine:

    • (免費或付費層級) 從來源檔案: 直接從本機原始碼部署代理程式,不需使用 Cloud Storage 值區。

    • (僅限付費層級) 從代理程式物件:您必須在快速模式帳戶中啟用帳單。這是因為從代理程式物件部署時,需要 Cloud Storage 值區來儲存代理程式程式碼和構件,而 Cloud Storage 需要使用計費的快速模式。

支援的地區

如需 Vertex AI Agent Engine 支援的地區清單,請參閱「位置」一文。

配額

如需 Vertex AI Agent Engine 配額資訊,請參閱「配額和系統限制」。

定價

Vertex AI Agent Engine 執行階段提供免費方案。

如需 Agent Engine Runtime 的定價資訊,請參閱 Vertex AI 定價

遷移至以用戶端為基礎的 SDK

Vertex AI SDK for Python 中的 agent_engines 模組正在重構為以用戶端為基礎的設計,主要原因如下:

  • Google ADK 和 Google Gen AI SDK 中的標準型別表示法保持一致。 這可確保不同 SDK 的資料類型表示方式一致且標準化,簡化互通性並減少轉換負擔。
  • 在多專案多地點應用程式中,以用戶端層級限定 Google Cloud 參數。 這樣一來,應用程式就能透過設定每個用戶端例項的專案和位置設定,管理不同 Google Cloud 專案和地理位置的資源互動。
  • 提升 Vertex AI Agent Engine 服務的曝光度和一致性

後續步驟