Agent Runtime 是一組服務,可讓開發人員在正式環境中部署、管理及擴充 AI 代理。Agent Runtime 會處理基礎架構,以便在正式環境中調度代理,讓您專心打造應用程式。Agent Runtime 提供下列服務,可單獨或合併使用:
- 執行階段:
- 部署及調度代理,並透過代管執行階段和端對端管理功能進行管理。
- 使用系統依附元件的建構時間安裝指令碼,自訂代理程式的容器映像檔。
- 使用安全性功能,包括 VPC-SC 法規遵循,以及驗證和 IAM 設定。
- 存取函式呼叫等模型和工具。
- 部署使用不同 Python 架構和 Agent2Agent 開放通訊協定建構的代理。
- 品質和評估 (搶先版):使用整合式 Gen AI Evaluation Service 評估代理品質,並透過 Gemini 模型訓練執行作業,最佳化代理。
- Agent Platform 工作階段:Agent Platform 工作階段可讓您儲存使用者與代理之間的個別互動,提供對話脈絡的明確來源。
- Agent Platform Memory Bank:Agent Runtime Agent Platform Memory Bank 可讓您儲存及擷取工作階段中的資訊,以便提供個人化的代理互動體驗。
- 程式碼執行: 代理程式執行階段程式碼執行功能可讓代理程式在安全、隔離且受管理的沙箱環境中執行程式碼。
- 樣本儲存庫 (搶先版):儲存及動態擷取少量樣本,提升代理程式效能。
- 可觀測性:透過 Google Cloud Trace (支援 OpenTelemetry)、Cloud Monitoring 和 Cloud Logging,瞭解代理程式行為。
- 控管:Agent Runtime 支援多項功能,可協助您控管正式版代理程式,並滿足安全性與企業需求:
- 使用 Security Command Center 偵測威脅:Agent Runtime Threat Detection (搶先版) 是 Security Command Center 的內建服務,可協助您偵測及調查部署至 Agent Runtime 的代理程式,是否遭到潛在攻擊。
- 代理程式身分 (搶先版):使用 Identity Access Management (IAM) 代理程式身分,在 Agent Runtime 上使用代理程式時,提供安全性和存取權管理功能。
- Agent Gateway (預先發布版):使用 Agent Gateway 定義代理式通訊的規則,並針對連入及連出Google Cloud 專案的代理、用戶端和工具,強制執行安全性和存取控管政策。
在 Agent Runtime 中建立及部署
在 Agent Runtime 上建構代理程式的工作流程如下:
- 設定環境:設定 Google 專案,並安裝最新版的 Agent Platform SDK for Python。
- 開發代理程式:開發可部署至 Agent Runtime 的代理程式。
- 部署代理:在 Agent Runtime 代管執行階段部署代理。
- 使用代理程式:傳送 API 要求來查詢代理程式。
- 管理已部署的代理:管理及刪除已部署至 Agent Runtime 的代理。
下圖說明這些步驟:
支援的架構
下表說明 Agent Runtime 對各種代理程式架構的支援程度:
| 支援級別 | 代理架構 |
|---|---|
| 自訂範本:您可以調整自訂範本,支援從架構部署至 Agent Runtime。 | CrewAI、 自訂架構 |
| 整合 Agent Platform SDK:Agent Runtime 會在 Agent Platform SDK 和說明文件中,為每個框架提供受管理的範本。 | AG2, LlamaIndex |
| 完整整合:各項功能已整合完畢,可跨架構、Agent Runtime 和更廣泛的 Google Cloud 生態系統運作。 | Agent Development Kit (ADK)、LangChain、LangGraph |
使用 Agents CLI 部署至正式環境
Agents CLI 是 Gemini Enterprise Agent Platform 的統一指令列介面和技能組合。為程式設計代理和開發人員提供可預測的路徑,完成代理開發生命週期:支架、評估、部署、發布及觀察。Agents CLI 提供下列功能:
- 預建代理範本:ReAct、RAG、多代理和其他範本。
- 互動式遊樂場:測試及使用代理。
- 自動化基礎架構:使用 Terraform 簡化資源管理。
- CI/CD 管道:運用 Cloud Build 的自動部署工作流程。
- 觀測功能:內建支援 Cloud Trace 和 Cloud Logging。
如要開始使用,請參閱快速入門導覽課程。
用途
如要透過端對端範例瞭解 Agent Runtime,請參閱下列資源:
按一下即可展開應用實例
企業安全性
Agent Runtime 支援多項功能,可協助您符合企業安全規定、遵守貴機構的安全政策,以及遵循安全最佳做法。支援的功能如下:
VPC Service Controls:Agent Runtime 支援 VPC Service Controls,可強化資料安全性,並降低資料竊取風險。詳情請參閱「Agent Runtime VPC Service Controls」。
Private Service Connect 介面:對於 Agent Runtime,PSC-I 可讓代理程式與使用者虛擬私有雲中私下代管的服務互動。詳情請參閱「使用 Private Service Connect 介面搭配 Agent Runtime」。
客戶自行管理的加密金鑰 (CMEK):Agent Runtime 支援 CMEK,可使用您自己的加密金鑰保護資料,讓您擁有及完全控管用來保護 Google Cloud靜態資料的金鑰。詳情請參閱「代理程式執行階段 CMEK」。
資料落地 (DRZ):Agent Runtime 支援資料落地 (DRZ),確保所有靜態資料都儲存在指定區域。
HIPAA:Agent Runtime 是 Agent Platform 的一部分,支援《HIPAA》工作負載。
資料存取透明化控管機制:資料存取透明化控管機制可記錄 Google 人員存取您的內容時所執行的操作,並提供記錄檔給您查看。如要進一步瞭解如何為 Agent Runtime 啟用資料存取透明化控管機制,請參閱「Agent Platform 中的資料存取透明化控管機制」。
下表列出各 Agent Platform 服務支援的企業安全功能:
| 安全防護功能 | Agent Runtime | 工作階段 | Memory Bank | 樣本儲存庫 | 程式碼執行 |
|---|---|---|---|---|---|
| VPC Service Controls | 是 | 是 | 是 | 否 | 是 |
| 客戶自行管理的加密金鑰 | 是 | 是 | 是 | 否 | 是 |
| 靜態資料落地 (DRZ) | 是 | 是 | 是 | 否 | 是 |
| HIPAA | 是 | 是 | 是 | 是 | 是 |
| 資料存取透明化控管機制 | 是 | 是 | 是 | 否 | 否 |
| 存取權核准 | 是 | 是 | 是 | 否 | 否 |
支援的地區
如需 Agent Runtime 支援的區域清單,請參閱「位置」。
配額
如要瞭解 Agent Runtime 配額資訊,請參閱「配額與系統限制」。
定價
代理程式執行階段提供免費方案。如要瞭解 Agent Runtime 的定價資訊,請參閱 Gemini Enterprise Agent Platform 定價。
遷移至以用戶端為基礎的 SDK
Agent Platform SDK 中的 agent_engines 模組正在重構為以用戶端為基礎的設計,主要原因如下:
- 為與 Agent Development Kit (ADK) 和 Google Gen AI SDK 保持一致,這可確保不同 SDK 間的資料類型表示方式一致且標準化,進而簡化互通性並減少轉換負擔。
- 在多專案多地點應用程式中,以用戶端層級設定 Google Cloud 參數範圍。這樣一來,應用程式就能透過設定每個用戶端執行個體的特定專案和位置資訊設定,管理不同 Google Cloud 專案和地理位置的資源互動。
- 提高 Agent Runtime 服務的曝光度和一致性