Agent Runtime

Agent Runtime 是一組服務,可讓開發人員在正式環境中部署、管理及擴充 AI 代理。Agent Runtime 會處理基礎架構,以便在正式環境中調度代理,讓您專心打造應用程式。Agent Runtime 提供下列服務,可單獨或合併使用:

  • 執行階段
    • 部署及調度代理,並透過代管執行階段和端對端管理功能進行管理。
    • 使用系統依附元件的建構時間安裝指令碼,自訂代理程式的容器映像檔。
    • 使用安全性功能,包括 VPC-SC 法規遵循,以及驗證和 IAM 設定。
    • 存取函式呼叫等模型和工具。
    • 部署使用不同 Python 架構Agent2Agent 開放通訊協定建構的代理。
  • 品質和評估 (搶先版):使用整合式 Gen AI Evaluation Service 評估代理品質,並透過 Gemini 模型訓練執行作業,最佳化代理。
  • Agent Platform 工作階段:Agent Platform 工作階段可讓您儲存使用者與代理之間的個別互動,提供對話脈絡的明確來源。
  • Agent Platform Memory Bank:Agent Runtime Agent Platform Memory Bank 可讓您儲存及擷取工作階段中的資訊,以便提供個人化的代理互動體驗。
  • 程式碼執行: 代理程式執行階段程式碼執行功能可讓代理程式在安全、隔離且受管理的沙箱環境中執行程式碼。
  • 樣本儲存庫 (搶先版):儲存及動態擷取少量樣本,提升代理程式效能。
  • 可觀測性:透過 Google Cloud Trace (支援 OpenTelemetry)、Cloud Monitoring Cloud Logging,瞭解代理程式行為。
  • 控管:Agent Runtime 支援多項功能,可協助您控管正式版代理程式,並滿足安全性與企業需求:
    • 使用 Security Command Center 偵測威脅Agent Runtime Threat Detection (搶先版) 是 Security Command Center 的內建服務,可協助您偵測及調查部署至 Agent Runtime 的代理程式,是否遭到潛在攻擊。
    • 代理程式身分 (搶先版):使用 Identity Access Management (IAM) 代理程式身分,在 Agent Runtime 上使用代理程式時,提供安全性和存取權管理功能。
    • Agent Gateway (預先發布版):使用 Agent Gateway 定義代理式通訊的規則,並針對連入及連出Google Cloud 專案的代理、用戶端和工具,強制執行安全性和存取控管政策。

在 Agent Runtime 中建立及部署

在 Agent Runtime 上建構代理程式的工作流程如下:

  1. 設定環境:設定 Google 專案,並安裝最新版的 Agent Platform SDK for Python。
  2. 開發代理程式:開發可部署至 Agent Runtime 的代理程式。
  3. 部署代理:在 Agent Runtime 代管執行階段部署代理。
  4. 使用代理程式:傳送 API 要求來查詢代理程式。
  5. 管理已部署的代理:管理及刪除已部署至 Agent Runtime 的代理。

下圖說明這些步驟:

建立及部署代理程式 

支援的架構

下表說明 Agent Runtime 對各種代理程式架構的支援程度:

支援級別 代理架構
自訂範本:您可以調整自訂範本,支援從架構部署至 Agent Runtime。 CrewAI自訂架構
整合 Agent Platform SDK:Agent Runtime 會在 Agent Platform SDK 和說明文件中,為每個框架提供受管理的範本。 AG2, LlamaIndex
完整整合:各項功能已整合完畢,可跨架構、Agent Runtime 和更廣泛的 Google Cloud 生態系統運作。 Agent Development Kit (ADK)LangChainLangGraph

使用 Agents CLI 部署至正式環境

Agents CLI 是 Gemini Enterprise Agent Platform 的統一指令列介面和技能組合。為程式設計代理和開發人員提供可預測的路徑,完成代理開發生命週期:支架、評估、部署、發布及觀察。Agents CLI 提供下列功能:

  • 預建代理範本:ReAct、RAG、多代理和其他範本。
  • 互動式遊樂場:測試及使用代理。
  • 自動化基礎架構:使用 Terraform 簡化資源管理。
  • CI/CD 管道:運用 Cloud Build 的自動部署工作流程。
  • 觀測功能:內建支援 Cloud Trace 和 Cloud Logging。

如要開始使用,請參閱快速入門導覽課程

用途

如要透過端對端範例瞭解 Agent Runtime,請參閱下列資源:

按一下即可展開應用實例

用途 說明 連結
連線至公開 API 來建構代理 換算貨幣。

建立可連結至匯率應用程式的函式,讓模型能準確回答「今天歐元兌美元的匯率是多少?」等查詢。
Agent Platform SDK (Python) 筆記本 - 簡介如何使用 Agent Runtime 建構及部署代理程式
設計社區太陽能專案。

找出潛在位置、查詢相關政府機關和供應商,並查看區域和建築物的衛星圖像和太陽能發電潛能,找出安裝太陽能面板的最佳位置。
Agent Platform SDK (Python) 筆記本 - 使用 Agent Runtime 建構及部署 Google Maps API 代理程式
連結至資料庫來建構代理程式 與 AlloyDB 和 PostgreSQL 適用的 Cloud SQL 整合。 網誌文章 - 宣布在 Gemini Enterprise Agent Platform 上推出 LangChain,支援 AlloyDB for PostgreSQL 和 Cloud SQL for PostgreSQL

Agent Platform SDK (Python) 筆記本 - 將使用 Cloud SQL for PostgreSQL 的 RAG 應用程式部署至 Agent Runtime

Agent Platform SDK (Python) 筆記本 - 將使用 AlloyDB for PostgreSQL 的 RAG 應用程式部署至 Agent Runtime
使用可存取資料庫資料的工具建構代理程式。 Agent Platform SDK (Python) 筆記本 - 使用 Agent Runtime 和 MCP Toolbox for Databases 部署代理
使用自然語言查詢及解讀結構化資料儲存區。 Agent Platform SDK (Python) 筆記本 - 使用 Agent Runtime 和 Agent Search 上的 RAG 建構對話式搜尋代理
使用自然語言查詢及解讀圖形資料庫 網誌文章 - 使用 Agent Runtime、LangChain 和 Neo4j 建構生成式 AI GraphRAG 和 AI 代理程式
使用自然語言查詢及解讀向量儲存庫 網誌文章 - 使用 MongoDB Atlas 和 Agent Runtime 簡化生成式 AI RAG
使用 Agent Development Kit 建構代理 使用 Agent Development Kit 建構及部署代理。 Agent Development Kit - 部署至 Agent Runtime
使用 OSS 框架建構代理 使用 OneTwo 開放原始碼架構建構及部署代理程式。 網誌文章 - OneTwo 和 Agent Runtime:探索在「 Google Cloud」上開發進階 AI 代理程式
使用 LangGraph 開放原始碼架構建構及部署代理程式。 Agent Platform SDK (Python) 筆記本 - 使用 Agent Runtime 建構及部署 LangGraph 應用程式
偵錯及最佳化代理 使用 OpenTelemetry 和 Cloud Trace 建構及追蹤代理程式。 Agent Platform SDK (Python) 筆記本 - 偵錯及最佳化代理:Agent Runtime 中的追蹤指南
使用 A2A 通訊協定建構多代理系統 (搶先版) 建構可互通的代理,無論其他代理採用何種架構,都能順暢通訊及協作。 詳情請參閱 A2A 通訊協定說明文件

企業安全性

Agent Runtime 支援多項功能,可協助您符合企業安全規定、遵守貴機構的安全政策,以及遵循安全最佳做法。支援的功能如下:

  • VPC Service Controls:Agent Runtime 支援 VPC Service Controls,可強化資料安全性,並降低資料竊取風險。詳情請參閱「Agent Runtime VPC Service Controls」。

  • Private Service Connect 介面:對於 Agent Runtime,PSC-I 可讓代理程式與使用者虛擬私有雲中私下代管的服務互動。詳情請參閱「使用 Private Service Connect 介面搭配 Agent Runtime」。

  • 客戶自行管理的加密金鑰 (CMEK):Agent Runtime 支援 CMEK,可使用您自己的加密金鑰保護資料,讓您擁有及完全控管用來保護 Google Cloud靜態資料的金鑰。詳情請參閱「代理程式執行階段 CMEK」。

  • 資料落地 (DRZ):Agent Runtime 支援資料落地 (DRZ),確保所有靜態資料都儲存在指定區域。

  • HIPAA:Agent Runtime 是 Agent Platform 的一部分,支援《HIPAA》工作負載。

  • 資料存取透明化控管機制:資料存取透明化控管機制可記錄 Google 人員存取您的內容時所執行的操作,並提供記錄檔給您查看。如要進一步瞭解如何為 Agent Runtime 啟用資料存取透明化控管機制,請參閱「Agent Platform 中的資料存取透明化控管機制」。

下表列出各 Agent Platform 服務支援的企業安全功能:

安全防護功能 Agent Runtime 工作階段 Memory Bank 樣本儲存庫 程式碼執行
VPC Service Controls
客戶自行管理的加密金鑰
靜態資料落地 (DRZ)
HIPAA
資料存取透明化控管機制
存取權核准

支援的地區

如需 Agent Runtime 支援的區域清單,請參閱「位置」。

配額

如要瞭解 Agent Runtime 配額資訊,請參閱「配額與系統限制」。

定價

代理程式執行階段提供免費方案。如要瞭解 Agent Runtime 的定價資訊,請參閱 Gemini Enterprise Agent Platform 定價

遷移至以用戶端為基礎的 SDK

Agent Platform SDK 中的 agent_engines 模組正在重構為以用戶端為基礎的設計,主要原因如下:

  • 為與 Agent Development Kit (ADK) 和 Google Gen AI SDK 保持一致,這可確保不同 SDK 間的資料類型表示方式一致且標準化,進而簡化互通性並減少轉換負擔。
  • 在多專案多地點應用程式中,以用戶端層級設定 Google Cloud 參數範圍。這樣一來,應用程式就能透過設定每個用戶端執行個體的特定專案和位置資訊設定,管理不同 Google Cloud 專案和地理位置的資源互動。
  • 提高 Agent Runtime 服務的曝光度和一致性

後續步驟

指南

設定環境以使用 Agent Platform Runtime。

資源

取得 Agent Platform 開發支援。