使用 Agent Gateway 管理代理流量

在 Google Kubernetes Engine (GKE) 部署自主 AI 代理時,工作負載的運作方式與標準微服務不同。AI 代理會根據使用者提示,自行決定執行路徑,並動態呼叫外部 SaaS API、遠端 Model Context Protocol (MCP) 伺服器或其他內部代理。

由於這種行為不具確定性,標準第 4 層網路防火牆無法完全保護 AI 環境。為確保代理流量安全,您必須評估呼叫代理的身分、嚴格限制允許使用的工具,並清理提示的語意脈絡,防範提示詞注入攻擊等威脅。

如果您是平台管理員、資安工程師或 AI 開發人員,可以使用 Agent Gateway 保護及控管這類代理流量。Agent Gateway 是 GKE 託管代理的中央網路進入和退出點,可直接連線至 Gemini Enterprise Agent Platform 的政策強制執行層。

Agent Gateway 對 AI 工作負載的優點

您可以使用 Agent Gateway,為代理應用程式達成下列目標:

  • 將安全性與代理程式碼分離:AI 開發人員不需要在代理架構中建構複雜的驗證、相互傳輸層安全標準 (mTLS) 或酬載清理邏輯。Agent Gateway 則在平台層處理網路加密和政策執行。
  • 實作無 sidecar 的強制執行機制:GKE 周邊網路會擷取 Pod 外部的代理流量,不需插入 sidecar,也不必變更代理程式碼。此外,它也會根據每個 Pod 的身分,使用 mTLS 加密工作負載之間的流量,因此您不必自行管理憑證。
  • 強制執行 AI 安全防護措施:即時清理傳入的使用者提示和傳出的工具回覆。Agent Gateway 直接與 Google Cloud Model Armor 整合,可在酬載到達代理的推論引擎前,篩選酬載,找出提示詞注入式攻擊或有害內容。
  • 安全執行工具:確認只有授權代理能存取特定高權限 MCP 伺服器或 API。您可以針對每個工具呼叫,強制執行精細的身分型存取控管。
  • 監控多代理系統:收集並查看所有代理互動的可觀測性遙測資料,追蹤代理在不同工具和端點之間的多步驟推論過程。

Agent Gateway 在 GKE 的運作方式

您可以根據流量方向,使用標準 GKE 網路資源設定 Agent Gateway,控管下列 AI 互動流程:

  • 用戶端到代理 (輸入):管理外部用戶端 (例如即時通訊介面或開發人員 CLI) 與 GKE 叢集中託管的代理互動的方式。您可以使用 GKE Gateway API 部署區域性應用程式負載平衡器。接著,您會套用 Kubernetes 自訂資源 (GCPAgentGateway、GCPAuthzPolicy 和 GCPExtensionBinding),強制執行以身分為基礎的存取控管機制、限制特定 MCP 工具呼叫,並在要求傳送至代理之前,使用 Model Armor 篩選傳入的提示。
  • 代理到任何位置 (輸出):將 GKE 託管代理的傳出要求,安全地轉送至外部資料儲存庫、遠端 MCP 伺服器和 API。您可以使用 GKE ambient Proxy,將這類流量重新導向至 Secure Web Proxy (SWP)。SWP 會強制執行安全政策、透過 Identity-Aware Proxy (IAP) 驗證代理身分,並在流量離開網路前,使用 Model Armor 檢查傳出酬載。
  • 東西向 (叢集內):控管代理如何與同一個叢集內的其他代理、共用內部工具或 MCP 伺服器協作。您部署了每個命名空間一個 Proxy 的第 7 層 Ambient Proxy,強制執行雙向 TLS (mTLS) 和精細存取權政策,而不必將 Sidecar Proxy 插入代理 Pod。如要申請使用第 7 層 Ambient Proxy 預先發布版,請與 Google Cloud 帳戶團隊聯絡。

限制與需求

如要透過 Agent Gateway 控管 GKE 託管的代理,環境必須符合下列基本需求:

  • 支援的工作負載:Agent Gateway 支援部署為標準 GKE Pod 的代理。不支援 GKE 上的 Agent Substrate 和 GKE 上的 Agent Sandbox。
  • GKE 叢集版本:叢集必須執行 GKE 1.37.1-gke.1697000 以上版本。
  • 代理身分:您必須為代理工作負載指派加密 SPIFFE 身分,閘道才能評估身分型政策。如要瞭解如何將這些身分指派給 Pod,請參閱「關於 GKE 中的代理程式身分」。
  • 代理登錄:您必須註冊代理 Deployment,代理登錄才能探索工作負載並同步中繼資料。如要註冊,請將 registry.gke.io/functional-type: "AGENT" 標籤新增至 Deployment。詳情請參閱「使用自動註冊功能」。
  • GKE 網路元件:
    • 如要管理輸入,必須在叢集中啟用 GKE Gateway API。
    • 如要管理輸出流量,您必須為叢集做好周邊網路準備,並佈建 Secure Web Proxy 執行個體。

GKE 適用的 Agent Gateway 受到單一專案限制、特定自訂擴充功能邊界和區域可用性限制。

後續步驟