Gemini Enterprise Agent Platform 的代理程式可觀測性功能,可全面掌握已部署代理程式和 Model Context Protocol (MCP) 伺服器的效能、行為和健康狀態。監控重要指標、追蹤執行路徑,以及觀察整個多代理程式系統,有助於診斷問題、盡可能減少資源耗用,以及提升代理程式的可靠性。
本文概述 Gemini Enterprise Agent Platform 提供的觀測工具,包括全系統拓撲、個別代理監控和 MCP 伺服器指標。
遙測設定
如要填入這些可觀測性資訊主頁、拓撲和追蹤記錄,請務必將代理程式設為以 OpenTelemetry 格式將遙測資料傳送至 Google Cloud Observability 的儲存系統。
請確認代理程式和 MCP 伺服器環境已正確設定,可發出這項資料。內建 Google Cloud 元件會自動以 OpenTelemetry 格式發出遙測資料。舉例來說,Model Armor 會原生發出標準化遙測資料,讓您直接在追蹤資料中,順暢地公開及監控即時政策攔截作業,完全不需自訂儀器。
如需代理程式遙測設定操作說明和需求,請參閱下列資源:
- 如要檢測使用 ADK 建構的代理程式,請參閱「使用 OpenTelemetry 檢測 ADK 應用程式」。
- 如要檢測 Agent Runtime 上並非使用 ADK 建構的代理程式,請參閱檢測生成式 AI 應用程式。
- 如要瞭解 MCP 伺服器遙測資料,請參閱「使用 Cloud Trace 監控 MCP 工具使用情形」。
- 如要瞭解 Model Armor 遙測資料,請參閱「設定 Model Armor 記錄」。
可觀測性信號
Gemini Enterprise Agent Platform 透過指標、追蹤記錄和記錄檔提供可觀測性。
從登錄檔選取特定代理程式後,「可觀測性」分頁會提供一系列目標資訊主頁,用於監控代理程式的運作健康狀態、效能和基礎架構使用情形。在「可觀測性」分頁中,使用左側導覽列切換下列檢視畫面:
- 總覽:追蹤所選時間範圍內的高階用量,包括工作階段總數、每個工作階段的平均輪次,以及代理程式的總叫用次數。時間序列圖表會顯示權杖用量 (輸入與輸出)、整體代理程式流量、延遲百分位數 (p50、p95、p99) 和錯誤率。
- 評估:顯示線上監控器,持續評估品質。包括追蹤平均回覆品質、安全指標、胡言亂語率和工具使用品質的時間序列小工具。
- 模型:依據基礎模型細分成效。 您可以監控特定模型隔離的 P95 延遲時間、通話總數、錯誤率、配額失敗次數和權杖用量。
- 工具:監控連結至代理的外部工具和服務。這個檢視畫面會詳細列出每個工具的 P95 延遲時間、呼叫次數和錯誤率,以及未呼叫任何工具的互動頻率。
- 用量:提供代理程式執行階段環境的基礎架構層級指標,包括容器 CPU 分配量、容器記憶體分配量和權杖用量。
- 記錄:顯示可篩選的原始代理程式記錄串流,包括嚴重程度、時間戳記和執行摘要,方便深入瞭解並排解問題。詳情請參閱「查看代理程式記錄」。
除了「可觀測性」分頁中的資訊主頁,您也可以使用代理程式的「追蹤記錄」分頁,逐步檢查特定工作階段的執行作業,包括時距的有向無環圖和輸入/輸出內容。詳情請參閱「查看代理程式追蹤記錄」。您也可以使用「拓撲」分頁,查看該單一代理程式的特定連入和連出依附元件。
對於 MCP 伺服器,您可以監控要求數和 p95 要求時間長度,追蹤使用率和回應速度。
OpenTelemetry 生成式 AI 慣例
代理程式追蹤記錄和提示與回覆記錄主要依賴生成式 AI 系統的 OpenTelemetry 語意慣例,將生成式 AI 遙測資料的擷取、結構化和回報方式標準化。
遵守這些慣例對代理追蹤至關重要,因為這會建立通用的廠商無關格式,用於說明複雜的多步驟代理工作流程,例如工具執行、擷取步驟和權杖消耗量。這項標準化作業有助於在 Google Cloud內外,實現不同可觀測性後端和分析工具之間的無縫互通性。