事前準備
如要查看代理程式追蹤記錄,必須符合下列條件:
- 啟用 API:請確認已為專案啟用下列 API:
Google Cloud
- Cloud Trace API
- Cloud Logging API
- Telemetry API
- 設定代理程式追蹤:代理程式必須設為將追蹤資料傳送至 Google Cloud。如要瞭解如何為不同類型的代理程式啟用追蹤功能,請參閱「設定追蹤功能」。
- 設定權限:如要查看追蹤記錄和記錄,您需要具備提供必要權限的 IAM 角色,例如「Cloud Trace 使用者」 (
roles/cloudtrace.user) 和「記錄檢視者」 (roles/logging.viewer) 角色。詳情請參閱「Cloud Trace 存取權控管」和「Cloud Logging 存取權控管」。
分散式追蹤是一種診斷技術,可追蹤單一要求在架構中各種分散式服務和元件間的進展。由於生成式 AI 代理會採用非決定性推理迴圈,動態選擇工具和執行路徑,因此傳統的時間點指標往往不足以進行偵錯。追蹤記錄是代理程式可觀測性的重要元素,因為這類記錄會提供這些無法預測的互動的完整時間軸,讓您確切瞭解代理程式做出特定決策的原因。
探索追蹤記錄
如要存取代理程式的詳細執行資料,請按照下列步驟操作:
在 Google Cloud 控制台,前往「Agent Platform」>「Agent Registry」頁面。
選取特定代理程式。
按一下「追蹤」分頁標籤。
這個介面可讓您檢查代理程式的逐步執行詳細資料。追蹤記錄是代理行為的不可變更事實記錄,包括模型輸入內容、回覆和工具呼叫。追蹤記錄檢視畫面包含時距的有向無環圖 (DAG)、輸入和輸出內容,以及中繼資料屬性。
「追蹤」分頁提供三種不同的檢視畫面,可供您探索遙測資料:
- 工作階段檢視畫面:依個別使用者工作階段將執行作業分組,方便您分析多輪對話和一段時間內的代理程式行為。
- 追蹤記錄檢視畫面:著重於個別的端對端要求追蹤記錄,代表單一執行路徑。
- 時距檢視畫面:提供追蹤記錄中執行的個別作業 (時距) 精細清單,例如特定基礎模型呼叫、API 要求或外部工具執行作業。
單一追蹤記錄檢視畫面 (工作階段環境)
從「工作階段檢視畫面」選取特定工作階段後,畫面上會開啟「詳細資料」窗格,左側的清單面板會顯示該多輪工作階段中的所有個別追蹤記錄。主要面板會匯總整個工作階段的內容,顯示格式化的輸入內容和助理訊息,以及工作階段整體指標,例如持續時間、GenAI 權杖總數和持續評估分數。
單一追蹤記錄檢視畫面 (直接追蹤記錄或時距內容)
或者,如果您從「追蹤記錄檢視」選取特定追蹤記錄,或從「時距檢視」選取個別時距,「詳細資料」窗格會直接開啟該特定執行作業。由於您查看的是單一作業,而非分組的會話,因此左側清單面板會隱藏,方便您立即專注檢查該作業的特定延遲時間、屬性和潛在錯誤。
資料儲存空間和存取控管
為確保安全和法規遵循,Gemini Enterprise Agent Platform 會將作業中繼資料與實際對話內容分開:
- 執行指標和屬性:標準遙測資料 (例如延遲時間、狀態碼和結構化中繼資料) 會直接儲存在追蹤範圍內。
- 提示和回覆:系統不會在範圍中儲存可能含有私密資訊的資料,例如使用者提示和模型回覆。而是會根據貴機構的設定,轉送至 Cloud Storage (建議) 或 Cloud Logging。建議使用 Cloud Storage,因為這項服務支援大型多模態酬載,不會截斷內容,並提供精細的生命週期管理功能。Cloud Logging 支援基本文字酬載,但設有大小限制。管理員可透過這項區隔功能,對機密對話資料實行精細的 Identity and Access Management (IAM) 控制。
Gemini Enterprise Agent Platform UI 會自動瞭解追蹤範圍與這些安全儲存的提示和回應記錄之間的基礎關聯性。開啟追蹤詳細資料檢視畫面時,平台會順暢地將這些資料重新組合,呈現代理程式行為的整合式資料檢視,同時不會違反資料治理規則。
如要進一步瞭解如何設定對話資料的儲存目的地,請參閱「收集及查看多模態提示和回覆」。