使用代理

使用 Agent Platform SDK

使用 Agent Platform SDK 時，無論是在本機執行或遠端部署，查詢代理程式的程式碼都相同。由於各架構支援的作業集不同，我們提供架構專屬範本的使用說明：

架構 說明
Agent Development Kit 這項服務是根據 Google 內部最佳做法設計，適合開發 AI 應用程式的開發人員，或需要快速打造原型並部署強大代理程式解決方案的團隊。
Agent2Agent (預先發布版) Agent2Agent (A2A) 通訊協定是一項開放標準，旨在讓 AI 代理順暢地通訊及協作。
LangChain 由於預先定義的設定和抽象化，可更輕鬆地用於基本用途。
LangGraph 以圖表為基礎定義工作流程，並提供進階的人機迴圈和倒轉/重播功能。
AG2 (舊稱 AutoGen) AG2 提供多代理對話架構，做為建構 LLM 工作流程的高階抽象化。
LlamaIndex (預先發布版) LlamaIndex 的查詢管道提供高階介面，可建立檢索增強生成 (RAG) 工作流程。
自訂 開發及部署代理程式時，未使用架構專屬範本。

使用在 localhost 上提供的代理程式

如果您透過 API 伺服器提供代理程式，且該伺服器正在 http://localhost:PORT_NUMBER 上監聽要求，則您會將要求傳送至

http://localhost:PORT_NUMBER/API_PATH

其中

  • PORT_NUMBER 是伺服器監聽的通訊埠號碼 (例如 8080)
  • API_PATH 是相應 API 端點的路徑 (例如 run 或 run_sse)

透過基礎 API 使用已部署的代理程式

如果您已部署代理程式，則會將要求傳送至對應的端點：

https://LOCATION-aiplatform.googleapis.com/reasoningEngines/v1/projects/PROJECT_NUMBER/locations/<var>LOCATION</var>/reasoningEngines/RESOURCE_ID/api/API_PATH

其中

  • PROJECT_ID 是 Google Cloud 您部署代理程式的專案 ID
  • LOCATION 是代理程式的部署區域
  • RESOURCE_ID 是已部署代理程式的 ID，屬於 reasoningEngine 資源
  • API_PATH 是相應 API 端點的路徑

這個端點相當於將本機主機基本網址替換為已部署的代理程式基本網址。

舉例來說，如果您從 Dockerfile 或 Container Image 部署 ADK API 伺服器，請依下列方式叫用 API 端點：

執行代理程式 (單一回覆)

curl \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID/api/run -d '{
  "appName": "my_sample_agent",
  "userId": "u_123",
  "sessionId": "s_abc",
  "newMessage": {
    "role": "user",
    "parts": [{"text": "What is the capital of France?"}]
  }
}'

執行代理程式 (串流) 

curl \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID/api/run_sse -d '{
  "appName": "my_sample_agent",
  "userId": "u_123",
  "sessionId": "s_abc",
  "newMessage": {
    "role": "user",
    "parts": [{"text": "What is the weather in New York?"}]
  },
  "streaming": true
}'

在 Google Cloud 控制台中使用已部署的代理程式

如要與使用 Agent Development Kit (ADK) 開發的已部署代理互動，請使用Google Cloud 控制台：

  1. 前往 Google Cloud 控制台的「Agent Platform」部署作業頁面。

    前往 Agent Platform 部署作業

    清單會顯示所選專案的執行階段。您可以使用「Filter」(篩選) 欄位，依指定資料欄篩選清單。

  2. 按一下執行階段名稱。

  3. 按一下「Playground」分頁標籤。

  4. 你可以輸入訊息與服務專員互動，也可以點選「新工作階段」與服務專員展開新對話。

  5. 如果透過 OpenTelemetry 啟用追蹤記錄，您可以查看互動期間代理程式行為的詳細資料：

    • 追蹤記錄：與代理程式對話的追蹤記錄。

    • 事件：與代理程式對話期間叫用的 API 圖表和事件詳細資料。

    • 狀態：通話期間服務專員的狀態資訊。

    • 工作階段：與代理程式相關聯的工作階段清單。詳情請參閱「使用 Google Cloud 控制台或 API 呼叫進行管理」

Playground 支援

您可以使用下列架構測試代理程式：

架構 與代理對話 查看工作階段
Agent Development Kit (ADK) 支援 支援。代理程式必須實作Agent Platform 工作階段，才能維持工作階段。
Agent2Agent (A2A) 支援。代理程式必須實作Agent Platform 工作階段，才能維持狀態。 支援。代理程式必須使用 Agent Platform Sessions，且必須將 user_id 值做為內容物件的一部分傳送。如需瞭解如何將 user_id 值做為代理程式執行器的一部分傳遞，請參閱「開始使用 A2A」筆記本。

後續步驟