本文件提供高階架構,說明如何建構可靠有效的代理式 AI 系統,並以 Google Maps Platform 和 Google 日曆的真實世界比對內容資料為基礎。系統會根據使用者在提示中指出的地點,建立旅遊計畫。這項計畫會考量使用者的時間表、地點的地理位置、營業時間和路線距離。
本文件適用於建構及管理代理式 AI 應用程式的 AI 架構師、開發人員和管理員。本文件假設您對 AI 和機器學習概念及雲端架構有基本瞭解。
本文件的部署一節提供程式碼實驗室連結,您可以透過該實驗室,瞭解如何建構及測試以這個架構為基礎的代理式 AI 系統。
架構
下圖顯示應用程式的架構,該應用程式使用多代理 AI 系統,為使用者想在一天內造訪的地點生成旅遊計畫。使用者透過即時通訊介面與應用程式互動。自動調度管理代理會叫用專用代理,收集必要資訊,然後建立日行程規劃。代理會在 Gemini Enterprise 中執行,並使用 Google Maps Platform 和 Google 日曆的真實世界資料,做為推論依據。
上圖中的架構包含下列元件:
Gemini Enterprise:架構的核心元件。這個系統託管代理式 AI 系統,其中包含下列代理:
- Orchestrator 代理:透過對話介面接收使用者要求、解讀目標,然後與專業代理協調,完成要求。
- 地點代理:處理與位置相關的工作,例如尋找地點及確認是否營業。
- 路線代理:處理路線和行程規劃工作,例如確保有足夠時間前往所需地點。
- 排程代理:管理排程和日曆相關工作,例如載入日曆,以及根據行程時間移動活動。
這個架構中的所有代理都是使用 Agent Development Kit (ADK) 建構。代理會在 Gemini Enterprise Agent Platform 的 Agent Runtime 中執行,並使用 Gemini 模型。
工具和資料:代理會使用下列工具取得所需資料:
- 利用 Google 地圖建立基準:從 Google Maps Platform 向 Places 和 Routes 代理提供真實世界的地理脈絡。
- Places Insights:提供 Google Maps Platform 的深入、特定地點數據分析和資訊,協助代理根據會議類型建立適當的構件。
- 日曆:允許排程代理存取及管理日曆活動。
觀測能力:這個元件可監控代理作業並偵錯。
- 代理事件會記錄在 Cloud Logging 中,並發布至 Firestore 資料庫。
- 這個架構包含以 Cloud Run 服務形式部署的事件檢視器應用程式。管理員可以使用這個應用程式監控記錄的事件,並查看代理的思考流程和動作,例如驗證地點和路線。
使用的產品
這個架構使用下列 Google 產品和工具:
- Google Maps Platform:提供地圖、路線和位置搜尋服務。
- Google 日曆:團隊和個人管理時間表和活動的工具。
- Gemini Enterprise:全代管的安全平台,可在企業內部部署及管理 AI 代理。
- Agent Development Kit (ADK):一組工具和程式庫,用於開發、測試及部署 AI 代理。
- Cloud Logging:即時記錄管理系統,提供儲存、搜尋、分析和警告通知功能。
- Firestore:NoSQL 文件資料庫,專為自動調整資源配置、提供高效能,以及協助輕鬆開發應用程式而打造。
- Cloud Run:無伺服器運算平台,可讓您直接在 Google 可擴充的基礎架構上執行容器。
用途
以下是這個架構的用途範例:
自動規劃商務差旅:員工需要規劃客戶高峰會的行程。
- 旅行社尋找航班和飯店,並預訂行程。
- 客戶關係管理 (CRM) 代理會擷取高峰會地址和與會者名單。
- 排程代理會在旅客的日曆中安排會議。最終輸出內容是完整的行程。
智慧型現場服務派遣:客戶回報服務中斷。
- CRM 代理會找出客戶的合約和位置。
- 旅行社服務專員會尋找距離最近的可用技術人員,並規劃最佳行程路線。
- 排程代理會預約服務。
物流與供應鏈協調:物流經理需要因應天氣事件重新規劃運送路線。
- 物流代理會使用 Google 地圖平台監控即時路況和天氣。
- 物流代理找到替代路線和倉庫。
- 客戶關係管理服務專員通知客戶出貨時間表已修訂。
設計須知
本節說明使用這個參考架構開發拓撲時,應考量的設計因素、最佳做法和建議,以滿足您對安全性、可靠性、作業效率、成本和效能的特定需求。
本節指南僅列出部分範例。如要進一步瞭解設計因素和最佳做法,以及建構和部署多代理式 AI 系統的建議,請參閱「 Google Cloud中的多代理式 AI 系統」。
安全性、隱私權和法規遵循
為因應 AI 代理獨有的安全風險,Google 建議採取做法,結合確定性安全控管機制與動態、以推論為基礎的防禦措施:
- 人工監督:在業務關鍵系統中加入人工介入迴路流程,讓人工監督員審查輸出內容,並核准、覆寫或暫停代理動作。
- Agent Identity:為每個代理指派與工作負載繫結的身分,強制執行最小權限存取控管,並集中管理外部工具的憑證。
- Agent Gateway:強制執行輸入和輸出流量管理、預設拒絕存取政策,以及使用 Model Armor 進行內嵌提示和工具檢查。
- Agent Registry:確認代理只會連線至核准的子代理和 MCP 工具。
可靠性
為確保代理程式設定符合可靠性需求,請考慮下列建議:
- 重要動作驗證:針對重要工作 (例如預訂不可退款的機票),加入人工介入迴路 (HITL) 驗證。
- 稽核追蹤記錄:使用 Logging 和 Pub/Sub 建構觀測能力管道,為代理決策建立清楚的稽核追蹤記錄。
提升作業效率
建立完善的管理機制,明確定義每個代理的角色和資料處理指南。採用包含持續監控的疊代開發程序。這個程序有助於調整代理行為,確保行為符合業務需求。
成本最佳化
嚴格限制每個代理的工作範圍,避免開放式或不必要的查詢,藉此控管成本。快取經常要求的資料 (例如常見路線或熱門地點),減少 API 呼叫。
效能最佳化
這個架構採用模組化的多代理協調器模式,可讓專門代理平行運作,進而提升效能。舉例來說,Places 代理可搜尋地點,而 Schedule 代理則可同時檢查日曆衝突。
設計代理式 AI 工作負載的架構時,請考量 Google Cloud Well-Architected Framework:AI 和機器學習觀點中的最佳做法和建議。
部署作業
如要瞭解如何建構及測試採用此架構的代理式 AI 系統,請按照程式碼實驗室「使用 ADK 和 Google 地圖建立行程規劃代理」中的操作說明操作。程式碼實驗室會引導您完成整個部署程序,包括下列工作:
- 正在啟用必要的 Google Cloud 服務。
- 使用 ADK 建立代理。
- 設定代理,利用 Google 地圖建立基準,取得真實世界情境資訊。
- 透過網頁介面執行及測試代理。
後續步驟
- 進一步瞭解利用 Google 地圖建立基準。
- 進一步瞭解 Gemini Enterprise。
- 如要查看更多參考架構、圖表和最佳做法,請瀏覽 Cloud Architecture Center。
貢獻者
作者:Kenneth Nevarez | Google Maps Platform 開發人員關係工程師
其他貢獻者:
- Caio Moreira | DevX 工程師
- Kumar Dhanagopal | 跨產品解決方案開發人員
- Mike Pegg | 開發人員關係經理