本文件提供在 Cloud Run 部署的多代理式 AI 系統高階架構,可分析不同的多模態資料,並產生高信賴度的分類。這種做法會將即時資料與歷來基準真相進行比對,交叉驗證片段媒體,產生有根據且可驗證的洞察資料。
本文適用對象包括在雲端建構及管理 AI 基礎架構和應用程式的架構師、開發人員和管理員。本文假設您已具備 AI 代理和模型的基本知識。本文件並未提供設計和編寫 AI 代理程式的具體指引。
本文件的「部署」一節列出程式碼範例,可協助您瞭解如何建構及部署多代理式 AI 系統。
架構
下圖顯示多代理 AI 系統的架構,該系統採用平行代理設計模式,協調多模態資料的獨立分析,產生單一分類。
架構顯示下列資料流程:
- 網頁應用程式向根代理傳送要求,分析一組多模態資料進行分類。根代理是協調者代理,會接收要求,並部署在 Cloud Run 服務上。
- 根代理會按照下列方式處理要求:
- 根層級代理會啟動
before_agent_callback,收集環境設定、驗證使用者輸入內容,並將資源路徑儲存在共用工作階段狀態。所有子代理都能存取共用工作階段狀態,因此不必重複呼叫來擷取狀態資料,整體延遲時間也隨之降低。 - 根代理會使用 Gemini Enterprise Agent Platform 上的 Gemini,解讀使用者要求,並將工作分配給平行執行的專業子代理。
- 根層級代理會啟動
- 每個子代理都專精於特定領域,並獨立執行下列工作:
- 圖片和影片分析師子代理會與自訂 Model Context Protocol (MCP) 伺服器互動,執行下列動作:
- 擷取儲存在 Cloud Storage bucket 中的原始非結構化資料。
- 向 Gemini 傳送要求,解讀輸入資料、分類資料,並計算信賴水準。
- Gemini 會將建議的分類和信心水準傳回自訂 MCP 伺服器。
- 自訂 MCP 伺服器將回應轉送回子代理。
- 結構化資料分析師子代理會完成下列工作,自動調度分析作業:
- 與 BigQuery MCP 伺服器互動,擷取儲存在 BigQuery 資料集中的結構化比對內容資料 (例如歷來記錄、事件記錄或感應器讀數)。
- 結構化資料分析師向 Gemini 傳送要求,請 Gemini 解讀輸入資料、分類資料,並計算信賴水準。
- Gemini 將建議的分類和信賴水準傳回給子代理。
- 圖片和影片分析師子代理會與自訂 Model Context Protocol (MCP) 伺服器互動,執行下列動作:
- 每個子代理都會將建議的分類和信賴水準傳回根代理。
- 根代理會使用 Gemini 彙整專門子代理的輸出內容,產生單一且高可信度的分類。
- 如果專門子代理的大多數分類相符,根代理就會將相符的分類傳送至網頁應用程式。
- 如果子代理未提供相符的分類,根代理會選取信賴水準最高的分類,並傳送至網頁應用程式。
使用的產品
這個參考架構使用下列 Google Cloud 產品和工具:
- Cloud Run:無伺服器運算平台,可讓您直接在 Google 可擴充的基礎架構上執行容器。
- Gemini Enterprise Agent Platform:全方位平台,可建構、擴充、管理及最佳化企業級 AI 代理。
- Gemini:Google 開發的多模態 AI 模型系列。
- BigQuery:企業資料倉儲,內建機器學習、地理空間分析和商業智慧等功能,可協助您管理及分析資料。
- Cloud Storage:適用於多種資料類型的物件儲存庫,成本低廉且沒有限制。資料在 Google Cloud內外都能存取,且會複製到多個位置,以便提供備援機制。
- Google Cloud MCP 伺服器:Google 代管的遠端服務,可實作 Model Context Protocol (MCP),讓 AI 應用程式存取 Google 和 Google Cloud 產品與服務。
- Model Context Protocol (MCP):開放原始碼標準,用於將 AI 應用程式連結至外部系統。
- Agent Development Kit (ADK):一組工具和程式庫,用於開發、測試及部署 AI 代理。
如要瞭解如何為代理式 AI 系統選取替代元件,包括框架、Agent Runtime、工具、記憶體和設計模式,請參閱「選擇代理式 AI 架構元件」。
用途
這個架構專為合成各種多模態資料,用於分類和偵測工作的用途而設計。為提升準確度和擴充性,架構採用多代理式 AI 系統,而非單一代理式。這種設計模式可提供重點明確的指示、避免指令衝突、使用較小的工具集加快決策速度,並支援獨立更新,進而產生更穩健、更精細的結果。
以下是本文所述架構的用途範例:
- 醫療診斷:部署專業代理,獨立分析醫療影像、病患症狀和實驗室結果,提供全面的診斷評估。AI 系統會根據預定的可信度門檻,彙整這些發現,為臨床醫生提供有根據、可驗證的洞察資訊。
- 詐欺偵測:部署代理,獨立分析使用者行為模式和交易資料 (例如掃描的收據和商家帳單),偵測並標記潛在詐欺行為。系統會交叉比對文件中的視覺證據和數位網路活動,找出不一致之處,並標記單一代理識別出可疑指標的任何交易。
- 文件處理:部署光學字元辨識 (OCR)、文件分類和資料擷取專用代理,自動分類及擷取文件中的資訊。為確保處理結果高度可靠,AI 系統會要求所有代理對輸出內容達成共識。
- 品質驗證:部署專門的代理,進行視覺檢查、感應器資料分析和規格檢查,藉此分類產品品質或偵測異常狀況。系統會根據代理之間確定的信賴度門檻,判斷是否通過。
設計須知
本節說明使用這個參考架構開發拓撲時,應考量的設計因素、最佳做法和建議,以滿足您對安全性、成本和效能的特定需求。
本節指南僅列出部分範例。如要進一步瞭解設計因素和最佳做法,以及建構和部署多代理式 AI 系統的建議,請參閱「 Google Cloud中的多代理式 AI 系統」。
安全性、隱私權和法規遵循
為因應 AI 代理獨有的安全風險,Google 建議採取做法,結合確定性安全控管機制與動態、以推論為基礎的防禦措施:
- 人工監督:在業務關鍵系統中加入人工介入迴路流程,讓人工監督員審查輸出內容,並核准、覆寫或暫停代理動作。
- Agent Identity:為每個代理指派與工作負載繫結的身分,強制執行最小權限存取控管,並集中管理外部工具的憑證。
- Agent Gateway:強制執行輸入和輸出流量管理、預設拒絕存取政策,以及使用 Model Armor 進行內嵌提示和工具檢查。
Agent Registry:確認代理只會連線至核准的子代理和 MCP 工具。
應用程式輸入安全性:如要控管應用程式存取權,請停用前端 Cloud Run 服務的預設 run.app 應用程式網址,並設定區域性外部應用程式負載平衡器。除了平衡應用程式的傳入流量,負載平衡器也會處理 SSL 憑證管理作業。如要進一步強化防護,請使用 Google Cloud Armor 安全性政策,為服務提供要求篩選、DDoS 防護和頻率限制。
容器映像檔安全性:為確保只有授權的容器映像檔部署至 Cloud Run,請使用二進位授權。如要找出並降低容器映像檔中的安全風險,請使用 Artifact Analysis 自動執行安全漏洞掃描。詳情請參閱「容器掃描總覽」。
儲存空間安全性:Cloud Storage 支援兩種方法,可控管使用者對 bucket 和物件的存取權:Identity and Access Management (IAM) 和存取控管清單 (ACL)。在多數情況下,建議您使用 IAM,在 bucket 和專案層級授予權限。詳情請參閱「存取控管總覽」。
成本最佳化
為確保代理設定符合成本需求,請考慮下列建議:
- 符合成本效益的提示:提示 (輸入) 和生成回覆 (輸出) 的長度會直接影響效能和成本。撰寫簡短、直接且提供充分背景資訊的提示。詳情請參閱提示設計最佳做法。
- 儲存費用:如要控管儲存費用,您可以選擇Standard Storage,並啟用物件生命週期管理和自動調整級別。這些功能會根據您的存取模式或設定的規則,自動在儲存空間級別之間移動或刪除資料,協助您降低成本。
效能最佳化
為確保代理程式設定符合效能需求,請參考下列建議:
- 資源分配:視效能需求而定,設定要分配給 Cloud Run 服務的記憶體限制和 CPU 限制。如需更多效能最佳化指南,請參閱「Cloud Run 一般開發提示」。
部署作業
如要部署這個架構的範例實作,請試試Way Back Home Level 1 程式碼實驗室。
後續步驟
- 瞭解如何在 Cloud Run 託管 AI 代理。
- 瞭解如何在 Cloud Run 建構及部署遠端 MCP 伺服器。
- 瞭解如何選擇代理式 AI 架構元件。
- (影片) 觀看 Agent Factory Podcast:為代理打造自訂工具。
- 探索學習資源,透過 Gemini Enterprise Agent Ready (GEAR) 建構及部署企業級代理。
- 探索更多代理式 AI 架構指南。
- 如要概略瞭解 Google Cloud中 AI 和機器學習工作負載專屬的架構原則和建議,請參閱 Well-Architected Framework 中的「AI 和機器學習觀點」一文。
- 如要查看更多參考架構、圖表和最佳做法,請瀏覽 Cloud Architecture Center。
貢獻者
作者:Samantha He | 技術文件撰稿者
其他貢獻者:
- Amina Mansour | 全球開發人員關係與策略內容技術負責人
- Andrey Shakirov | Google Cloud 解決方案架構師
- Ayo Adedeji | 開發人員關係工程師
- Christina Lin | 開發人員關係工程師經理
- Kumar Dhanagopal | 跨產品解決方案開發人員
- Ryan Pei | Google Cloud 產品經理