選擇代理式 AI 系統的設計模式

Last reviewed 2026-11-13 UTC

本文提供指引,協助您選擇代理式 AI 系統的設計模式。代理設計模式是建構代理應用程式的常見架構方法。代理設計模式提供獨特的架構,可組織系統元件、整合模型,以及自動調度管理單一或多個代理,完成工作流程。

AI 代理適用於解決開放式問題的應用程式,這類問題可能需要自主決策和複雜的多步驟工作流程管理。代理擅長使用外部資料即時解決問題,以及自動執行知識密集型工作。如果需要 AI 以一定程度的自主性完成目標導向的工作,AI 代理是合適的選擇。如需其他用途,可以使用輔助和生成式 AI 應用程式。如要瞭解 AI 代理和非代理 AI 應用程式之間的差異,請參閱「AI 代理、AI 助理和機器人有何不同?」一文。

本指南假設您已具備代理式 AI 系統的基本知識,並瞭解其架構與非代理式系統 (例如使用直接模型推論或檢索增強生成 (RAG) 的系統) 有何不同。

定義需求

以下問題並非詳盡的規劃檢查清單,請先思考這些問題,找出代理系統的主要目標,並選擇最佳設計模式。

  • 工作特性:工作是否能透過預先定義的工作流程步驟完成,還是屬於開放式工作?您的工作是否需要使用 AI 模型來自動化調度管理工作流程?
  • 延遲時間和效能:是否需要優先考量快速或互動式回覆,即使犧牲準確度或高品質回覆也在所不惜?或者,您的應用程式是否可以容忍延遲,以取得更準確或更完整的結果?
  • 成本:推論成本預算為何?您是否能支援需要多次呼叫模型才能完成單一要求的模式?
  • 人工參與:您的工作是否涉及高風險決策、安全關鍵作業,或需要人工判斷的主觀核准?

如果工作負載可預測或高度結構化,或只要呼叫一次 AI 模型即可執行,那麼探索非代理式解決方案可能更具成本效益。舉例來說,如果是摘要文件、翻譯文字或分類顧客意見回饋等工作,可能就不需要 Agentic Workflows。

下列各節說明常見的代理設計模式,有助於建構可靠有效的代理式 AI 系統。

單一代理系統

單一代理系統會使用 AI 模型、一組定義的工具,以及完整的系統提示,自主處理使用者要求或完成特定工作。在這個基本模式中,代理會依賴模型的推論能力,解讀使用者要求、規劃一系列步驟,並從定義好的集合中決定要使用哪些工具。系統提示會定義代理的核心任務、角色、作業,以及使用各項工具的特定條件,藉此塑造代理的行為。

下圖顯示單一代理模式的高階檢視畫面:

單一代理設計模式的架構。

單一代理系統適合用於需要多個步驟和存取外部資料的工作。舉例來說,客服專員必須查詢資料庫才能找出訂單狀態,研究助理則需要呼叫 API 來總結近期新聞。非代理式系統無法執行這些工作,因為這類系統無法自主使用工具,或執行多步驟計畫來合成最終答案。

如果您剛開始開發代理,建議先從單一代理著手。從單一代理系統開始開發代理,可讓您專注於調整代理的核心邏輯、提示和工具定義,之後再加入更複雜的架構元件。

如果單一代理使用的工具越多,且任務複雜度增加,成效可能會降低。您可能會發現延遲時間增加、工具選取或使用不正確,或無法完成工作。通常只要使用推理與行動 (ReAct) 模式等技術,調整代理的推理程序,就能緩解這些問題。不過,如果工作流程需要代理管理多項不同職責,這些技術可能不夠。在這種情況下,建議使用多代理系統,將特定技能委派給專門的代理,提升韌性和效能。

多代理系統

多代理系統會協調多個專用代理,解決單一代理無法輕易處理的複雜問題。核心原則是將大型目標分解為較小的子工作,並將每項子工作指派給具備特定技能的專屬代理。這些代理會透過協作或階層式工作流程互動,達成最終目標。相較於使用單一代理和單一提示,多代理模式採用模組化設計,可提升整體系統的擴充性、可靠性和可維護性。

在多代理系統中,每個代理都需要特定情境,才能有效執行工作。背景資訊可能包括文件、歷史偏好設定、相關連結、對話記錄或任何作業限制。管理這類資訊流的程序稱為「脈絡工程」。脈絡工程包括多種策略,例如隔離特定代理的脈絡、在多個步驟中保留資訊,或壓縮大量資料以提升效率。

AI 代理會帶來某些獨特且嚴重的安全風險,傳統的確定性安全防護措施可能無法充分降低這些風險。使用 Agent Gateway 轉送及保護輸入和輸出流量、使用 Agent Identity 進行工作負載繫結驗證和最小權限存取控管,並使用 Agent Registry 確保使用經過驗證的工具和子代理。

本節提供的指引僅供參考,如要進一步瞭解設計因素和最佳做法,以及建構和部署多代理式 AI 系統的建議,請參閱「 Google Cloud中的多代理式 AI 系統」。

依序模式

多代理依序模式會按照預先定義的線性順序,執行一系列專門代理,其中一個代理的輸出內容會直接做為下一個代理的輸入內容。

下圖顯示多代理程式依序模式的概略檢視畫面:

多代理循序設計模式的架構。

如果程序高度結構化、可重複執行,且作業順序不會改變,請使用依序模式。舉例來說,資料處理管道可能會使用這個模式,先讓資料擷取代理提取原始資料,然後將資料傳遞給資料清理代理進行格式設定,再將乾淨的資料傳遞給資料載入代理,儲存至資料庫。

與使用 AI 模型自動化調度工作流程的模式相比,依序模式可縮短延遲時間並降低營運成本。不過,這種效率是以彈性為代價。管道的結構固定且預先定義,因此難以因應動態情況或略過不必要的步驟,可能導致處理效率不彰,或在不必要的步驟緩慢時,導致累積延遲時間增加。

平行模式

在多代理平行模式 (也稱為並行模式) 中,多個專門的子代理會同時獨立執行工作或子工作。接著,系統會統整子代理的輸出內容,產生最終的整合回覆。這種模式會根據預先定義的邏輯運作,不會諮詢 AI 模型來進行自動化調度管理。

下圖顯示多代理平行模式的概略架構:

多代理平行設計模式的架構。

如果子任務可以同時執行,請使用平行模式,以縮短延遲時間或收集不同觀點,例如從不同來源收集資料,或同時評估多個選項。舉例來說,如要分析客戶意見回饋,平行代理可能會同時將單一意見回饋項目,分散給四個專門代理:情緒分析代理、關鍵字擷取代理、分類代理和緊急程度偵測代理。最後一個代理會將這四項輸出內容彙整成一份完整的意見回饋分析。

與依序處理相比,平行模式可同時從多個來源收集各種資訊,因此能縮短整體延遲時間。不過,這種做法會增加成本和複雜度。同時執行多個代理,可能會增加即時資源使用率和詞元用量,導致營運成本提高。此外,收集步驟需要複雜的邏輯來整合可能衝突的結果,這會增加系統的開發和維護負擔。

迴圈模式

多代理迴圈代理模式會反覆執行預先定義的專門子代理序列,直到符合特定終止條件為止。所有子代理完成工作後,迴圈代理會評估是否符合退出條件。條件可以是疊代次數上限或自訂狀態。如果未符合退出條件,迴圈代理會再次啟動子代理序列。您可以實作迴圈模式,在流程中的任何時間點評估退出條件。如果工作需要反覆修正或自我校正,請使用迴圈模式,例如生成內容並由評論代理審查,直到符合品質標準。

下圖顯示多代理迴圈模式的概略架構:

多代理迴圈設計模式的架構。

迴圈代理模式可讓您建構複雜的反覆工作流程。這可讓代理修正自己的工作,並持續處理,直到達到特定品質或狀態。不過,這個模式的主要缺點是可能發生無限迴圈。如果終止條件定義不正確,或子代理無法產生停止所需的狀態,迴圈可能會無限執行。這可能導致營運成本過高、資源消耗量大,以及系統可能停止運作。

評論與批評模式

多代理審查與評論模式 (又稱生成器與評論器模式) 會使用兩個專門的代理 (通常在依序工作流程中),提升生成內容的品質和可靠性。審查與評論模式是迴圈代理模式的一種實作方式。

在審查和評論模式中,生成器代理會建立初始輸出內容,例如程式碼區塊或文件摘要。接著,評論代理會根據預先定義的一組條件 (例如事實準確性、是否遵守格式規則或安全指南),評估這項輸出內容。根據評估結果,評論者可以核准或拒絕內容,也可以將內容退回給生成器,並附上修改意見。

下圖概略說明多代理審查和評論模式:

多代理審查與批評設計模式的架構。

如果輸出內容必須高度準確,或必須符合嚴格限制,才能呈現給使用者或用於下游程序,這個模式就很適合。舉例來說,在程式碼生成工作流程中,生成器代理可能會編寫函式來滿足使用者要求。接著,生成的程式碼會傳送至評論代理,由其擔任安全性稽核員。評論代理的工作是根據一組限制檢查程式碼,例如掃描安全漏洞,或確認程式碼通過所有單元測試,然後才核准使用。

審查與評論模式會加入專屬的驗證步驟,因此可提升輸出內容的品質、準確度和可靠性。不過,這項品質保證的直接代價是延遲時間和營運費用增加。工作流程至少需要額外呼叫一次模型,才能進行評論者評估。如果流程包含修訂循環,也就是將內容送回修正,則每次疊代都會累積延遲時間和成本。

反覆修正模式

反覆修正模式使用迴圈機制,在多個週期內逐步改善輸出內容。反覆修正模式是迴圈代理模式的一種實作方式。

在這個模式中,一或多個代理會在迴圈中運作,修改每次疊代期間儲存在工作階段狀態中的結果。這個程序會持續進行,直到輸出內容達到預先定義的品質門檻,或達到疊代次數上限,避免無限迴圈。

下圖概略說明多代理程式疊代修正模式:

多代理反覆修正設計模式的架構。

這個模式適用於複雜的生成工作,這類工作的輸出內容難以在單一步驟中完成。這類工作包括編寫及偵錯程式碼、制定詳細的多部分計畫,或起草及修訂長篇文件。舉例來說,在創意寫作工作流程中,代理可能會生成網誌文章草稿、評論草稿的流暢度和語氣,然後根據評論重寫草稿。這個程序會循環重複,直到代理的工作符合預先定義的品質標準,或重複次數達到疊代次數上限。

反覆修正模式可產生高度複雜或精緻的輸出內容,這是單一步驟難以達成的。不過,循環機制會直接增加延遲時間和營運成本。這種模式也需要精心設計退出條件 (例如品質評估或疊代次數上限),避免費用過高或執行失控,因此會增加架構複雜度。

協調器模式

多代理協調器模式會使用中央代理 (協調器) 來引導工作流程。協調者會分析使用者的要求,並將其分解為子任務,然後將每個子任務分派給專門的代理執行。每個專門代理都是特定功能的專家,例如查詢資料庫或呼叫 API。

協調者模式的特點是使用 AI 模型,自動調度及動態轉送工作。相較之下,平行模式則依賴硬式編碼工作流程調度工作,同時執行,不需要 AI 模型自動調度管理。

下圖概略說明多代理協調器模式:

多代理協調者設計模式的架構。

使用協調者模式,自動執行需要自動調整路徑的結構化業務程序。舉例來說,客服專員可以擔任協調者。協調代理會分析要求,判斷是訂單狀態要求、退貨還是退款要求。協調者會根據要求類型,將工作轉送給合適的專門代理。

與較為死板、預先定義的工作流程相比,協調者模式更具彈性。透過模型轉送工作,協調者可以處理更多元的輸入內容,並在執行階段調整工作流程。不過,這種做法也有一些缺點。由於協調者和各個專用代理都依賴模型進行推論,因此這種模式的模型呼叫次數會多於單一代理系統。雖然協調者模式可提高推論品質,但與單一代理系統相比,也會增加詞元處理量、營運成本和整體延遲時間。

階層式任務分解模式

多代理階層式工作分解模式會將代理組織成多層級階層,解決需要大量規劃的複雜問題。階層式工作分解模式是協調器模式的一種實作方式。頂層父項 (或稱「根」) 代理會接收複雜工作,並負責將工作分解成多個較小、易於管理的子工作。根代理會將各項子任務委派給較低層級的專業子代理。這個程序可以重複多層,代理會逐步分解指派的工作,直到最低層級的工作站代理可以直接執行。

下圖概略說明多代理階層式工作分解模式:

多代理階層式工作分解設計模式的架構。

如果問題不明確、開放式,且需要多步驟推論,例如涉及研究、規劃和綜合的工作,請使用階層式工作分解模式。舉例來說,為了完成複雜的研究專案,協調代理會將高階目標分解為多項工作,例如收集資訊、分析結果和統整最終報告。接著,協調者代理會將這些工作委派給專門的子代理,例如資料收集代理、分析代理和撰寫報告的代理,以便執行或進一步分解。

階層式工作分解模式非常適合解決高度複雜且模糊的問題,因為它能有系統地將問題分解成可管理的小型子工作。與較簡單的模式相比,這種模式可以產生更全面、更高品質的結果。不過,這項進階功能也帶來了重大取捨。多層級結構會大幅增加架構複雜度,導致系統更難設計、偵錯和維護。多層委派和推論也會導致模型呼叫次數增加,與其他模式相比,整體延遲時間和營運成本會大幅增加。

群體模式

多代理群體模式採用協作式、全對全通訊方式。在這個模式中,多個專用代理會協同合作,逐步修正複雜問題的解決方案。

下圖顯示多代理程式群體模式的概略架構:

多代理群體設計模式的架構。

群體模式會使用調度員代理,將使用者要求轉送至協作的專業代理群組。調度員代理會解讀要求,並判斷群體中哪個代理最適合開始執行工作。在這種模式中,每個代理都能與其他代理通訊,分享發現、評論提案,並在彼此的工作基礎上反覆修正解決方案。群體中的任何代理都能將工作交給另一個代理,只要它認為該代理更適合處理下一步,或透過協調者代理將最終回覆傳達給使用者。

Swarm 通常沒有中央監督者或協調者代理,來確保程序正常運作。與協調者模式不同,調度員代理不會自動調度管理代理工作流程。而是由調度員代理負責群體子代理與使用者之間的通訊。為確保群體最終會停止並傳回結果,您必須定義明確的退出條件。這項條件通常是疊代次數上限、時間限制或達成特定目標 (例如達成共識)。

如果問題模稜兩可或高度複雜,需要透過討論和反覆修正來解決,請使用群體模式。舉例來說,設計新產品時,可能需要市場研究員代理、工程代理和財務建模代理。代理會分享初步構想、討論功能與成本之間的取捨,並共同制定最終設計規格,平衡所有相互衝突的需求。

群體模式會模擬專家團隊協作,因此能產生極高品質且富有創意的解決方案。不過,這也是最複雜且成本最高的多代理程式模式。如果沒有使用 AI 模型來自動化調度管理,可能會導致無效迴圈,或無法收斂至解決方案。因此,您必須設計複雜的邏輯,管理複雜的代理間通訊、控制疊代工作流程,並處理多個代理之間執行動態、多輪對話時,產生的龐大營運成本和延遲時間。

推論與行動 (ReAct) 模式

ReAct 模式是一種方法,可讓 AI 模型將思考過程和動作,架構為一連串的自然語言互動。在這個模式中,代理會反覆執行思考、行動和觀察的迴圈,直到符合退出條件為止。

  • 思考:模型會推論任務,並決定下一步該怎麼做。模型會評估收集到的所有資訊,判斷是否已完整回答使用者的要求。
  • 行動:模型會根據思考過程,採取下列其中一項行動:
    • 如果工作尚未完成,代理會選取工具,然後建立查詢來收集更多資訊。
    • 如果工作已完成,就會制定最終答案並傳送給使用者,結束迴圈。
  • 觀察:模型會收到工具的輸出內容,並將相關資訊儲存在記憶體中。由於模型會儲存相關輸出內容,因此可以根據先前的觀察結果,避免重複或遺失情境。

當代理找到確切答案、達到預設疊代次數上限,或遇到無法繼續執行的錯誤時,疊代迴圈就會終止。這個反覆迴圈可讓代理動態制定計畫、收集證據,並在尋找最終答案的過程中調整方法。

下圖概略說明 ReAct 模式:

ReAct 設計模式的架構。

如果複雜、動態的工作需要持續規劃和調整,請使用 ReAct 模式。舉例來說,假設機器人代理必須生成路徑,從初始狀態轉換為目標狀態:

  • 思考:模型會推論從目前狀態轉換至目標狀態的最佳路徑。在思考過程中,模型會針對時間或能量等指標進行最佳化。
  • 動作:模型沿著計算出的路徑區段移動,執行計畫中的下一個步驟。
  • 觀察:模型觀察並儲存環境的新狀態。模型會儲存新位置,以及感知到的環境變化。

這個迴圈可讓代理依據新的觀察結果,持續更新計畫,進而遵守動態限制,例如避開新的障礙物或遵守交通法規。代理會持續執行疊代迴圈,直到達成目標或發生錯誤。

與複雜的多代理系統相比,單一 ReAct 代理的實作和維護作業更簡單,也更具成本效益。模型思考會提供模型推論的轉錄稿,有助於偵錯。不過,這種彈性也伴隨著取捨。與單一查詢相比,迴圈的多步驟反覆性質可能會導致端對端延遲時間較長。此外,代理的成效高度取決於 AI 模型的推論品質。因此,如果工具在某個觀察步驟中發生錯誤或產生誤導性結果,可能會擴大影響,導致最終答案不正確。

人機迴圈模式

人機迴圈模式會直接在代理的工作流程中,整合人工介入點。在預先定義的檢查點,代理會暫停執行,並呼叫外部系統,等待人員審查工作。這種模式可讓使用者核准決策、修正錯誤或提供必要輸入內容,代理才能繼續執行。

下圖顯示人工介入迴路模式的概略檢視畫面:

多代理人工介入迴路設計模式的架構。

如果工作需要人工監督、主觀判斷或最終核准重要動作,請使用人工介入迴路模式。這類動作包括核准大筆財務交易、驗證機密文件的摘要,或對生成的廣告素材內容提供主觀意見回饋。舉例來說,代理可能需要將病患資料集去識別化,以便進行研究。代理會自動識別並遮蓋所有受保護的健康資訊,但在最後一個檢查點會暫停。接著,系統會等待法規遵循人員手動驗證資料集並核准發布,確保不會公開任何機密資料。

人工介入迴路模式會在工作流程中的關鍵決策點加入人工判斷,藉此提升安全性和可靠性。這種模式需要建構及維護用於使用者互動的外部系統,因此可能會大幅增加架構複雜度。

使用 ADK 進行多代理自動化調度管理

ADK 是開放原始碼框架,可用於開發及自動化調度管理單一代理和多代理系統。為實作本文件所述的設計模式,ADK 可讓您將代理、工具和確定性程式碼函式組合成結構化的Agentic Workflows。

ADK 支援使用下列工作流程類型,自動調度管理代理:

  • 圖表式工作流程:將應用程式邏輯定義為宣告式圖表,其中包含執行節點和邊緣。這種做法可讓您建構彈性的執行路徑,在 AI 代理、工具、確定性程式碼函式和巢狀工作流程之間,調度及轉送資料。
  • 動態工作流程:使用標準程式設計建構,例如 if 和 else 陳述式、while 和 for 迴圈,以及並行工作執行,以命令式定義工作流程邏輯。動態工作流程可讓您直接在節點呼叫之間傳遞類型化輸出內容,而 ADK 會自動追蹤每個子節點執行作業並建立檢查點。
  • 協作協調工作流程:將工作流程邏輯定義為多代理團隊,可溝通及協作解決問題。在這個方法中,協調者代理會使用 AI 模型解讀要求、分解問題,並動態將子工作委派給專門的子代理。ADK 會自動為每個宣告的子代理生成委派工具,讓協調者能在執行階段轉送工作。

後續步驟

貢獻者

作者:Samantha He | 技術文件撰稿者

其他貢獻者: