本文說明應用程式的整體架構,這類應用程式會透過代理 AI 工作流程,生成及管理互動式學習測驗。這項代理程式會評估使用者對特定主題的知識,並使用持續性工作階段狀態和長期記憶體,打造個人化體驗。AI 代理會記錄使用者的回答,以便動態調整後續問題的難度和內容。
本文適用於建構及管理代理式 AI 應用程式的架構師、開發人員和管理員。這個架構適用於在各行各業中,建立互動式且具狀態的教育應用程式。本文假設您對 AI 代理程式系統有基本的瞭解。如要瞭解代理程式與非代理程式系統的差異,請參閱「AI 代理、AI 助理和機器人有何不同?」
本文的「部署」一節提供程式碼範例的連結,協助您試驗部署可執行資料科學工作流程的代理程式 AI 應用程式。
架構
下圖顯示互動式學習代理程式的高階架構。
架構顯示下列資料流程:
- 使用者在 Cloud Run 上託管的測驗應用程式中執行動作,例如開始測驗或提交答案。
- 應用程式會將使用者的輸入內容轉送給 AI 代理程式。
AI 代理會使用 Vertex AI 上的 Gemini 模型解讀使用者輸入內容,根據使用者的要求,代理程式會呼叫適當的工具,執行測驗相關動作。
舉例來說,代理程式可以選取工具來開始測驗、評估答案或產生下一個問題。
代理程式將回應傳送至測驗應用程式。
測驗應用程式會將回應轉送給使用者。
為維持測驗狀態並提供個人化體驗,智慧助理會執行下列背景工作:
- 代理程式會將最新的測驗進度和分數附加至儲存在 Vertex AI Agent Engine Sessions 中的已儲存工作階段記錄。
- 代理程式會將測驗資料轉換為記憶,並儲存在記憶庫中,以供長期回憶。虛擬服務專員會使用儲存在記憶體中的歷來資料,在日後的工作階段中生成符合脈絡的回覆。
使用的產品
這個範例架構使用下列 Google Cloud 產品:
- Cloud Run:無伺服器運算平台,可讓您在 Google 可擴充的基礎架構上直接執行容器。
- 代理開發套件 (ADK):一套工具和程式庫,可開發、測試及部署 AI 代理。
- Vertex AI:機器學習平台,可讓您訓練及部署機器學習模型和 AI 應用程式,並自訂 LLM 用於 AI 輔助的應用程式。
- Vertex AI Agent Engine 工作階段:這項持續性儲存服務會儲存及擷取使用者與代理之間的互動記錄。
- 記憶庫:這項永久儲存服務會根據使用者與代理程式的對話,生成、修正、管理及擷取長期記憶內容。
部署
如要部署這個架構的範例實作,提供與程式設計相關的測驗,請使用 GitHub 上的 Python 導師程式碼範例。
後續步驟
- (筆記本) 開始在 Cloud Run 中使用 ADK 代理的 Sessions 和 Memory Bank。
- (網誌) 進一步瞭解 ADK 的狀態和記憶。
- (程式碼實驗室) 使用 ADK 建構正式環境 AI 程式碼審查助理。
- (影片) 觀看有關代理程式記憶體的 Agent Factory Podcast。
- 瞭解如何在 Cloud Run 上託管 AI 代理。
- 如要瞭解適用於 Google CloudAI 和機器學習工作負載的架構原則和建議,請參閱 Well-Architected Framework 中的AI 和機器學習觀點。
- 如要查看更多參考架構、圖表和最佳做法,請瀏覽 Cloud Architecture Center。
貢獻者
作者:Samantha He | 技術文件撰稿者
其他貢獻者:
- Amina Mansour | Cloud Platform 評估團隊主管
- Kumar Dhanagopal | 跨產品解決方案開發人員
- Megan O'Keefe | 開發人員服務代表
- Rachael Deacon-Smith | 開發人員服務代表
- Shir Meir Lador | 開發人員關係工程工程師經理