Agent Platform Memory Bank

Agent Platform Memory Bank 可根據使用者與代理之間的對話,動態生成長期記憶。這些記憶是個人化資訊,會保留在多個工作階段中,讓代理能根據情境和連續性調整及提供個人化回覆。

功能與特色

記憶庫可協助您管理記憶,以便個人化代理與使用者互動的方式,以及管理脈絡窗口。Memory Bank 會為每個範圍維護獨立的記憶集合。每項記憶都是獨立、完整的資訊,可用於擴充代理可用的背景資訊。例如:

{
  "name": "projects/.../locations/.../reasoningEngines/.../memories/...",
  "scope": {
    "agent_name": "My agent",
    "user": "my user ID"
  },
  "fact": "I use Memory Bank to manage my memories."
}

Memory Bank 包含下列功能:

  • 記憶生成:使用大型語言模型 (LLM) 建立、調整及管理記憶。

    • 記憶擷取:只從來源資料擷取最重要的資訊,並保留為記憶。

    • 記憶整合:將新擷取的資訊與現有記憶整合,讓記憶隨著新資訊的擷取而演變。您也可以將預先擷取的記憶 (例如代理或人工介入迴路認為有意義的資訊) 與現有記憶合併。

    • 非同步生成:在背景生成記憶,代理不必等待記憶生成完成。

    • 持續擷取事件:透過事件擷取功能串流及管理對話事件,系統會根據您設定的批次處理規則,自動觸發記憶生成。

    • 可自訂擷取:提供特定主題和少量樣本,設定記憶庫認為有意義的資訊。

    • 多模態理解:處理多模態資訊,生成並保留文字洞察。

  • 代管儲存和檢索:享有全代管、永久且可存取的記憶體儲存庫。

    • 不同身分的資料隔離:記憶體整合和擷取作業會隔離至特定身分。

    • 永久且可存取的儲存空間:儲存可從多個環境存取的記憶,包括 Agent Runtime、本機環境或其他部署選項。

    • 相似度搜尋:使用限定特定身分的相似度搜尋,擷取記憶。

    • 自動到期:設定記憶的存留時間 (TTL),確保系統自動刪除過時資訊。設定 Memory Bank 執行個體,讓系統自動為插入或生成的記憶套用存留時間。

    • 記憶修訂版本:自動建立及維護記憶修訂版本,以便檢查記憶在擷取新資訊時如何轉換。

    • 受限制權限:使用 IAM 條件,限制哪些主體可以讀取或寫入特定範圍的記憶。

  • 代理整合:將 Memory Bank 連結至代理,以便自動呼叫生成及擷取記憶。

    • 整合 Agent Development Kit (ADK):使用內建的 ADK 工具和 VertexAiMemoryBankService,自動調度管理 ADK 代理的呼叫,以便讀取及寫入 Memory Bank。

    • 其他框架:將 Memory Bank 程式碼包裝在工具和回呼中,以自動化記憶生成和擷取作業。

用途

您可以使用 Memory Bank,將無狀態代理互動轉換為有狀態、具脈絡的體驗,讓代理能記住、學習及適應。Memory Bank 適合有下列需求的應用程式:

  • 長期個人化:打造專為個別使用者量身打造的體驗。Memory Bank 會將記憶範圍限定在特定身分,讓代理在多個工作階段中記住使用者的偏好設定、記錄和重要詳細資料。

    • 範例:客服代理記住使用者過去支援單中的重要資訊和產品偏好,不必再次詢問。
  • LLM 驅動的知識擷取:如需自動識別並保留對話或多模態內容中最重要的資訊,而不需手動介入,請使用此功能。

    • 範例:研究代理讀取一系列技術論文,並建立重要發現、方法和結論的整合記憶。
  • 動態且不斷演變的背景資訊:如果需要非靜態的知識來源,請使用 Memory Bank。Memory Bank 會持續整合代理的新資訊,並在新資料出現時,精細調整及更新儲存的記憶。確保代理依據的背景資訊一律最新且準確。RAG 具有靜態的外部知識庫,而 Memory Bank 則可根據代理提供的背景資訊進行演變。

應用實例

Agent Platform Memory Bank 概念總覽

您可以搭配使用 Memory Bank 和 Agent Platform 工作階段,透過下列程序從儲存的工作階段生成記憶:

  1. (工作階段) CreateSession:在每次對話開始時,建立新的工作階段。代理使用的對話記錄僅限於這個工作階段。工作階段包含使用者與代理互動時,訊息和動作 (SessionEvents) 的時間順序。所有工作階段都必須有使用者 ID,系統會將這個工作階段擷取的記憶 (請參閱 GenerateMemories) 對應至該使用者。

  2. (工作階段) AppendEvent:使用者與代理互動時,事件 (例如使用者訊息、代理回覆、工具動作) 會上傳至工作階段。事件會保留對話記錄,並建立對話記錄,可用於生成記憶。

  3. (工作階段) ListEvents:使用者與代理互動時,代理會擷取對話記錄。

  4. (記憶庫) 生成或建立記憶:

    • GenerateMemories:代理可按照指定的時間間隔 (例如每個工作階段或每輪對話結束時),觸發系統根據對話記錄生成記憶。系統會自動從對話記錄中擷取使用者的相關事實,以便在目前或日後的對話中使用。

    • CreateMemory:代理可以直接將記憶寫入記憶庫。舉例來說,代理可以決定何時寫入記憶,以及應儲存哪些資訊 (記憶即工具)。如要讓代理進一步控管擷取的資訊,請使用 CreateMemory。

  5. (記憶庫) RetrieveMemories:使用者與代理互動時,代理可以擷取儲存的使用者相關記憶。您可以擷取所有記憶 (簡單擷取),或只擷取與目前對話最相關的記憶 (相似度搜尋擷取)。接著,您可以將擷取的記憶插入提示。

快速入門導覽課程

請參閱下列快速入門導覽課程,開始使用 Memory Bank:

Memory Bank 控管

本節說明使用 Memory Bank 時的資料治理考量,例如安全責任和資料落地。

提示詞注入的安全性風險

除了「Agent Platform 共同責任」中列出的安全責任,也請考量提示詞注入和記憶中毒的風險,這些風險可能會影響使用長期記憶的代理。當錯誤資訊儲存在 Memory Bank 時,就會發生記憶中毒。在後續工作階段中,代理可能會根據這些錯誤或惡意資訊執行操作。

如要降低記憶中毒的風險,可以採取下列做法:

  • Model Armor:使用 Model Armor 檢查傳送至記憶庫或來自代理的提示。

  • 對抗測試:模擬攻擊,主動測試 LLM 應用程式是否有提示詞注入安全漏洞。這通常稱為「紅隊演練」。

  • 沙箱執行:如果代理能執行或與外部/重要系統互動,應在沙箱環境中執行這些動作,並實施嚴格的存取控管和人工審查。

詳情請參閱「Google 的安全 AI 代理做法」。

資料落地設定

為遵守《一般資料保護規則》(GDPR) 等規範架構和區域資料主權規定,您必須確保在記憶庫中生成及儲存的記憶,符合嚴格的資料落地和隔離界限。

雖然 Memory Bank 會在執行個體內,依身分提供範圍式資料隔離,但您仍須套用角色式存取控管 (RBAC) 和 Identity and Access Management 政策,強制執行區域邊界,防止不同區域執行個體之間的記憶體跨界汙染。

區域執行個體部署和資料落地

建立 Memory Bank 執行個體時,請選擇區域或多區域位置 (例如歐盟的 eu 或美國的 us),確保靜態資料會保留在特定地理邊界內。

機器學習 (ML) 處理位置取決於基礎模型的區域可用性。如果所選模型或位置 (例如 Gemini 3 模型或亞洲單一區域) 沒有可用的區域端點,系統會使用全域 Gemini 端點進行機器學習處理。詳情請參閱「資料落地」和「多區域和全域端點」。

防止跨境記憶汙染

如果 Agent Runtime、Agent Identity、服務帳戶或應用程式在某個管轄區 (例如美國) 運作,卻寫入或擷取位於另一個管轄區 (例如歐盟) 的 Memory Bank 執行個體記憶,就會發生跨境記憶汙染。

為防止跨境記憶汙染並遵守法規,您可以設定下列 IAM 控制項:

  • 專屬區域代理身分或服務帳戶:為每個管轄區建立獨立的區域專屬代理身分或服務帳戶 (例如 agent-us@PROJECT_ID.iam.gserviceaccount.com 適用於美國工作負載,agent-eu@PROJECT_ID.iam.gserviceaccount.com 適用於歐盟工作負載)。確保區域代理身分和服務帳戶,僅在位於相同地理管轄區的 Memory Bank 執行個體上,獲得 IAM 角色,防止區域執行階段存取跨邊界執行個體。

    • 最小權限專用角色:僅授予主體工作負載所需的特定 Memory Bank 角色 (例如唯讀檢索的 roles/aiplatform.memoryViewer,或寫入和生成存取權的 roles/aiplatform.memoryEditor),並繫結至適當的區域資源。如要進一步瞭解可用角色,請參閱「Specialized Memory Bank IAM 角色」。
  • 組織政策:使用 gcp.resourceLocations 組織政策限制,在組織、資料夾或專案層級強制執行位置限制。這項限制可確保 Memory Bank 資源只能在核准的法規遵循區域建立及使用,並防止未經授權使用全域端點。

如要進一步瞭解如何實作條件式存取政策,請參閱「使用 IAM 條件控管 Agent Platform Memory Bank 的存取權」。

客戶自行管理的加密金鑰 (CMEK)

根據預設, Google Cloud 會使用 Google-owned and Google-managed encryption keys加密靜態記憶和記憶修訂版本。如要使用您在 Cloud Key Management Service (Cloud KMS) 管理的加密金鑰保護 Memory Bank 資料,請在建立上層代理 Agent Runtime 執行個體時指定 encryption_spec (kms_key_name)。如要瞭解專案和金鑰設定需求,請參閱「Gemini Enterprise Agent Platform 的 CMEK」。

搭配使用 CMEK 與 Memory Bank 時,須遵守下列限制:

  • 全域端點和部署的執行階段限制:如果 Memory Bank (或工作階段) 設為使用 global 端點 (location="global"),則無法使用 CMEK,因為 Cloud Key Management Service 要求加密金鑰必須位於地理資料落地邊界內。如要使用 CMEK,請在支援的區域或多區域位置建立獨立的父項執行個體 (不部署代理執行階段程式碼),並使用相符的 Cloud KMS 金鑰 (如果是多區域執行個體,請使用 us 的 us 金鑰,或 eu 的 europe 金鑰)。如果父項執行個體也會在 Agent Runtime 部署代理,則必須使用單一區域位置,因為部署的執行階段不支援多區域端點 (us 或 eu) 的 CMEK。
  • 無法更新加密金鑰:使用 Cloud KMS 金鑰建立執行個體後,就無法變更該執行個體的加密金鑰。如要使用其他金鑰,請建立新的執行個體。

VPC Service Controls

Memory Bank 支援 VPC Service Controls,可保護儲存的記憶,防止資料竊取。請先將 Agent Platform API (aiplatform.googleapis.com) 新增至 VPC Service Controls 服務範圍,並將專案加入範圍,再建立 Memory Bank 執行個體。如果部署的代理透過 service perimeter 內的 Agent Gateway 轉送傳出流量,請參閱「Agent Gateway 的 VPC Service Controls 法規遵循」和「工作階段的 VPC Service Controls」。

後續步驟

快速入門導覽課程

開始使用 Memory Bank API 管理長期記憶。

快速入門導覽課程

建構可記住使用者偏好設定的 ADK 代理。

指南

瞭解如何設定 Memory Bank。