Agent Platform Memory Bank

Mit Agent Platform Memory Bank können Sie dynamisch langfristige Erinnerungen auf der Grundlage von Unterhaltungen zwischen dem Nutzer und Ihrem Agenten generieren. Diese Erinnerungen sind personalisierte Informationen, die über mehrere Sitzungen hinweg gespeichert werden. So kann Ihr Agent Antworten an den Kontext anpassen und personalisieren.

Features

Mit Memory Bank können Sie Erinnerungen verwalten, um die Interaktion Ihres KI-Agenten mit Nutzern zu personalisieren und das Kontextfenster zu verwalten. Für jeden Umfang wird in Memory Bank eine isolierte Sammlung von Erinnerungen verwaltet. Jede Erinnerung ist eine unabhängige, in sich geschlossene Information, die verwendet werden kann, um den Kontext zu erweitern, der Ihrem Agent zur Verfügung steht. Beispiel:

{
  "name": "projects/.../locations/.../reasoningEngines/.../memories/...",
  "scope": {
    "agent_name": "My agent",
    "user": "my user ID"
  },
  "fact": "I use Memory Bank to manage my memories."
}

Memory Bank umfasst die folgenden Funktionen:

  • Erstellung von Erinnerungen: Erinnerungen mithilfe eines Large Language Model (LLM) erstellen, optimieren und verwalten.

    • Extrahieren von gemerkten Informationen: Es werden nur die wichtigsten Informationen aus den Quelldaten extrahiert, die als gemerkte Informationen gespeichert werden.

    • Gedächtniskonsolidierung: Konsolidieren Sie neu extrahierte Informationen mit vorhandenen Erinnerungen, damit sich Erinnerungen weiterentwickeln können, wenn neue Informationen aufgenommen werden. Sie können auch vorab extrahierte Informationen (z. B. Informationen, die Ihr Agent oder ein Mensch als wichtig erachtet) mit vorhandenen Informationen zusammenführen.

    • Asynchrone Generierung: Erinnerungen werden im Hintergrund generiert, sodass Ihr Agent nicht warten muss, bis die Generierung abgeschlossen ist.

    • Kontinuierliche Ereignisaufnahme: Sie können Konversationsereignisse mit der Ereignisaufnahme streamen und verwalten. Dadurch wird die Generierung von Erinnerungen automatisch ausgelöst, basierend auf Batching-Regeln, die Sie konfigurieren.

    • Anpassbare Extraktion: Konfigurieren Sie, welche Informationen Memory Bank als relevant betrachtet, indem Sie bestimmte Themen und Few-Shot-Beispiele angeben.

    • Multimodales Verstehen: Multimodale Informationen verarbeiten, um Text-Insights zu generieren und beizubehalten.

  • Verwalteter Speicher und Abruf: Profitieren Sie von einem vollständig verwalteten, persistenten und zugänglichen Speicher.

    • Datenisolation für verschiedene Identitäten: Die Konsolidierung und der Abruf von Erinnerungen sind auf eine bestimmte Identität beschränkt.

    • Permanenter und zugänglicher Speicher: Speichern Sie Erinnerungen, auf die in mehreren Umgebungen zugegriffen werden kann, einschließlich Agent Runtime, Ihrer lokalen Umgebung oder anderen Bereitstellungsoptionen.

    • Ähnlichkeitssuche: Erinnerungen über die Ähnlichkeitssuche abrufen, die auf eine bestimmte Identität beschränkt ist.

    • Automatischer Ablauf: Legen Sie eine Gültigkeitsdauer (Time to Live, TTL) für Erinnerungen fest, damit veraltete Informationen automatisch gelöscht werden. Konfigurieren Sie Ihre Memory Bank-Instanz so, dass automatisch eine TTL auf eingefügte oder generierte gemerkte Informationen angewendet wird.

    • Memory-Revisionen: Memory-Revisionen werden automatisch erstellt und verwaltet. So können Sie nachvollziehen, wie sich Memories verändern, wenn neue Informationen aufgenommen werden.

    • Einschränkende Berechtigungen: Verwenden Sie IAM-Bedingungen, um einzuschränken, welche Hauptkonten die Erinnerungen bestimmter Bereiche lesen oder schreiben können.

  • Agent-Integration: Verbinden Sie Memory Bank mit Ihrem Agent, damit er Aufrufe zum Generieren und Abrufen von Erinnerungen orchestrieren kann.

    • Integration des Agent Development Kit (ADK): Orchestrieren Sie Aufrufe von Ihrem ADK-basierten Agenten mit integrierten ADK-Tools und dem VertexAiMemoryBankService, um Daten aus Memory Bank zu lesen und in Memory Bank zu schreiben.

    • Andere Frameworks: Umschließen Sie Ihren Memory Bank-Code mit Tools und Rückrufen, um die Generierung und den Abruf von Erinnerungen zu orchestrieren.

Anwendungsfälle

Mit Memory Bank können Sie zustandslose Agent-Interaktionen in zustandsbehaftete, kontextbezogene Interaktionen umwandeln, bei denen sich der Agent im Laufe der Zeit Dinge merkt, lernt und sich anpasst. Memory Bank ist ideal für Anwendungen, die Folgendes erfordern:

  • Langfristige Personalisierung: Entwickeln Sie Funktionen, die auf einzelne Nutzer zugeschnitten sind. In der Memory Bank werden Erinnerungen auf eine bestimmte Identität beschränkt, sodass sich ein Agent die Einstellungen, den Verlauf und die wichtigsten Details eines Nutzers über mehrere Sitzungen hinweg merken kann.

    • Beispiel: Ein Kundenservicemitarbeiter, der sich wichtige Informationen aus früheren Support-Tickets und Produktpräferenzen eines Nutzers merkt, ohne noch einmal nachfragen zu müssen.

  • LLM-basierte Wissensextraktion: Verwenden Sie diese Funktion, wenn Sie die wichtigsten Informationen aus Unterhaltungen oder multimodalen Inhalten automatisch und ohne manuellen Eingriff identifizieren und speichern müssen.

    • Beispiel: Ein Recherche-Agent, der eine Reihe von technischen Dokumenten liest und ein konsolidiertes Gedächtnis mit wichtigen Ergebnissen, Methoden und Schlussfolgerungen aufbaut.

  • Dynamischer und sich entwickelnder Kontext: Verwenden Sie Memory Bank, wenn Sie eine Wissensquelle benötigen, die nicht statisch ist. Die Memory Bank ist so konzipiert, dass sie kontinuierlich neue Informationen von Ihrem KI-Agenten integriert und gespeicherte Erinnerungen verfeinert und aktualisiert, sobald neue Daten verfügbar sind. So ist sichergestellt, dass der Kontext, auf den sich Ihr Agent stützt, immer aktuell und korrekt ist. Während RAG eine statische, externe Wissensdatenbank hat, kann sich Memory Bank basierend auf dem vom Agent bereitgestellten Kontext weiterentwickeln.

Nutzungsbeispiel

Agent Platform Memory Bank – konzeptionelle Übersicht

Sie können Memory Bank mit Agent Platform Sessions verwenden, um Erinnerungen aus gespeicherten Sitzungen zu generieren. Gehen Sie dazu so vor:

  1. (Sitzungen) CreateSession: Erstellen Sie zu Beginn jeder Unterhaltung eine neue Sitzung. Der vom Agent verwendete Unterhaltungsverlauf ist auf diese Sitzung beschränkt. Eine Sitzung enthält die chronologische Reihenfolge von Nachrichten und Aktionen (SessionEvents) für eine Interaktion zwischen einem Nutzer und Ihrem Agent. Alle Sitzungen müssen eine Nutzer-ID haben. Die für diese Sitzung extrahierten Erinnerungen (siehe GenerateMemories) werden diesem Nutzer zugeordnet.

  2. (Sitzungen) AppendEvent: Wenn der Nutzer mit dem Agent interagiert, werden Ereignisse (z. B. Nutzernachrichten, Agent-Antworten, Tool-Aktionen) in „Sitzungen“ hochgeladen. Die Ereignisse speichern den Unterhaltungsverlauf und erstellen einen Datensatz der Unterhaltung, der zum Generieren von Erinnerungen verwendet werden kann.

  3. (Sitzungen) ListEvents: Wenn der Nutzer mit dem Agent interagiert, ruft der Agent den Unterhaltungsverlauf ab.

  4. (Memory Bank) Erinnerungen generieren oder erstellen:

    • GenerateMemories: In einem bestimmten Intervall (z. B. am Ende jeder Sitzung oder am Ende jeder Runde) kann der Agent Erinnerungen aus dem Unterhaltungsverlauf generieren. Fakten über den Nutzer werden automatisch aus dem Unterhaltungsverlauf extrahiert, sodass sie für aktuelle oder zukünftige Sitzungen verfügbar sind.

    • CreateMemory: Ihr Agent kann Erinnerungen direkt in die Memory Bank schreiben. Der Agent kann beispielsweise entscheiden, wann ein Gedächtnis geschrieben werden soll und welche Informationen gespeichert werden sollen (Gedächtnis als Tool). Verwenden Sie CreateMemory, wenn Ihr KI-Agent mehr Kontrolle darüber haben soll, welche Fakten extrahiert werden.

  5. (Memory Bank) RetrieveMemories: Wenn der Nutzer mit Ihrem Agent interagiert, kann der Agent gespeicherte Erinnerungen zu diesem Nutzer abrufen. Sie können entweder alle Erinnerungen abrufen (einfacher Abruf) oder nur die für die aktuelle Unterhaltung relevantesten Erinnerungen (Abruf per Ähnlichkeitssuche). Anschließend können Sie die abgerufenen Erinnerungen in Ihren Prompt einfügen.

Kurzanleitungen

Erste Schritte mit Memory Bank mit den folgenden Kurzanleitungen:

Sicherheitsrisiken von Prompt Injection

Zusätzlich zu den Sicherheitsverantwortlichkeiten, die unter Geteilte Verantwortung der Agent-Plattform beschrieben sind, sollten Sie das Risiko von Prompt-Injection und Memory Poisoning berücksichtigen, das Ihren Agent bei der Verwendung von Langzeitgedächtnissen beeinträchtigen kann. Memory Poisoning tritt auf, wenn falsche Informationen im Memory Bank gespeichert werden. Der Agent kann dann in zukünftigen Sitzungen auf diese falschen oder bösartigen Informationen reagieren.

So können Sie das Risiko von Memory Poisoning verringern:

  • Model Armor: Mit Model Armor können Sie Prompts prüfen, die an Memory Bank oder von Ihrem Agent gesendet werden.

  • Adversarial Testing: Testen Sie Ihre LLM-Anwendung proaktiv auf Sicherheitslücken durch Prompt-Injection, indem Sie Angriffe simulieren. Dies wird in der Regel als „Red Teaming“ bezeichnet.

  • Sandbox-Ausführung: Wenn der Agent in der Lage ist, externe oder kritische Systeme auszuführen oder mit ihnen zu interagieren, sollten diese Aktionen in einer Sandbox-Umgebung mit strenger Zugriffskontrolle und manueller Überprüfung ausgeführt werden.

Weitere Informationen finden Sie unter Google-Ansatz für sichere KI-Agents.

Nächste Schritte

Kurzanleitung

Erste Schritte mit der Memory Bank API zum Verwalten von Langzeiterinnerungen

Kurzanleitung

Erste Schritte mit dem Agent Development Kit (ADK)

Leitfaden

Informationen zum Einrichten von Memory Bank