Agent Platform 메모리 뱅크

Agent Platform 메모리 뱅크를 사용하면 사용자와 에이전트 간의 대화를 기반으로 장기 메모리를 동적으로 생성할 수 있습니다. 이러한 메모리는 여러 세션에서 유지되는 맞춤설정된 정보로, 에이전트가 컨텍스트와 연속성에 맞게 응답을 조정하고 맞춤설정할 수 있습니다.

기능

메모리 뱅크를 사용하면 메모리를 관리하여 에이전트가 사용자와 상호작용하는 방식을 개인화하고 컨텍스트 윈도우를 관리할 수 있습니다. 각 범위에 대해 메모리 뱅크는 격리된 메모리 컬렉션을 유지합니다. 각 메모리는 에이전트가 사용할 수 있는 컨텍스트를 확장하는 데 사용할 수 있는 독립적인 자체 포함 정보입니다. 예를 들면 다음과 같습니다.

{
  "name": "projects/.../locations/.../reasoningEngines/.../memories/...",
  "scope": {
    "agent_name": "My agent",
    "user": "my user ID"
  },
  "fact": "I use Memory Bank to manage my memories."
}

메모리 뱅크에는 다음과 같은 기능이 포함되어 있습니다.

  • 메모리 생성: 대규모 언어 모델 (LLM)을 사용하여 메모리를 만들고, 다듬고, 관리합니다.

    • 메모리 추출: 소스 데이터에서 가장 의미 있는 정보만 추출하여 메모리로 유지합니다.

    • 메모리 통합: 새로 추출된 정보를 기존 메모리와 통합하여 새 정보가 수집될 때 메모리가 발전할 수 있도록 합니다. 사전 추출된 메모리(예: 에이전트 또는 human-in-the-loop가 의미 있다고 생각하는 정보)를 기존 메모리와 통합할 수도 있습니다.

    • 비동기 생성: 에이전트가 메모리 생성이 완료될 때까지 기다리지 않아도 되도록 백그라운드에서 메모리를 생성합니다.

    • 연속 이벤트 수집: 구성한 일괄 처리 규칙에 따라 메모리 생성을 자동으로 트리거하는 이벤트 수집으로 대화 이벤트를 스트리밍하고 관리합니다.

    • 맞춤설정 가능한 추출: 구체적인 주제와 퓨샷 예시를 제공하여 메모리 뱅크가 의미 있다고 간주하는 정보를 구성합니다.

    • 멀티모달 이해: 멀티모달 정보를 처리하여 텍스트 인사이트를 생성하고 유지합니다.

  • 관리형 스토리지 및 검색: 완전 관리형의 지속적이고 액세스 가능한 메모리 저장소를 활용하세요.

    • ID 간 데이터 격리: 메모리 통합 및 검색은 특정 ID로 격리됩니다.

    • 영구적이고 액세스 가능한 스토리지: 에이전트 런타임, 로컬 환경 또는 기타 배포 옵션을 비롯한 여러 환경에서 액세스할 수 있는 메모리를 저장합니다.

    • 유사성 검색: 특정 ID로 범위가 지정된 유사성 검색을 사용하여 기억을 검색합니다.

    • 자동 만료: 오래된 정보가 자동으로 삭제되도록 메모리에 TTL (수명)을 설정합니다. 삽입되거나 생성된 메모리에 TTL이 자동으로 적용되도록 메모리 뱅크 인스턴스를 구성합니다.

    • 메모리 버전: 새 정보가 수집될 때 메모리가 어떻게 변환되는지 검사할 수 있는 메모리 버전을 자동으로 생성하고 유지합니다.

    • 제한적인 권한: IAM 조건을 사용하여 특정 범위의 메모리를 읽거나 쓸 수 있는 주 구성원을 제한합니다.

  • 에이전트 통합: 메모리 뱅크를 에이전트에 연결하여 메모리를 생성하고 검색하는 호출을 조정할 수 있습니다.

    • 에이전트 개발 키트 (ADK) 통합: 내장된 ADK 도구와 VertexAiMemoryBankService를 사용하여 ADK 기반 에이전트의 호출을 조정하여 메모리 뱅크에서 읽고 메모리 뱅크에 씁니다.

    • 기타 프레임워크: 도구와 콜백으로 메모리 뱅크 코드를 래핑하여 메모리 생성과 검색을 조정합니다.

사용 사례

메모리 뱅크를 사용하여 스테이트리스(Stateless) 에이전트 상호작용을 에이전트가 시간이 지남에 따라 기억하고, 학습하고, 적응하는 스테이트풀(Stateful) 컨텍스트 환경으로 변환할 수 있습니다. 메모리 뱅크는 다음을 요구하는 애플리케이션에 적합합니다.

  • 장기 맞춤설정: 개별 사용자에 맞게 조정된 환경을 빌드합니다. 메모리 뱅크는 메모리를 특정 ID로 범위 지정하여 에이전트가 여러 세션에서 사용자의 환경설정, 기록, 주요 세부정보를 기억할 수 있도록 합니다.

    • 예: 사용자에게 다시 묻지 않고 사용자의 이전 지원 티켓과 제품 선호도에서 주요 정보를 기억하는 고객 서비스 상담사

  • LLM 기반 지식 추출: 수동 개입 없이 대화 또는 멀티모달 콘텐츠에서 가장 중요한 정보를 자동으로 식별하고 유지해야 하는 경우에 사용합니다.

    • 예: 일련의 기술 논문을 읽고 주요 결과, 방법론, 결론의 통합 메모리를 구축하는 연구 에이전트

  • 동적이고 진화하는 컨텍스트: 정적이지 않은 지식 소스가 필요한 경우 메모리 뱅크를 사용합니다. 메모리 뱅크는 에이전트의 새로운 정보를 지속적으로 통합하여 새로운 데이터가 제공되면 저장된 메모리를 개선하고 업데이트하도록 설계되었습니다. 이렇게 하면 에이전트가 사용하는 컨텍스트가 항상 최신 상태이고 정확합니다. RAG에는 정적인 외부 기술 자료가 있는 반면, 메모리 뱅크는 에이전트가 제공하는 컨텍스트에 따라 발전할 수 있습니다.

사용 예시

Agent Platform 메모리 뱅크 개념 개요

다음 프로세스를 사용하여 Agent Platform 세션과 함께 메모리 뱅크를 사용하여 저장된 세션에서 메모리를 생성할 수 있습니다.

  1. (세션) CreateSession: 각 대화가 시작될 때 새 세션을 만듭니다. 에이전트가 사용하는 대화 기록은 이 세션으로 범위가 지정됩니다. 세션에는 사용자와 에이전트 간의 상호작용에 대한 메시지와 작업 (SessionEvents)의 시간순 시퀀스가 포함됩니다. 모든 세션에는 사용자 ID가 있어야 합니다. 이 세션에 대해 추출된 메모리 (GenerateMemories 참조)가 이 사용자에 매핑됩니다.

  2. (세션) AppendEvent: 사용자가 에이전트와 상호작용하면 이벤트(예: 사용자 메시지, 에이전트 응답, 도구 작업)가 세션에 업로드됩니다. 이벤트는 대화 기록을 유지하고 메모리를 생성하는 데 사용할 수 있는 대화 기록을 만듭니다.

  3. (세션) ListEvents: 사용자가 에이전트와 상호작용하면 에이전트가 대화 기록을 가져옵니다.

  4. (메모리 뱅크): 메모리를 생성하거나 만듭니다.

    • GenerateMemories: 지정된 간격 (예: 세션이 끝날 때 또는 턴이 끝날 때)에 에이전트가 대화 기록을 사용하여 메모리가 생성되도록 트리거할 수 있습니다. 사용자에 관한 사실은 현재 또는 향후 세션에서 사용할 수 있도록 대화 기록에서 자동으로 추출됩니다.

    • CreateMemory: 에이전트가 메모리 뱅크에 직접 메모리를 작성할 수 있습니다. 예를 들어 에이전트는 메모리를 작성해야 하는 시점과 저장해야 하는 정보(도구로 사용할 수 있는 메모리)를 결정할 수 있습니다. 에이전트가 추출되는 사실을 더 많이 제어하도록 하려면 CreateMemory를 사용하세요.

  5. (메모리 뱅크) RetrieveMemories: 사용자가 에이전트와 상호작용하면 에이전트가 해당 사용자에 관해 저장된 메모리를 가져올 수 있습니다. 모든 기억을 가져오거나 (간단한 검색) 현재 대화와 가장 관련성이 높은 메모리만 가져올 수 있습니다 (유사성 검색). 그런 다음 가져온 기억을 프롬프트에 삽입할 수 있습니다.

빠른 시작

다음 빠른 시작을 사용하여 메모리 뱅크를 시작하세요.

프롬프트 인젝션의 보안 위험

에이전트 플랫폼 공유 책임에 설명된 보안 책임 외에도 장기 메모리를 사용할 때 에이전트에 영향을 줄 수 있는 프롬프트 인젝션 및 메모리 포이즈닝의 위험을 고려하세요. 메모리 포이즈닝은 거짓 정보가 메모리 뱅크에 저장될 때 발생합니다. 그러면 에이전트가 향후 세션에서 이 거짓 정보나 악성 정보를 기반으로 작업할 수 있습니다.

메모리 포이즈닝의 위험을 완화하려면 다음을 수행하세요.

  • Model Armor: Model Armor를 사용하여 메모리 뱅크로 전송되거나 에이전트에서 전송되는 프롬프트를 검사합니다.

  • 적대적 테스트: 공격을 시뮬레이션하여 LLM 애플리케이션의 프롬프트 인젝션 취약점을 선제적으로 테스트합니다. 이를 일반적으로 '레드팀'이라고 합니다.

  • 샌드박스 실행: 에이전트가 외부 또는 중요 시스템을 실행하거나 상호작용할 수 있는 경우 이러한 작업은 엄격한 액세스 제어 및 사람의 검토가 적용된 샌드박스 환경에서 실행해야 합니다.

자세한 내용은 안전한 AI 에이전트에 대한 Google의 접근 방식을 참고하세요.

다음 단계

빠른 시작

메모리 뱅크 API를 시작하여 장기 메모리를 관리하세요.

빠른 시작

에이전트 개발 키트 (ADK)를 시작합니다.

가이드

메모리 뱅크를 설정하는 방법을 알아보세요.