Memory Bank Platform Agen

Agent Platform Memory Bank memungkinkan Anda menghasilkan memori jangka panjang secara dinamis berdasarkan percakapan antara pengguna dan agen Anda. Memori ini adalah informasi yang dipersonalisasi dan tetap ada di beberapa sesi, sehingga memungkinkan agen Anda beradaptasi dan mempersonalisasi respons untuk konteks dan kesinambungan.

Fitur

Memory Bank membantu Anda mengelola memori, sehingga Anda dapat mempersonalisasi cara agen berinteraksi dengan pengguna dan mengelola jendela konteks. Untuk setiap cakupan, Memory Bank mempertahankan kumpulan memori yang terisolasi. Setiap memori adalah informasi independen dan mandiri yang dapat digunakan untuk memperluas konteks yang tersedia bagi agen Anda. Contoh:

{
  "name": "projects/.../locations/.../reasoningEngines/.../memories/...",
  "scope": {
    "agent_name": "My agent",
    "user": "my user ID"
  },
  "fact": "I use Memory Bank to manage my memories."
}

Bank Memori mencakup fitur berikut:

  • Pembuatan memori: Buat, sempurnakan, dan kelola memori menggunakan model bahasa besar (LLM).

    • Ekstraksi memori: Mengekstrak hanya informasi yang paling bermakna dari data sumber untuk dipertahankan sebagai memori.

    • Konsolidasi memori: Mengonsolidasi informasi yang baru diekstrak dengan kenangan yang ada, sehingga kenangan dapat berkembang seiring dengan penyerapan informasi baru. Anda juga dapat menggabungkan kenangan yang telah diekstrak sebelumnya(seperti informasi yang dianggap penting oleh agen atau manusia dalam loop) dengan kenangan yang ada.

    • Pembuatan asinkron: Buat memori di latar belakang, sehingga agen Anda tidak perlu menunggu hingga pembuatan memori selesai.

    • Penyerapan peristiwa berkelanjutan: Streaming dan kelola peristiwa percakapan dengan penyerapan peristiwa, yang otomatis memicu pembuatan memori berdasarkan aturan pengelompokan yang Anda konfigurasi.

    • Ekstraksi yang dapat disesuaikan: Konfigurasi informasi yang dianggap penting oleh Memory Bank dengan memberikantopik tertentu dan contoh few-shot.

    • Pemahaman multimodal: Memproses informasi multimodal untuk membuat dan menyimpan insight tekstual.

  • Penyimpanan dan pengambilan data terkelola: Manfaatkan penyimpanan memori yang terkelola sepenuhnya, persisten, dan dapat diakses.

    • Isolasi data di seluruh identitas: Konsolidasi dan pengambilan memori diisolasi ke identitas tertentu.

    • Penyimpanan yang persisten dan dapat diakses: Menyimpan kenangan yang dapat diakses dari beberapa lingkungan, termasuk Agent Runtime, lingkungan lokal Anda, atau opsi deployment lainnya.

    • Penelusuran kemiripan: Mengambil memori menggunakan penelusuran kemiripan yang dicakup ke identitas tertentu.

    • Masa berlaku otomatis: Tetapkan time to live (TTL) pada kenangan untuk memastikan informasi yang sudah tidak berlaku dihapus secara otomatis. Konfigurasi instance Memory Bank Anda sehingga TTL otomatis diterapkan ke kenangan yang dimasukkan atau dibuat.

    • Revisi kenangan: Membuat dan mempertahankan revisi kenangan secara otomatis yang memungkinkan Anda memeriksa bagaimana kenangan berubah saat informasi baru dimasukkan.

    • Izin yang ketat: Gunakan kondisi IAM untuk membatasi akun utama yang dapat membaca atau menulis memori cakupan tertentu.

  • Integrasi agen: Hubungkan Memory Bank ke agen Anda, sehingga agen dapat mengatur panggilan untuk membuat dan mengambil memori.

    • Integrasi Agent Development Kit (ADK): Mengorkestrasi panggilan dari agen berbasis ADK Anda menggunakan alat ADK bawaan dan VertexAiMemoryBankService untuk membaca dan menulis ke Memory Bank.

    • Framework lain: Bungkus kode Memory Bank Anda dalam alat dan callback untuk mengatur pembuatan dan pengambilan memori.

Kasus penggunaan

Anda dapat menggunakan Memory Bank untuk mengubah interaksi agen stateless menjadi pengalaman stateful dan kontekstual yang memungkinkan agen mengingat, mempelajari, dan beradaptasi dari waktu ke waktu. Memory Bank ideal untuk aplikasi yang memerlukan:

  • Personalisasi jangka panjang: Buat pengalaman yang disesuaikan dengan setiap pengguna. Memory Bank mencakup memori ke identitas tertentu, sehingga memungkinkan agen mengingat preferensi, histori, dan detail penting pengguna di beberapa sesi.

    • Contoh: Agen layanan pelanggan yang mengingat informasi penting dari tiket dukungan dan preferensi produk pengguna di masa lalu tanpa perlu bertanya lagi.

  • Ekstraksi pengetahuan yang didukung LLM: Gunakan saat Anda perlu mengidentifikasi dan mempertahankan informasi terpenting dari percakapan atau konten multimodal secara otomatis tanpa intervensi manual.

    • Contoh: Agen riset yang membaca serangkaian makalah teknis dan membangun memori gabungan tentang temuan, metodologi, dan kesimpulan utama.

  • Konteks dinamis & terus berkembang: Gunakan Memory Bank jika Anda memerlukan sumber pengetahuan yang tidak statis. Memory Bank dirancang untuk terus mengintegrasikan informasi baru dari agen Anda, menyempurnakan dan memperbarui memori yang tersimpan saat data baru tersedia. Hal ini memastikan konteks yang diandalkan agen Anda selalu terbaru dan akurat. Sementara RAG memiliki pusat informasi eksternal statis, Memory Bank dapat berkembang berdasarkan konteks yang diberikan oleh agen.

Contoh penggunaan

Ringkasan konseptual Memory Bank Agent Platform

Anda dapat menggunakan Memory Bank dengan Sesi Agent Platform untuk membuat kenangan dari sesi tersimpan menggunakan proses berikut:

  1. (Sesi) CreateSession: Di awal setiap percakapan, buat sesi baru. Histori percakapan yang digunakan oleh agen dibatasi pada sesi ini. Sesi berisi urutan kronologis pesan dan tindakan (SessionEvents) untuk interaksi antara pengguna dan agen Anda. Semua sesi harus memiliki ID pengguna; memori yang diekstrak (lihat GenerateMemories) untuk sesi ini dipetakan ke pengguna ini.

  2. (Sesi) AppendEvent: Saat pengguna berinteraksi dengan agen, peristiwa (seperti pesan pengguna, respons agen, tindakan alat) diupload ke Sesi. Peristiwa ini mempertahankan histori percakapan dan membuat catatan percakapan yang dapat digunakan untuk membuat memori.

  3. (Sesi) ListEvents: Saat pengguna berinteraksi dengan agen, agen mengambil histori percakapan.

  4. (Memory Bank) Membuat atau menghasilkan kenangan:

    • GenerateMemories: Pada interval tertentu (seperti akhir setiap sesi atau akhir setiap giliran), agen dapat memicu pembuatan memori menggunakan histori percakapan. Fakta tentang pengguna akan diekstrak secara otomatis dari histori percakapan sehingga tersedia untuk sesi saat ini atau mendatang.

    • CreateMemory: Agen Anda dapat menulis kenangan langsung ke Memory Bank. Misalnya, agen dapat memutuskan kapan memori harus ditulis dan informasi apa yang harus disimpan (memori sebagai alat). Gunakan CreateMemory jika Anda ingin agen Anda memiliki lebih banyak kontrol atas fakta yang diekstrak.

  5. (Memory Bank) RetrieveMemories: Saat pengguna berinteraksi dengan agen Anda, agen dapat mengambil memori yang disimpan tentang pengguna tersebut. Anda dapat mengambil semua kenangan (pengambilan sederhana) atau hanya kenangan yang paling relevan dengan percakapan saat ini (pengambilan penelusuran kesamaan). Kemudian, Anda dapat menyisipkan kenangan yang diambil ke dalam perintah Anda.

Panduan memulai

Mulai menggunakan Memory Bank dengan panduan memulai berikut:

Tata kelola Memory Bank

Bagian ini menjelaskan pertimbangan tata kelola data saat menggunakan Memory Bank, seperti tanggung jawab keamanan dan residensi data.

Risiko keamanan injeksi perintah

Selain tanggung jawab keamanan yang diuraikan dalam tanggung jawab bersama Platform Agen, pertimbangkan risiko injeksi perintah dan peracunan memori yang dapat memengaruhi agen Anda saat menggunakan memori jangka panjang. Keracunan memori terjadi saat informasi palsu disimpan di Memory Bank. Agen kemudian dapat beroperasi pada informasi palsu atau berbahaya ini pada sesi mendatang.

Untuk mengurangi risiko keracunan memori, Anda dapat melakukan hal berikut:

  • Model Armor: Gunakan Model Armor untuk memeriksa perintah yang dikirim ke Memory Bank atau dari agen Anda.

  • Pengujian adversarial: Menguji aplikasi LLM Anda secara proaktif untuk menemukan kerentanan injeksi perintah dengan menyimulasikan serangan. Hal ini biasanya dikenal sebagai "red teaming".

  • Eksekusi sandbox: Jika agen memiliki kemampuan untuk mengeksekusi atau berinteraksi dengan sistem eksternal atau penting, tindakan ini harus dilakukan di lingkungan sandbox dengan kontrol akses yang ketat dan peninjauan manual.

Untuk mengetahui informasi selengkapnya, lihat Pendekatan Google untuk Agen AI yang Aman.

Residensi data

Untuk mematuhi kerangka kerja peraturan seperti General Data Protection Regulation (GDPR) dan persyaratan kedaulatan data regional, Anda harus memastikan bahwa kenangan yang dibuat dan disimpan di Bank Memori mematuhi batas residensi dan pemisahan data yang ketat.

Meskipun Memory Bank menyediakan isolasi data berbasis cakupan di seluruh identitas dalam sebuah instance, Anda harus menerapkan Role-Based Access Control (RBAC) dan kebijakan Identity and Access Management untuk menerapkan batas regional dan mencegah kontaminasi memori lintas batas antara instance regional yang berbeda.

Deployment instance regional dan residensi data

Saat membuat instance Bank Memori, pilih lokasi regional atau multi-regional (seperti eu untuk Uni Eropa atau us untuk Amerika Serikat) untuk memastikan data dalam penyimpanan tetap berada dalam batas geografis tertentu tersebut.

Lokasi pemrosesan machine learning (ML) bergantung pada ketersediaan regional model pokok. Jika endpoint regional tidak tersedia untuk model atau lokasi yang Anda pilih (misalnya, model Gemini 3 atau region tunggal Asia), endpoint Gemini global akan digunakan untuk pemrosesan ML. Untuk mengetahui informasi selengkapnya, lihat Residensi data dan Endpoint global dan multiregional.

Mencegah kontaminasi memori lintas batas

Kontaminasi lintas batas terjadi saat runtime agen, identitas agen, akun layanan, atau aplikasi yang beroperasi di satu wilayah hukum (misalnya, Amerika Serikat) menulis ke atau mengambil memori dari instance Bank Memori yang berada di wilayah hukum lain (misalnya, Uni Eropa).

Untuk mencegah kontaminasi lintas batas dan mempertahankan kepatuhan terhadap peraturan, Anda dapat mengonfigurasi kontrol IAM berikut:

  • Akun layanan atau identitas agen regional khusus: Buat identitas agen atau akun layanan khusus wilayah yang terpisah untuk setiap wilayah hukum (seperti agent-us@PROJECT_ID.iam.gserviceaccount.com untuk workload AS dan agent-eu@PROJECT_ID.iam.gserviceaccount.com untuk workload Uni Eropa). Pastikan identitas agen regional dan akun layanan hanya diberi peran IAM pada instance Memory Bank yang berada dalam yurisdiksi geografis yang sama, sehingga mencegah runtime regional mengakses instance lintas batas.

    • Peran khusus dengan hak istimewa terendah: Berikan pokok hanya peran Memory Bank tertentu yang diperlukan untuk workload-nya (seperti roles/aiplatform.memoryViewer untuk pengambilan hanya baca atau roles/aiplatform.memoryEditor untuk akses tulis dan pembuatan) yang terikat ke resource regional yang sesuai. Untuk mengetahui detail tentang peran yang tersedia, lihat Peran IAM Memory Bank Khusus.

  • Kebijakan organisasi: Terapkan batasan lokasi di tingkat organisasi, folder, atau project menggunakan gcp.resourceLocations batasan kebijakan organisasi. Hal ini membatasi pembuatan dan penggunaan resource Bank Memori ke wilayah yang mematuhi kebijakan dan telah disetujui serta mencegah penggunaan endpoint global yang tidak sah.

Untuk mengetahui informasi selengkapnya tentang penerapan kebijakan akses bersyarat, lihat Mengontrol akses ke Memory Bank Agent Platform dengan Kondisi IAM.

Langkah berikutnya

Panduan memulai

Mulai menggunakan Memory Bank API untuk mengelola memori jangka panjang.

Panduan memulai

Mulai menggunakan Agent Development Kit (ADK).

Panduan

Pelajari cara menyiapkan Memory Bank.