Agent Runtime adalah serangkaian layanan yang memungkinkan developer men-deploy, mengelola, dan menskalakan agen AI dalam produksi. Agent Runtime menangani infrastruktur untuk menskalakan agen dalam produksi, sehingga Anda dapat berfokus pada pembuatan aplikasi. Agent Runtime menawarkan layanan berikut yang dapat Anda gunakan secara terpisah atau bersamaan:
- Waktu proses:
- Deploy dan menskalakan agen dengan kemampuan pengelolaan end-to-end dan runtime terkelola.
- Sesuaikan image container agen dengan skrip penginstalan waktu build untuk dependensi sistem.
- Gunakan fitur keamanan termasuk kepatuhan VPC-SC dan konfigurasi autentikasi dan IAM.
- Mengakses model dan alat seperti panggilan fungsi.
- Men-deploy agen yang dibangun menggunakan berbagai framework Python dan protokol terbuka Agent2Agent.
- Kualitas dan evaluasi (Pratinjau): Evaluasi kualitas agen dengan layanan Evaluasi AI Generatif terintegrasi dan optimalkan agen dengan menjalankan pelatihan model Gemini.
- Sesi Platform Agen: Sesi Platform Agen memungkinkan Anda menyimpan setiap interaksi antara pengguna dan agen, sehingga memberikan sumber pasti untuk konteks percakapan.
- Bank Memori Platform Agen: Agent Runtime Bank Memori Platform Agen memungkinkan Anda menyimpan dan mengambil informasi dari sesi untuk mempersonalisasi interaksi agen.
- Eksekusi Kode: Eksekusi Kode Runtime Agen memungkinkan agen Anda menjalankan kode di lingkungan sandbox yang aman, terisolasi, dan terkelola.
- Example Store (Pratinjau): Simpan dan ambil contoh few-shot secara dinamis untuk meningkatkan performa agen.
- Observability: Pahami perilaku agen dengan Google Cloud Trace (mendukung OpenTelemetry), Cloud Monitoring, dan Cloud Logging.
- Tata kelola: Agent Runtime mendukung beberapa fitur untuk membantu Anda
mengelola agen dalam produksi dan memenuhi kebutuhan keamanan dan perusahaan Anda:
- Mendeteksi ancaman dengan Security Command Center: Deteksi Ancaman Runtime Agen (Pratinjau) adalah layanan bawaan Security Command Center yang membantu Anda mendeteksi dan menyelidiki potensi serangan pada agen yang di-deploy ke Runtime Agen.
- Identitas agen (Pratinjau): Gunakan identitas agen Identity Access Management (IAM) untuk menyediakan fitur keamanan dan pengelolaan akses saat menggunakan agen di Runtime Agen.
- Agent Gateway (Pratinjau): Gunakan Agent Gateway untuk menentukan aturan komunikasi agen dan menerapkan kebijakan keamanan serta kontrol akses di seluruh agen, klien, dan alat yang terhubung ke dan dari project Google Cloud Anda.
Membuat dan men-deploy di Agent Runtime
Alur kerja untuk membangun agen di Agent Runtime adalah:
- Siapkan lingkungan: Siapkan project Google Anda dan instal Agent Platform SDK untuk Python versi terbaru.
- Mengembangkan agen: Mengembangkan agen yang dapat di-deploy di Agent Runtime.
- Men-deploy agen: Deploy agen di runtime terkelola Agent Runtime.
- Menggunakan agen: Buat kueri ke agen dengan mengirim permintaan API.
- Mengelola agen yang di-deploy: Mengelola dan menghapus agen yang telah Anda deploy ke Agent Runtime.
Langkah-langkahnya diilustrasikan oleh diagram berikut:
Framework yang didukung
Tabel berikut menjelaskan tingkat dukungan yang disediakan Agent Runtime untuk berbagai framework agen:
| Level dukungan | Framework agen |
|---|---|
| Template kustom: Anda dapat menyesuaikan template kustom untuk mendukung deployment ke Agent Runtime dari framework Anda. | CrewAI, framework kustom |
| Integrasi Agent Platform SDK: Agent Runtime menyediakan template terkelola per framework di Agent Platform SDK dan dokumentasi. | AG2, LlamaIndex |
| Integrasi penuh: Fitur diintegrasikan agar berfungsi di seluruh framework, Agent Runtime, dan ekosistem Google Cloud yang lebih luas. | Agent Development Kit (ADK), LangChain, LangGraph |
Men-deploy dalam produksi dengan Agents CLI
Agents CLI adalah antarmuka command line dan set keterampilan terpadu untuk Platform Agen Gemini Enterprise. Framework ini menyediakan jalur yang dapat diprediksi bagi agen coding dan developer melalui Siklus Proses Pengembangan Agen: membuat kerangka, mengevaluasi, men-deploy, memublikasikan, dan mengamati. CLI Agen menyediakan hal berikut:
- Template agen bawaan: ReAct, RAG, multi-agen, dan template lainnya.
- Playground interaktif: Uji dan berinteraksi dengan agen Anda.
- Infrastruktur otomatis: Menggunakan Terraform untuk pengelolaan resource yang efisien.
- Pipeline CI/CD: Alur kerja deployment otomatis yang memanfaatkan Cloud Build.
- Kemampuan observasi: Dukungan bawaan untuk Cloud Trace dan Cloud Logging.
Untuk memulai, lihat Panduan memulai.
Kasus penggunaan
Untuk mempelajari Agent Runtime dengan contoh end-to-end, lihat referensi berikut:
Klik untuk meluaskan kasus penggunaan
| Kasus Penggunaan | Deskripsi | Link | |
|---|---|---|---|
| Membangun agen dengan terhubung ke API publik | Mengonversi antar-mata uang. Buat fungsi yang terhubung ke aplikasi pertukaran mata uang, sehingga model dapat memberikan jawaban yang akurat untuk kueri seperti "Berapa nilai tukar euro terhadap dolar hari ini?" |
Notebook Agent Platform SDK (Python) - Pengantar Membangun dan Men-deploy Agen dengan Agent Runtime | |
| Mendesain project surya komunitas. Identifikasi lokasi yang berpotensi, cari kantor pemerintah dan pemasok yang relevan, serta tinjau gambar satelit dan potensi tenaga surya di wilayah dan bangunan untuk menemukan lokasi optimal guna memasang panel surya Anda. |
Notebook Agent Platform SDK (Python) - Membangun dan Men-deploy Agen Google Maps API dengan Agent Runtime | ||
| Membangun agen dengan menghubungkan ke database | Integrasi dengan AlloyDB dan Cloud SQL untuk PostgreSQL. | Postingan blog - Memperkenalkan LangChain di Platform Agen Gemini Enterprise untuk AlloyDB dan Cloud SQL untuk PostgreSQL Notebook Agent Platform SDK (Python) - Deploying a RAG Application with Cloud SQL for PostgreSQL to Agent Runtime Notebook Agent Platform SDK (Python) - Deploying a RAG Application with AlloyDB for PostgreSQL to Agent Runtime |
|
| Bangun agen dengan alat yang mengakses data di database Anda. | Notebook Agent Platform SDK (Python) - Deploying an Agent with Agent Runtime and MCP Toolbox for Databases | ||
| Buat kueri dan pahami penyimpanan data terstruktur menggunakan natural language. | Notebook Agent Platform SDK (Python) - Membangun Agen Penelusuran Percakapan dengan Agent Runtime dan RAG di Agent Search | ||
| Membuat kueri dan memahami database grafik menggunakan natural language | Postingan blog - Agen AI dan GraphRAG GenAI menggunakan Agent Runtime dengan LangChain dan Neo4j | ||
| Membuat kueri dan memahami penyimpanan vektor menggunakan natural language | Postingan blog - Menyederhanakan RAG GenAI dengan MongoDB Atlas dan Agent Runtime | ||
| Membangun agen dengan Agent Development Kit | Membangun dan men-deploy agen menggunakan Agent Development Kit. | Agent Development Kit -- Men-deploy ke Agent Runtime | |
| Membangun agen dengan framework OSS | Membangun dan men-deploy agen menggunakan framework open source OneTwo. | Postingan blog - OneTwo dan Agent Runtime: menjelajahi pengembangan agen AI tingkat lanjut di Google Cloud | |
| Bangun dan deploy agen menggunakan framework open source LangGraph. | Notebook Agent Platform SDK (Python) - Membangun dan Men-deploy Aplikasi LangGraph dengan Agent Runtime | ||
| Melakukan proses debug dan mengoptimalkan agen | Bangun dan lacak agen menggunakan OpenTelemetry dan Cloud Trace. | Notebook Agent Platform SDK (Python) - Men-debug dan Mengoptimalkan Agen: Panduan untuk Melakukan Pelacakan di Agent Runtime | |
| Membangun sistem multi-agen dengan protokol A2A (pratinjau) | Bangun agen yang dapat beroperasi dengan agen lain, berkomunikasi, dan berkolaborasi dengan agen lain, terlepas dari framework-nya. | Untuk mengetahui informasi selengkapnya, lihat dokumentasi protokol A2A. | |
Keamanan perusahaan
Agent Runtime mendukung beberapa fitur untuk membantu Anda memenuhi persyaratan keamanan perusahaan, mematuhi kebijakan keamanan organisasi Anda, dan mengikuti praktik terbaik keamanan. Fitur berikut didukung:
Kontrol Layanan VPC: Runtime Agen mendukung Kontrol Layanan VPC untuk memperkuat keamanan data dan mengurangi risiko pemindahan data yang tidak sah. Saat Kontrol Layanan VPC dikonfigurasi, agen yang di-deploy mempertahankan akses yang aman ke API dan layanan Google, seperti BigQuery API, Cloud SQL Admin API, dan Agent Platform API, sehingga memverifikasi operasi yang lancar dalam perimeter yang Anda tentukan. Yang penting, Kontrol Layanan VPC secara efektif memblokir semua akses internet publik, membatasi pergerakan data ke batas jaringan yang diotorisasi dan meningkatkan postur keamanan perusahaan Anda secara signifikan.
Kontrol Layanan VPC tidak didukung dengan Agent Gateway. Namun, Anda dapat menggunakan batasan kebijakan organisasi kustom untuk membatasi gateway mana yang dapat dikaitkan dengan agen Anda. Untuk mengetahui informasi selengkapnya, lihat Merutekan traffic melalui Agent Gateway.
Antarmuka Private Service Connect: Untuk Agent Runtime, PSC-I memungkinkan agen Anda berinteraksi dengan layanan yang dihosting secara pribadi di VPC pengguna. Untuk mengetahui informasi selengkapnya, lihat Menggunakan antarmuka Private Service Connect dengan Agent Runtime.
Kunci enkripsi yang dikelola pelanggan (CMEK): Agent Runtime mendukung CMEK untuk melindungi data Anda dengan kunci enkripsi Anda sendiri, yang memberi Anda kepemilikan dan kontrol penuh atas kunci yang melindungi data Anda dalam penyimpanan di Google Cloud. Untuk mengetahui informasi selengkapnya, lihat CMEK Runtime Agen.
Residensi data (DRZ): Agent Runtime mendukung Residensi data (DRZ) untuk memastikan bahwa semua data dalam penyimpanan disimpan dalam region yang ditentukan.
HIPAA: Sebagai bagian dari Agent Platform, Agent Runtime mendukung beban kerja HIPAA.
Transparansi Akses: Transparansi Akses memberi Anda log yang mencatat tindakan yang dilakukan personel Google saat mengakses konten Anda. Untuk informasi selengkapnya tentang cara mengaktifkan Transparansi Akses untuk Agent Runtime, lihat Transparansi Akses di Platform Agen.
Tabel berikut menunjukkan fitur keamanan perusahaan yang didukung untuk setiap layanan Platform Agen:
| Fitur keamanan | Runtime Agen | Sesi | Memory Bank | Example Store | Mengeksekusi kode |
|---|---|---|---|---|---|
| Kontrol Layanan VPC | Ya | Ya | Ya | Tidak | Ya |
| Kunci enkripsi yang dikelola pelanggan | Ya | Ya | Ya | Tidak | Ya |
| Residensi data (DRZ) dalam penyimpanan | Ya | Ya | Ya | Tidak | Ya |
| HIPAA | Ya | Ya | Ya | Ya | Ya |
| Transparansi Akses | Ya | Ya | Ya | Tidak | Tidak |
| Access Approval | Ya | Ya | Ya | Tidak | Tidak |
Region yang didukung
Lihat Lokasi untuk mengetahui daftar region yang didukung untuk Agent Runtime.
Kuota
Lihat Kuota dan batas sistem untuk mengetahui informasi kuota Agent Runtime.
Harga
Paket gratis tersedia untuk Agent Runtime. Untuk mengetahui informasi tentang harga Agent Runtime, lihat harga Platform Agen Gemini Enterprise.
Migrasi ke SDK berbasis klien
Modul agent_engines dalam Agent Platform SDK sedang di-refactor ke desain berbasis klien karena alasan utama berikut:
- Untuk menyelaraskan dengan Agent Development Kit (ADK) dan Google Gen AI SDK dalam representasi jenis kanonis. Hal ini memastikan cara yang konsisten dan standar untuk merepresentasikan jenis data di berbagai SDK, yang menyederhanakan interoperabilitas dan mengurangi overhead konversi.
- Untuk cakupan tingkat klien dari parameter Google Cloud dalam aplikasi multi-project multi-lokasi. Hal ini memungkinkan aplikasi mengelola interaksi dengan resource di berbagai project Google Cloud dan lokasi geografis dengan mengonfigurasi setiap instance klien dengan setelan project dan lokasi tertentu.
- Untuk meningkatkan kemudahan penemuan dan kohesivitas layanan Agent Runtime
Langkah berikutnya
Penyiapan Runtime Platform Agen
Siapkan lingkungan Anda untuk menggunakan Agent Platform Runtime.