Agent Runtime adalah serangkaian layanan yang memungkinkan developer men-deploy, mengelola, dan menskalakan agen AI dalam produksi. Agent Runtime menangani infrastruktur untuk menskalakan agen dalam produksi sehingga Anda dapat berfokus pada pembuatan aplikasi. Agent Runtime menawarkan layanan berikut yang dapat Anda gunakan secara individual atau gabungan:
- Runtime:
- Men-deploy dan menskalakan agen dengan runtime terkelola dan kemampuan pengelolaan menyeluruh.
- Menyesuaikan image container agen dengan skrip penginstalan waktu build untuk dependensi sistem.
- Menggunakan fitur keamanan termasuk kepatuhan VPC-SC dan konfigurasi autentikasi serta IAM.
- Mengakses model dan alat seperti panggilan fungsi.
- Men-deploy agen yang dibangun menggunakan berbagai framework Python dan protokol terbuka Agent2Agent.
- Kualitas dan evaluasi (Pratinjau): Mengevaluasi kualitas agen dengan layanan Evaluasi AI Generatif terintegrasi dan mengoptimalkan agen dengan proses pelatihan model Gemini.
- Sesi Platform Agen: Sesi Platform Agen memungkinkan Anda menyimpan interaksi individual antara pengguna dan agen, yang menyediakan sumber definitif untuk konteks percakapan.
- Memory Bank Platform Agen: Runtime Agen Memory Bank Platform Agen memungkinkan Anda menyimpan dan mengambil informasi dari sesi untuk mempersonalisasi interaksi agen.
- Eksekusi Kode: Eksekusi Kode Runtime Agen memungkinkan agen Anda menjalankan kode di lingkungan sandbox yang aman, terisolasi, dan terkelola.
- Example Store (Pratinjau): Menyimpan dan mengambil contoh few-shot secara dinamis untuk meningkatkan performa agen.
- Kemampuan observasi: Memahami perilaku agen dengan Google Cloud Trace (mendukung OpenTelemetry), Cloud Monitoring, dan Cloud Logging.
- Tata kelola: Agent Runtime mendukung beberapa fitur untuk membantu Anda
mengatur agen dalam produksi dan memenuhi kebutuhan keamanan serta perusahaan:
- Mendeteksi ancaman dengan Security Command Center: Deteksi Ancaman Runtime Agen (Pratinjau) adalah layanan bawaan Security Command Center yang membantu Anda mendeteksi dan menyelidiki potensi serangan terhadap agen yang di-deploy ke Agent Runtime.
- Identitas agen (Pratinjau): Menggunakan identitas agen Identity Access Management (IAM) untuk menyediakan fitur keamanan dan pengelolaan akses saat menggunakan agen di Agent Runtime.
- Agent Gateway (Pratinjau): Menggunakan Agent Gateway untuk menentukan aturan komunikasi agentic dan menerapkan kebijakan kontrol akses dan keamanan di seluruh agen, klien, dan alat yang terhubung ke dan dari Google Cloud project Anda.
Membuat dan men-deploy di Agent Runtime
Alur kerja untuk membangun agen di Agent Runtime adalah:
- Menyiapkan lingkungan: Menyiapkan project Google Anda dan menginstal versi terbaru Agent Platform SDK untuk Python.
- Mengembangkan agen: Mengembangkan agen yang dapat di-deploy di Agent Runtime.
- Men-deploy agen: Men-deploy agen di runtime terkelola Agent Runtime.
- Menggunakan agen: Mengirim kueri ke agen dengan mengirim permintaan API.
- Mengelola agen yang di-deploy: Mengelola dan menghapus agen yang telah Anda deploy ke Agent Runtime.
Langkah-langkahnya diilustrasikan oleh diagram berikut:
Framework yang didukung
Tabel berikut menjelaskan tingkat dukungan yang diberikan Agent Runtime untuk berbagai framework agen:
| Level dukungan | Framework agen |
|---|---|
| Template kustom: Anda dapat mengadaptasi template kustom untuk mendukung deployment ke Agent Runtime dari framework Anda. | CrewAI, framework kustom |
| Integrasi Agent Platform SDK: Agent Runtime menyediakan template terkelola per framework di Agent Platform SDK dan dokumentasi. | AG2, LlamaIndex |
| Integrasi penuh: Fitur terintegrasi untuk bekerja di seluruh framework, Agent Runtime, dan ekosistem yang lebih luas Google Cloud . | Agent Development Kit (ADK), LangChain, LangGraph |
Men-deploy dalam produksi dengan Agents CLI
Agents CLI adalah antarmuka command line dan kumpulan keterampilan terpadu untuk Platform Agen Gemini Enterprise. CLI ini menyediakan jalur yang dapat diprediksi bagi agen dan developer coding melalui Siklus Proses Pengembangan Agen: scaffold, evaluasi, deployment, publikasi, dan observasi. Agents CLI menyediakan hal berikut:
- Template agen bawaan: ReAct, RAG, multi-agen, dan template lainnya.
- Playground interaktif: Menguji dan berinteraksi dengan agen Anda.
- Infrastruktur otomatis: Menggunakan Terraform untuk pengelolaan resource yang disederhanakan.
- Pipeline CI/CD: Alur kerja deployment otomatis yang memanfaatkan Cloud Build.
- Kemampuan observasi: Dukungan bawaan untuk Cloud Trace dan Cloud Logging.
Untuk memulai, lihat Panduan memulai.
Kasus penggunaan
Untuk mempelajari Agent Runtime dengan contoh menyeluruh, lihat referensi berikut:
Klik untuk meluaskan kasus penggunaan
| Kasus Penggunaan | Deskripsi | Link | |
|---|---|---|---|
| Membangun agen dengan terhubung ke API publik | Mengonversi antar-mata uang. Membuat fungsi yang terhubung ke aplikasi penukaran mata uang, sehingga model dapat memberikan jawaban yang akurat untuk kueri seperti "Berapa nilai tukar euro terhadap dolar hari ini?" |
Notebook Agent Platform SDK (Python) - Pengantar Membangun dan Men-deploy Agen dengan Agent Runtime | |
| Mendesain project tenaga surya komunitas. Mengidentifikasi potensi lokasi, mencari kantor dan pemasok pemerintah yang relevan, serta meninjau gambar satelit dan potensi tenaga surya di wilayah dan bangunan untuk menemukan lokasi optimal guna menginstal panel surya Anda. |
Notebook Agent Platform SDK (Python) - Membangun dan Men-deploy Agen Google Maps API dengan Agent Runtime | ||
| Membangun agen dengan terhubung ke database | Integrasi dengan AlloyDB dan Cloud SQL untuk PostgreSQL. | Postingan blog - Mengumumkan LangChain di Platform Agen Gemini Enterprise untuk AlloyDB dan Cloud SQL untuk PostgreSQL Notebook Agent Platform SDK (Python) - Men-deploy Aplikasi RAG dengan Cloud SQL untuk PostgreSQL ke Agent Runtime Notebook Agent Platform SDK (Python) - Men-deploy Aplikasi RAG dengan AlloyDB untuk PostgreSQL ke Agent Runtime |
|
| Membangun agen dengan alat yang mengakses data di database Anda. | Notebook Agent Platform SDK (Python) - Men-deploy Agen dengan Agent Runtime dan MCP Toolbox for Databases | ||
| Mengirim kueri dan memahami datastore terstruktur menggunakan natural language. | Notebook Agent Platform SDK (Python) - Membangun Agen Penelusuran Percakapan dengan Agent Runtime dan RAG di Agent Search | ||
| Mengirim kueri dan memahami database grafik menggunakan natural language | Postingan blog - Agen GenAI GraphRAG dan AI menggunakan Agent Runtime dengan LangChain dan Neo4j | ||
| Mengirim kueri dan memahami penyimpanan vektor menggunakan natural language | Postingan blog - Menyederhanakan GenAI RAG dengan MongoDB Atlas dan Agent Runtime | ||
| Membangun agen dengan Agent Development Kit | Membangun dan men-deploy agen menggunakan Agent Development Kit. | Agent Development Kit -- Men-deploy ke Agent Runtime | |
| Membangun agen dengan framework OSS | Membangun dan men-deploy agen menggunakan framework open source OneTwo. | Postingan blog - OneTwo dan Agent Runtime: menjelajahi pengembangan agen AI lanjutan di Google Cloud | |
| Membangun dan men-deploy agen menggunakan framework open source LangGraph. | Notebook Agent Platform SDK (Python) - Membangun dan Men-deploy Aplikasi LangGraph dengan Agent Runtime | ||
| Melakukan proses debug dan mengoptimalkan agen | Membangun dan melacak agen menggunakan OpenTelemetry dan Cloud Trace. | Notebook Agent Platform SDK (Python) - Melakukan Proses Debug dan Mengoptimalkan Agen: Panduan untuk Melakukan Pelacakan di Agent Runtime | |
| Membangun sistem multi-agen dengan protokol A2A (pratinjau) | Membangun agen yang dapat beroperasi dan berkomunikasi serta berkolaborasi dengan agen lain, terlepas dari framework-nya. | Untuk mengetahui informasi selengkapnya, lihat dokumentasi protokol A2A. | |
Keamanan perusahaan
Agent Runtime mendukung beberapa fitur untuk membantu Anda memenuhi persyaratan keamanan perusahaan, mematuhi kebijakan keamanan organisasi, dan mengikuti praktik terbaik keamanan. Fitur berikut didukung:
Kontrol Layanan VPC: Agent Runtime mendukung Kontrol Layanan VPC untuk memperkuat keamanan data dan mengurangi risiko pemindahan data yang tidak sah. Untuk mengetahui informasi selengkapnya, lihat Kontrol Layanan VPC Agent Runtime.
Antarmuka Private Service Connect: Untuk Agent Runtime, PSC-I memungkinkan agen Anda berinteraksi dengan layanan yang dihosting secara pribadi di VPC pengguna. Untuk mengetahui informasi selengkapnya, lihat Menggunakan antarmuka Private Service Connect dengan Agent Runtime.
Kunci enkripsi yang dikelola pelanggan (CMEK): Agent Runtime mendukung CMEK untuk melindungi data Anda dengan kunci enkripsi Anda sendiri, yang memberi Anda kepemilikan dan kontrol penuh atas kunci yang melindungi data Anda saat disimpan di Google Cloud. Untuk mengetahui informasi selengkapnya, lihat CMEK Agent Runtime.
Residensi data (DRZ): Agent Runtime mendukung Residensi data (DRZ) untuk memastikan bahwa semua data yang disimpan berada dalam region yang ditentukan.
HIPAA: Sebagai bagian dari Agent Platform, Agent Runtime mendukung HIPAA workload.
Transparansi Akses: Transparansi Akses memberi Anda log yang mencatat tindakan yang dilakukan personel Google saat mengakses konten Anda. Untuk mengetahui informasi selengkapnya tentang cara mengaktifkan Transparansi Akses untuk Agent Runtime, lihat Transparansi Akses di Agent Platform.
Tabel berikut menunjukkan fitur keamanan perusahaan mana yang didukung untuk setiap layanan Agent Platform:
| Fitur keamanan | Agent Runtime | Sesi | Memory Bank | Example Store | Eksekusi kode |
|---|---|---|---|---|---|
| Kontrol Layanan VPC | Ya | Ya | Ya | Tidak | Ya |
| Kunci enkripsi yang dikelola pelanggan | Ya | Ya | Ya | Tidak | Ya |
| Residensi data (DRZ) saat disimpan | Ya | Ya | Ya | Tidak | Ya |
| HIPAA | Ya | Ya | Ya | Ya | Ya |
| Transparansi Akses | Ya | Ya | Ya | Tidak | Tidak |
| Access Approval | Ya | Ya | Ya | Tidak | Tidak |
Region yang didukung
Lihat Lokasi untuk mengetahui daftar region yang didukung untuk Agent Runtime.
Quota
Lihat Kuota dan batas sistem untuk informasi kuota Agent Runtime.
Harga
Paket gratis tersedia untuk Agent Runtime. Untuk mengetahui informasi tentang harga untuk Agent Runtime, lihat Platform Agen Gemini Enterprise harga.
Migrasi ke SDK berbasis klien
Modul agent_engines dalam Agent Platform SDK sedang di-refactor ke desain berbasis klien karena alasan utama berikut:
- Untuk menyelaraskan dengan Agent Development Kit (ADK) dan Google Gen AI SDK dalam representasi jenis kanonis. Hal ini memastikan cara yang konsisten dan standar untuk merepresentasikan jenis data di berbagai SDK, yang menyederhanakan interoperabilitas dan mengurangi overhead konversi.
- Untuk cakupan parameter tingkat klien dalam aplikasi multi-project multi-lokasi. Google Cloud Hal ini memungkinkan aplikasi mengelola interaksi dengan resource di berbagai Google Cloud project dan lokasi geografis dengan mengonfigurasi setiap instance klien dengan setelan project dan lokasi tertentu.
- Untuk meningkatkan kemudahan ditemukan dan kohesivitas layanan Agent Runtime
Langkah berikutnya
Penyiapan Runtime Platform Agen
Siapkan lingkungan Anda untuk menggunakan Runtime Platform Agen.