Ringkasan Agent Gateway untuk GKE

Saat Anda men-deploy agen AI otonom di Google Kubernetes Engine (GKE), workload tersebut akan terhubung ke resource eksternal seperti server Model Context Protocol (MCP), API SaaS, dan agen lainnya.

Karena agen AI menentukan jalur eksekusinya secara dinamis berdasarkan perintah pengguna, dependensi jaringan mereka berubah secara real time. Agent Gateway menyediakan model tata kelola terpusat untuk mengamankan, mengelola, dan memantau traffic agen yang dinamis ini.

Dokumen ini ditujukan untuk engineer platform yang mengelola dan mengamankan infrastruktur GKE, serta untuk developer yang membangun dan men-deploy agen AI di GKE.

Mengapa menggunakan Agent Gateway?

Agent Gateway untuk GKE menawarkan pengalaman pengguna yang konsisten untuk mengatur agen yang dihosting GKE dan dikelola sendiri, dengan penegakan kebijakan tata kelola dan akses terpusat di semua interaksi agen di seluruh fleet Anda.

  • Terapkan konteks semantik: terapkan prinsip Zero Trust. Gateway melampaui aturan firewall, dengan memperhitungkan konteks semantik, intent, dan konten payload (perintah/respons) dari setiap interaksi.
  • Otorisasi gabungan: mengatasi "kewajiban identitas". Model keamanan dapat menangani otorisasi gabungan, menerapkan kebijakan yang memvalidasi identitas agen (apakah kodenya tepercaya?) dan identitas pengguna (apakah orang tersebut memiliki izin?) setiap kali agen bertindak atas nama pengguna.
  • Guardrail AI: untuk melindungi workload dari injeksi perintah, jailbreak, dan pemindahan data yang tidak sah, Gateway terintegrasi dengan Google Cloud Model Armor. Dengan menggunakan binding Ekstensi, Anda dapat melampirkan template pembersihan permintaan dan respons ke Gateway untuk mengevaluasi payload sebelum mencapai agen atau target eksternal.
  • Enkripsi otomatis: Gateway menggunakan proxy ambient GKE tanpa sidecar dan layanan jaringan lainnya untuk mengotomatiskan handshake mTLS, TLS termination, dan pemeriksaan antara Gateway dan workload agen, tanpa memerlukan perubahan kode atau pengelolaan sertifikat kustom.
  • Kemampuan observasi siap pakai: agen yang diatur secara otomatis menampilkan telemetri yang lengkap, termasuk pelacakan sesi dengan pelacakan waterfall interaktif yang menampilkan jalur eksekusi, pelacakan tumpukan, atribut, serta input dan output langkah demi langkah.

Konsep utama

Memahami konsep dan produk berikut sangat penting untuk menggunakan Agent Gateway di GKE:

  • Proxy ambient GKE: bidang data mesh layanan tanpa sidecar yang menyederhanakan jaringan GKE. Anda menggunakannya untuk mengotomatiskan mutual TLS (mTLS) dan mengintersepsi traffic agen keluar.
  • Secure Web Proxy (SWP): proxy penerusan transparan yang digunakan untuk menerapkan kebijakan keamanan dan melakukan pemeriksaan TLS pada traffic keluar agen Anda.
  • GKE Gateway: implementasi GKE dari Kubernetes Gateway API, yang digunakan untuk menyediakan Load Balancer Aplikasi untuk traffic masuk dari klien ke agen.
  • Model Armor: layanan keamanan AI yang digunakan untuk membersihkan perintah yang masuk dan respons yang keluar untuk melindungi dari prompt injection dan pemindahan data yang tidak sah.
  • Identity-Aware Proxy (IAP): layanan yang membuat lapisan otorisasi pusat, yang digunakan di sini untuk menerapkan kebijakan akses bagi traffic yang keluar melalui Secure Web Proxy.
  • Agent Identity: ID SPIFFE yang aman dan terikat workload yang ditetapkan ke agen Anda, yang digunakan untuk autentikasi dan kontrol akses.
  • Agent Registry: direktori pusat untuk semua agen, server Model Context Protocol (MCP), dan alat yang disetujui di organisasi Anda.
  • Binding ekstensi: mekanisme yang digunakan untuk melampirkan ekstensi otorisasi dan keamanan konten yang dapat disesuaikan (seperti Model Armor) ke Agent Gateway Anda untuk mengevaluasi payload.

Cara kerjanya

Anda menyusun Agent Gateway dengan layanan jaringan Google Cloud untuk mengamankan alur interaksi agentic tertentu di seluruh pola traffic ingress dan egress.

  • Egress (Agen-ke-Mana Saja): merutekan permintaan keluar agen Anda dengan aman ke layanan, alat, dan agen lain eksternal. Anda mengonfigurasi proxy ambient GKE untuk mencegat dan mengalihkan traffic melaluiGoogle Cloud Secure Web Proxy (SWP). SWP menerapkan kebijakan keamanan Anda, melakukan pemeriksaan TLS, dan memungkinkan Anda mendelegasikan keputusan akses ke Google Cloud Identity-Aware Proxy (IAP) (IAP) atau ekstensi kustom.
  • Ingress (Klien-ke-Agen atau Server MCP): mengelola cara klien eksternal dan layanan yang dihosting oleh Google berinteraksi dengan agen yang Anda kelola sendiri di cluster GKE. Anda menyediakan Google Cloud Load Balancer Aplikasi (GKE Gateway) standar dan menggunakan resource kustom Kubernetes untuk menerapkan guardrail yang komprehensif. Anda menggunakan GCPAuthzPolicy untuk menerapkan kontrol RBAC identitas, metadata, dan alat MCP, serta GCPExtensionBinding untuk evaluasi payload dan guardrail yang didelegasikan (seperti Model Armor).

Versi dan wilayah yang didukung

Cluster Anda harus menjalankan GKE versi 1.37.2-gke.1042000 atau yang lebih baru, yang tersedia di saluran rilis Rapid.

Selain itu, Anda hanya dapat menggunakan Agent Gateway untuk GKE di region berikut:

  • europe-west1
  • us-central1

Kapan harus menggunakan Agent Gateway

Gunakan Agent Gateway jika Anda men-deploy agen AI yang dikelola sendiri di cluster GKE dan perlu melakukan salah satu hal berikut:

  • Amankan dan kelola cara agen Anda berinteraksi dengan pengguna, agen lain, serta alat dan layanan eksternal.
  • Pertahankan postur keamanan yang ketat tanpa memperlambat developer Anda.
  • Memantau performa, perilaku, dan kondisi agen Anda.
  • Mengotomatiskan tugas jaringan yang kompleks, termasuk mutual TLS (mTLS) dan pemeriksaan TLS.
  • Terapkan pagar pengaman khusus AI, seperti sanitasi perintah.

Prasyarat dan persyaratan

Sebelum mengonfigurasi tata kelola traffic masuk atau keluar, selesaikan prasyarat berikut:

  1. Aktifkan API yang diperlukan:

    gcloud services enable \
        agentregistry.googleapis.com \
        certificatemanager.googleapis.com \
        gkehub.googleapis.com \
        iap.googleapis.com \
        modelarmor.googleapis.com \
        networksecurity.googleapis.com \
        networkservices.googleapis.com \
        privateca.googleapis.com \
        serviceextensions.googleapis.com
    
  2. Membuat cluster GKE baru yang dikonfigurasi untuk ambient networking. Cluster Anda harus menjalankan GKE versi 1.37.2-gke.1042000 atau yang lebih baru, yang tersedia di saluran rilis Rapid.

    Untuk membuat cluster Standard dengan semua fitur yang diperlukan diaktifkan, jalankan perintah berikut:

    gcloud beta container clusters create CLUSTER_NAME \
        --machine-type=e2-standard-4 \
        --enable-ambient-networking \
        --enable-dataplane-v2 \
        --enable-fleet \
        --gateway-api=standard \
        --location=LOCATION \
        --release-channel=rapid \
        --workload-pool=PROJECT_ID.svc.id.goog
    

    Ganti kode berikut:

    • CLUSTER_NAME: nama cluster Anda.
    • LOCATION: region atau zona cluster Anda.
    • PROJECT_ID: Project ID Google Cloud Anda.
  3. Konfigurasi kubectl untuk berkomunikasi dengan cluster Anda:

    gcloud container clusters get-credentials CLUSTER_NAME \
        --location=LOCATION
    

    Ganti kode berikut:

    • CLUSTER_NAME: nama cluster Anda.
    • LOCATION: region atau zona cluster Anda.

Langkah berikutnya