Menyiapkan inferensi Knative

Pelajari cara menyiapkan dan mengonfigurasi penginstalan layanan Knative.

Sebelum memulai

Anda harus menginstal layanan Knative di cluster GKE Anda. Lihat panduan penginstalan untuk mengetahui detail tentang prasyarat cluster GKE dan cara menginstal layanan Knative.

Menyiapkan autentikasi dengan Workload Identity Federation untuk GKE

Anda dapat menggunakan Workload Identity Federation untuk GKE guna melakukan autentikasi layanan penayangan Knative ke Google Cloud API dan layanan. Anda harus menyiapkan Workload Identity Federation untuk GKE sebelum men-deploy layanan ke cluster. Jika tidak, setiap layanan yang ada di cluster sebelum mengaktifkan Workload Identity Federation untuk GKE harus dimigrasikan. Pelajari lebih lanjut cara menggunakan Workload Identity Federation untuk GKE.

Mengaktifkan metrik dengan Workload Identity Federation untuk GKE

Untuk mengaktifkan metrik, seperti pelaporan jumlah permintaan atau latensi permintaan ke Google Cloud Observability, Anda harus menetapkan izin tulis untuk Cloud Monitoring secara manual. Untuk mengetahui detailnya, lihat Mengaktifkan metrik dengan Workload Identity Federation untuk GKE.

Mengonfigurasi HTTPS dan domain kustom

Untuk mengaktifkan HTTPS dan menetapkan domain kustom, lihat halaman berikut:

Menyiapkan Cloud Service Mesh

Untuk mengonfigurasi opsi Cloud Service Mesh untuk penayangan Knative, lihat Opsi bidang kontrol dalam cluster, termasuk cara menyiapkan jaringan internal pribadi.

Menyiapkan jaringan internal pribadi

Men-deploy layanan di jaringan internal berguna bagi perusahaan yang menyediakan aplikasi internal untuk staf mereka, dan untuk layanan yang digunakan oleh klien yang berjalan di luar cluster penayangan Knative. Konfigurasi ini memungkinkan resource lain di jaringan Anda berkomunikasi dengan layanan menggunakan alamat IP pribadi internal (RFC 1918) yang tidak dapat diakses oleh publik.

Untuk membuat jaringan internal, Anda mengonfigurasi Cloud Service Mesh agar menggunakan Load Balancing TCP/UDP Internal alih-alih load balancer jaringan eksternal publik. Kemudian, Anda dapat men-deploy layanan penayangan Knative di alamat IP internal dalam jaringan VPC.

Sebelum memulai

Untuk menyiapkan load balancer internal:

  1. Aktifkan fitur load balancer internal di Cloud Service Mesh.

    Load balancer internal adalah fitur opsional yang dapat Anda konfigurasi selama penginstalan Cloud Service Mesh, atau dengan memperbarui penginstalan yang ada.

    Ikuti langkah-langkah di Mengaktifkan fitur opsional di bidang kontrol dalam cluster dan pastikan untuk menyertakan opsi skrip --option internal-load-balancer.

    Saat Anda menentukan opsi --option internal-load-balancer, skrip akan otomatis mengambil resource kustom Enable an internal load balancer dari GitHub. Jika Anda perlu mengubah resource kustom, ikuti petunjuk untuk menggunakan opsi --custom_overlay.

  2. Jalankan perintah berikut untuk memantau update pada cluster GKE Anda:

    kubectl -n INGRESS_NAMESPACE get svc istio-ingressgateway --watch

    Ganti INGRESS_NAMESPACE dengan namespace layanan ingress Cloud Service Mesh Anda. Tentukan istio-system jika Anda menginstal Cloud Service Mesh menggunakan konfigurasi defaultnya.

    1. Perhatikan anotasi cloud.google.com/load-balancer-type: Internal.
    2. Cari nilai IP di load balancer Ingress untuk berubah menjadi alamat IP pribadi.
    3. Tekan Ctrl+C untuk menghentikan pembaruan setelah Anda melihat alamat IP pribadi di kolom IP.

  3. Untuk cluster pribadi di Google Cloud, Anda harus membuka port. Untuk mengetahui detailnya, lihat membuka port di cluster pribadi dalam dokumentasi Cloud Service Mesh.

Untuk memverifikasi konektivitas internal setelah perubahan:

  1. Deploy layanan bernama sample ke layanan Knative di namespace default:

    gcloud run deploy sample \
--image gcr.io/knative-samples/helloworld \
--namespace default
--platform gke

  2. Buat virtual machine (VM) Compute Engine di zona yang sama dengan cluster GKE:

    VM=cloudrun-gke-ilb-tutorial-vm

gcloud compute instances create $VM

  3. Simpan alamat IP pribadi Istio Ingress Gateway dalam variabel lingkungan bernama EXTERNAL_IP dan file bernama external-ip.txt:

    export EXTERNAL_IP=$(kubectl -n INGRESS_NAMESPACE get svc istio-ingressgateway \
    -o jsonpath='{.status.loadBalancer.ingress[0].ip}' | tee external-ip.txt)

    Ganti INGRESS_NAMESPACE dengan namespace layanan ingress Cloud Service Mesh Anda. Tentukan istio-system jika Anda menginstal Cloud Service Mesh menggunakan konfigurasi defaultnya.

  4. Salin file yang berisi alamat IP ke VM:

    gcloud compute scp external-ip.txt $VM:~

  5. Hubungkan ke VM menggunakan SSH:

    gcloud compute ssh $VM

  6. Saat berada di sesi SSH, uji layanan contoh:

    curl -s -w'\n' -H Host:sample.default.nip.io $(cat external-ip.txt)

    Outputnya adalah sebagai berikut:

    Hello World!

  7. Keluar dari sesi SSH:

    exit

Menyiapkan lingkungan multi-tenant

Dalam kasus penggunaan multi-tenant, Anda harus mengelola dan men-deploy layanan penayangan Knative ke cluster Google Kubernetes Engine yang berada di luar project Anda saat ini. Untuk mengetahui informasi selengkapnya tentang multi-tenancy GKE, lihat Multi-tenancy cluster.

Untuk mempelajari cara mengonfigurasi multi-tenancy untuk layanan Knative, lihat Multi-tenancy lintas project.

Langkah berikutnya