Mengontrol atribut node yang diskalakan otomatis dengan ComputeClass kustom

Dokumen ini menunjukkan cara mengontrol infrastruktur komputasi dan penskalaan otomatis perilaku cluster Google Kubernetes Engine (GKE) berdasarkan kebutuhan spesifik workload Anda menggunakan ComputeClass kustom.

Dokumen ini ditujukan untuk administrator platform yang ingin menentukan profil penskalaan otomatis untuk node secara deklaratif, dan untuk operator cluster yang ingin menjalankan workload mereka di ComputeClass tertentu.

Tentang ComputeClass kustom

ComputeClass kustom adalah Kubernetes Resource Kustom yang memungkinkan Anda menentukan prioritas yang akan diikuti GKE saat menyediakan node untuk menjalankan workload Anda. Anda dapat menggunakan ComputeClass kustom untuk melakukan hal berikut:

  • Memberi GKE serangkaian prioritas untuk diikuti secara berurutan saat menyediakan node, masing-masing dengan parameter tertentu seperti seri mesin Compute Engine atau kapasitas resource minimum
  • Menentukan parameter dan nilai minimum penskalaan otomatis untuk menghapus node yang kurang dimanfaatkan dan mengonsolidasikan workload secara efisien pada kapasitas komputasi yang ada
  • Memberi tahu GKE untuk mengganti konfigurasi node yang kurang disukai secara otomatis dengan konfigurasi node yang lebih disukai untuk performa workload yang optimal

Untuk memahami semua opsi konfigurasi dan cara interaksinya satu sama lain serta dengan mode Autopilot GKE dan mode Standard GKE, lihat Tentang ComputeClass kustom.

Harga

Resource kustom ComputeClass disediakan tanpa biaya tambahan di GKE. Pertimbangan harga berikut berlaku:

Batasan

Nama ComputeClass tidak boleh diawali dengan gke atau autopilot.

Sebelum memulai

Sebelum memulai, pastikan Anda telah melakukan tugas berikut:

  • Aktifkan Google Kubernetes Engine API.
    • Aktifkan Google Kubernetes Engine API
  • Untuk menggunakan Google Cloud CLI untuk tugas ini, instal lalu lakukan inisialisasi gcloud CLI. Jika sebelumnya Anda telah menginstal gcloud CLI, dapatkan versi terbaru dengan menjalankan perintah gcloud components update. Versi gcloud CLI yang lebih lama mungkin tidak mendukung perintah yang ada dalam dokumen ini.
  • Pastikan Anda memiliki cluster GKE yang ada yang menjalankan versi 1.30.3-gke.1451000 atau yang lebih baru. Untuk mengetahui informasi selengkapnya, lihat Membuat cluster Autopilot.

  • Jika Anda menggunakan cluster mode Standard, pastikan Anda memenuhi salah satu persyaratan berikut:

Contoh skenario untuk ComputeClass

Dokumen ini menyajikan contoh skenario yang menentukan ComputeClass kustom. Dalam praktiknya, Anda harus mempertimbangkan persyaratan workload dan organisasi tertentu, serta menentukan ComputeClass yang memenuhi persyaratan tersebut. Untuk mengetahui deskripsi lengkap semua opsi untuk ComputeClass, dan untuk pertimbangan khusus, lihat Tentang ComputeClass kustom.

Pertimbangkan contoh skenario berikut:

  • Tujuan Anda adalah mengoptimalkan biaya operasional untuk workload Anda
  • Workload Anda toleran terhadap fault dan tidak memerlukan penonaktifan yang lancar atau runtime yang diperpanjang
  • Workload Anda memerlukan setidaknya 64 vCPU untuk berjalan secara optimal
  • Anda dibatasi untuk seri mesin Compute Engine N4

Berdasarkan contoh skenario, Anda memutuskan bahwa Anda menginginkan ComputeClass yang melakukan hal berikut:

  • Memprioritaskan node Spot N4 yang memiliki setidaknya 64 vCPU
  • Memungkinkan GKE melakukan failover ke node Spot N4 mana pun, terlepas dari kapasitas komputasi
  • Jika tidak ada node Spot N4 yang tersedia, memungkinkan GKE menggunakan node N4 sesuai permintaan
  • Memberi tahu GKE untuk memindahkan workload Anda ke node Spot setiap kali tersedia lagi

Mengonfigurasi ComputeClass dalam mode Autopilot

Di GKE Autopilot, Anda menentukan ComputeClass, men-deploy-nya ke cluster, dan meminta ComputeClass tersebut di workload Anda. GKE melakukan langkah-langkah konfigurasi node, seperti menerapkan label dan taint, untuk Anda.

Simpan manifes berikut sebagai compute-class.yaml:

apiVersion: cloud.google.com/v1
kind: ComputeClass
metadata:
  name: cost-optimized
spec:
  priorities:
  - machineFamily: n4
    spot: true
    minCores: 64
  - machineFamily: n4
    spot: true
  - machineFamily: n4
    spot: false
  activeMigration:
    optimizeRulePriority: true
  nodePoolAutoCreation:
    enabled: true

Mengonfigurasi ComputeClass dalam mode Standard

Di cluster mode Standard GKE, Anda mungkin harus melakukan konfigurasi manual untuk memastikan Pod ComputeClass Anda dijadwalkan seperti yang diharapkan. Konfigurasi manual bergantung pada apakah node pool Anda dibuat secara otomatis, sebagai berikut:

Untuk mengizinkan GKE membuat node pool secara otomatis untuk ComputeClass Anda, ikuti langkah-langkah berikut:

  1. Untuk cluster mode Standard yang menjalankan versi yang lebih lama dari 1.33.3-gke.1136000 dan tidak terdaftar di saluran rilis Cepat, aktifkan penyediaan otomatis node tingkat cluster.

  2. Simpan contoh manifes berikut sebagai compute-class.yaml:

    apiVersion: cloud.google.com/v1
kind: ComputeClass
metadata:
  name: cost-optimized
spec:
  priorities:
  - machineFamily: n4
    spot: true
    minCores: 64
  - machineFamily: n4
    spot: true
  - machineFamily: n4
    spot: false
  activeMigration:
    optimizeRulePriority: true
  nodePoolAutoCreation:
    enabled: true

    Saat Anda men-deploy Pod yang meminta contoh ComputeClass ini dan node baru perlu dibuat, GKE memprioritaskan pembuatan node dalam urutan item di kolom priorities. Jika diperlukan, GKE akan membuat node pool baru yang memenuhi persyaratan hardware ComputeClass.

Anda juga dapat menentukan jenis mesin kustom yang tepat dalam prioritas Anda. Penggunaan jenis mesin kustom memerlukan GKE versi 1.33.2-gke.1111000 atau yang lebih baru. Contoh berikut mengonfigurasi ComputeClass yang memprioritaskan Spot VM untuk jenis mesin kustom n4-custom-8-20480, dan melakukan failover ke VM sesuai permintaan dari jenis yang sama jika kapasitas Spot tidak tersedia:

apiVersion: cloud.google.com/v1
kind: ComputeClass
metadata:
  name: custom-machine-type
spec:
  priorities:
  - machineType: n4-custom-8-20480
    spot: true
  - machineType: n4-custom-8-20480
    spot: false
  nodePoolAutoCreation:
    enabled: true

Menggunakan ComputeClass dengan node pool yang dibuat secara manual

Bagian ini menunjukkan cara menentukan ComputeClass di cluster yang hanya menggunakan node pool yang dibuat secara manual.

  1. Simpan manifes berikut sebagai compute-class.yaml:

    apiVersion: cloud.google.com/v1
kind: ComputeClass
metadata:
  name: cost-optimized
spec:
  priorities:
  - machineFamily: n4
    spot: true
    minCores: 64
  - machineFamily: n4
    spot: true
  - machineFamily: n4
    spot: false
  activeMigration:
    optimizeRulePriority: true

  2. Buat node pool penskalaan otomatis baru yang menggunakan Spot VM dan kaitkan dengan ComputeClass:

    gcloud container node-pools create cost-optimized-pool \
    --location=LOCATION \
    --cluster=CLUSTER_NAME \
    --machine-type=n4-standard-64 \
    --spot \
    --enable-autoscaling \
    --max-nodes=9 \
    --node-labels="cloud.google.com/compute-class=cost-optimized" \
    --node-taints="cloud.google.com/compute-class=cost-optimized:NoSchedule"

    Ganti kode berikut:

    • LOCATION: lokasi cluster Anda.
    • CLUSTER_NAME: nama cluster yang ada.

  3. Buat node pool penskalaan otomatis baru dengan VM sesuai permintaan dan kaitkan dengan ComputeClass:

    gcloud container node-pools create on-demand-pool \
    --location=LOCATION \
    --cluster=CLUSTER_NAME \
    --machine-type=n4-standard-64 \
    --enable-autoscaling \
    --max-nodes=9 \
    --num-nodes=0 \
    --node-labels="cloud.google.com/compute-class=cost-optimized" \
    --node-taints="cloud.google.com/compute-class=cost-optimized:NoSchedule"

Saat Anda men-deploy Pod yang meminta ComputeClass ini dan node baru perlu dibuat, GKE memprioritaskan pembuatan node di node pool cost-optimized-pool. Jika node baru tidak dapat dibuat, GKE akan membuat node di node pool on-demand-pool.

Untuk mengetahui detail selengkapnya tentang cara node pool yang dibuat secara manual berinteraksi dengan ComputeClass kustom, lihat Mengonfigurasi node pool yang dibuat secara manual untuk penggunaan ComputeClass.

Menyesuaikan nilai minimum penskalaan otomatis untuk konsolidasi node

Secara default, GKE menghapus node yang kurang dimanfaatkan dan menjadwalkan ulang workload Anda ke node lain yang tersedia. Anda dapat menyesuaikan lebih lanjut nilai minimum dan waktu setelah node menjadi kandidat untuk dihapus menggunakan kolom autoscalingPolicy dalam definisi ComputeClass, seperti dalam contoh berikut:

apiVersion: cloud.google.com/v1
kind: ComputeClass
metadata:
  name: cost-optimized
spec:
  priorities:
  - machineFamily: n4
    spot: true
    minCores: 64
  - machineFamily: n4
    spot: true
  - machineFamily: n4
    spot: false
  activeMigration:
    optimizeRulePriority: true
  autoscalingPolicy:
    consolidationDelayMinutes : 5
    consolidationThreshold    : 70

Contoh ini membuat node menjadi kandidat untuk dihapus jika kurang dimanfaatkan sebesar 70% dari kapasitas CPU dan memori yang tersedia selama lebih dari lima menit. Untuk mengetahui daftar parameter yang tersedia, lihat Menetapkan parameter penskalaan otomatis untuk konsolidasi node.

Men-deploy ComputeClass di cluster

Setelah menentukan ComputeClass, deploy ke cluster:

kubectl apply -f compute-class.yaml

ComputeClass ini siap digunakan di cluster. Anda dapat meminta ComputeClass dalam spesifikasi Pod atau, secara opsional, menetapkannya sebagai ComputeClass default di namespace tertentu.

Meminta ComputeClass dalam workload

Untuk meminta ComputeClass dalam workload, tambahkan pemilih node untuk ComputeClass tersebut dalam manifes Anda, seperti dalam langkah-langkah berikut:

  1. Simpan manifes berikut sebagai cc-workload.yaml:

    apiVersion: apps/v1
kind: Deployment
metadata:
  name: custom-workload
spec:
  replicas: 2
  selector:
    matchLabels:
      app: custom-workload
  template:
    metadata:
      labels:
        app: custom-workload
    spec:
      nodeSelector:
        cloud.google.com/compute-class: cost-optimized
      containers:
      - name: test
        image: registry.k8s.io/pause
        resources:
          requests:
            cpu: 1.5
            memory: "4Gi"

  2. Men-deploy workload:

    kubectl apply -f cc-workload.yaml

Saat Anda men-deploy workload ini, GKE secara otomatis menambahkan toleransi ke Pod yang sesuai dengan taint node untuk ComputeClass yang diminta. Toleransi ini membantu memastikan bahwa hanya Pod yang meminta ComputeClass yang berjalan di node ComputeClass.

Mengupdate ComputeClass yang di-deploy

Untuk mengupdate ComputeClass yang di-deploy, ubah manifes YAML untuk ComputeClass. Kemudian, deploy manifes yang diubah dengan menjalankan perintah berikut:

kubectl apply -f PATH_TO_FILE

Ganti PATH_TO_FILE dengan jalur ke manifes yang diubah. Pastikan nilai di kolom name tetap tidak berubah.

Saat Anda men-deploy ComputeClass yang diupdate, GKE akan menggunakan konfigurasi yang diupdate untuk membuat node baru. GKE tidak mengubah node yang ada dengan konfigurasi yang diupdate.

Seiring waktu, GKE mungkin memindahkan Pod yang ada ke node yang menggunakan konfigurasi yang diupdate jika ComputeClass menggunakan migrasi aktif dan jika Pod yang ada memenuhi syarat untuk dimigrasikan.

Langkah berikutnya