Menskalakan cluster secara otomatis

Anda dapat mengubah ukuran node pool secara otomatis di cluster Standard Google Kubernetes Engine (GKE) agar sesuai dengan permintaan workload dan mengurangi biaya komputasi dengan mengonfigurasi autoscaler cluster. Dokumen ini menunjukkan cara mengaktifkan atau menonaktifkan penskalaan otomatis pada node pool baru dan yang sudah ada, menetapkan batas node minimum dan maksimum, serta mengontrol perilaku peningkatan skala dengan taint node. Di cluster Autopilot, Anda tidak perlu mengelola node secara manual karena GKE otomatis membuat dan menskalakan node pool melalui pembuatan otomatis node pool.

Untuk mengetahui informasi selengkapnya tentang cara kerja keputusan penskalaan, lihat Tentang penskalaan otomatis cluster GKE.

Dokumen ini ditujukan untuk admin, arsitek, dan operator yang mengonfigurasi dan mengelola penskalaan node pool. Untuk mengetahui informasi selengkapnya tentang peran umum dan contoh tugas yang kami referensikan dalam kontenGoogle Cloud , lihat Peran dan tugas pengguna GKE umum.

Menggunakan autoscaler cluster

Bagian berikut menjelaskan cara menggunakan autoscaler cluster.

Membuat cluster dengan penskalaan otomatis

Anda dapat membuat cluster dengan penskalaan otomatis yang diaktifkan menggunakan Google Cloud CLI atau konsol Google Cloud .

gcloud

Untuk membuat cluster dengan penskalaan otomatis yang diaktifkan, gunakan flag --enable-autoscaling, lalu tentukan --min-nodes dan --max-nodes:

gcloud container clusters create CLUSTER_NAME \
    --enable-autoscaling \
    --num-nodes NUM_NODES \
    --min-nodes MIN_NODES \
    --max-nodes MAX_NODES \
    --location=CONTROL_PLANE_LOCATION

Ganti kode berikut:

  • CLUSTER_NAME: nama cluster yang akan dibuat.
  • NUM_NODES: jumlah node yang akan dibuat di setiap lokasi.
  • MIN_NODES: jumlah minimum node yang akan diskalakan secara otomatis untuk node pool yang ditentukan per zona. Guna menentukan jumlah minimum node untuk seluruh node pool di GKE versi 1.24 dan yang lebih baru, gunakan --total-min-nodes. Flag --total-min-nodes dan --total-max-nodes tidak dapat muncul bersamaan dengan flag --min-nodes dan --max-nodes.
  • MAX_NODES: jumlah maksimum node yang akan diskalakan secara otomatis untuk node pool yang ditentukan per zona. Guna menentukan jumlah maksimum node untuk seluruh node pool di GKE versi 1.24 dan yang lebih baru, gunakan --total-max-nodes. Flag --total-min-nodes dan --total-max-nodes tidak dapat muncul bersamaan dengan flag --min-nodes dan --max-nodes.
  • CONTROL_PLANE_LOCATION: lokasi Compute Engine dari bidang kontrol cluster Anda. Berikan region untuk cluster regional, atau zona untuk cluster zona.

Contoh: Membuat cluster dengan penskalaan otomatis node diaktifkan serta node min dan maks

Perintah berikut membuat cluster dengan 90 node, atau 30 node di setiap 3 zona yang ada di region tersebut. Penskalaan otomatis node diaktifkan dan mengubah ukuran jumlah node berdasarkan muatan cluster. Autoscaler cluster dapat mengurangi ukuran node pool default hingga 15 node atau menambah node pool hingga maksimum 50 node per zona.

gcloud container clusters create my-cluster --enable-autoscaling \
    --num-nodes=30 \
    --min-nodes=15 --max-nodes=50 \
    --location=us-central1

Contoh: Membuat cluster dengan penskalaan otomatis node diaktifkan dan node total

Perintah berikut membuat cluster dengan 30 node, atau 10 node di setiap 3 zona yang ada di region tersebut. Penskalaan otomatis node diaktifkan dan mengubah ukuran jumlah node berdasarkan muatan cluster. Dalam contoh ini, ukuran total cluster dapat berkisar antara 10 hingga 60 node, terlepas dari penyebaran antar-zona.

gcloud container clusters create my-cluster --enable-autoscaling \
    --num-nodes 10 \
    --location us-central1 \
    --total-min-nodes 10  --total-max-nodes 60

Konsol

Untuk membuat cluster baru dengan penskalaan otomatis diaktifkan untuk node pool default:

  1. Di konsol Google Cloud , buka halaman Create a Kubernetes cluster.

    Buka Membuat cluster Kubernetes

  2. Konfigurasikan cluster Anda sesuai keinginan.

  3. Dari panel navigasi, di bagian Node Pools, klik default-pool.

  4. Centang kotak Enable autoscaling.

  5. Ubah nilai minimum node pada kolom Minimum number of nodes dan nilai maksimum node pada kolom Maximum number of nodes sesuai keinginan.

  6. Klik Create.

Menskalakan cluster ke nol node saat tidak ada aktivitas

Di GKE versi 1.37.1-gke.3020000 dan yang lebih baru, Anda dapat mengonfigurasi cluster baru atau yang sudah ada untuk melakukan penskalaan ke nol node jika tidak ada workload yang dikelola pengguna yang berjalan di cluster selama jangka waktu tertentu. Secara default, penundaan sebelum autoscaler menskalakan cluster ke nol node adalah tiga jam.

Untuk mengaktifkan penskalaan otomatis ke nol node dan mengubah periode penundaan secara opsional, jalankan salah satu perintah berikut. Anda hanya dapat mengaktifkan penskalaan ke nol node di tingkat cluster.

  • Aktifkan penskalaan ke nol node setelah periode penundaan default selama tiga jam:

    gcloud container clusters create CLUSTER_NAME \
        --location=CONTROL_PLANE_LOCATION \
        --enable-autoscaling \
        --enable-cluster-scale-to-zero
    

    Ganti kode berikut:

    • CLUSTER_NAME: nama untuk cluster Anda.
    • CONTROL_PLANE_LOCATION: lokasi Compute Engine dari bidang kontrol cluster. Berikan region untuk cluster regional, atau zona untuk cluster zona.
  • Sesuaikan periode penundaan sebelum cluster diskalakan ke nol node:

    gcloud container clusters update CLUSTER_NAME \
        --location=CONTROL_PLANE_LOCATION \
        --enable-autoscaling \
        --enable-cluster-scale-to-zero \
        --cluster-scale-to-zero-delay=DELAY_PERIOD
    

    Ganti DELAY_PERIOD dengan periode penundaan. Nilai ini harus berupa string yang menentukan angka dan satuan waktu, seperti 1s, 5m, atau 3h. Periode penundaan harus antara 0s dan 3h.

Untuk menonaktifkan penskalaan ke nol node, jalankan perintah berikut:

gcloud container clusters update CLUSTER_NAME \
    --location=CONTROL_PLANE_LOCATION \
    --no-enable-cluster-scale-to-zero

Menambahkan node pool dengan penskalaan otomatis

Anda dapat membuat node pool dengan penskalaan otomatis yang diaktifkan menggunakan gcloud CLI atau konsol Google Cloud .

gcloud

Untuk menambahkan node pool dengan penskalaan otomatis ke cluster yang ada, gunakan perintah berikut:

gcloud container node-pools create POOL_NAME \
    --cluster=CLUSTER_NAME \
    --enable-autoscaling \
    --min-nodes=MIN_NODES \
    --max-nodes=MAX_NODES \
    --location=CONTROL_PLANE_LOCATION

Ganti kode berikut:

  • POOL_NAME: nama node pool yang diinginkan.
  • CLUSTER_NAME: nama cluster tempat node pool dibuat.
  • MIN_NODES: jumlah minimum node yang akan diskalakan secara otomatis untuk node pool yang ditentukan per zona. Guna menentukan jumlah minimum node untuk seluruh node pool di GKE versi 1.24 dan yang lebih baru, gunakan --total-min-nodes. Flag --total-min-nodes dan --total-max-nodes tidak dapat muncul bersamaan dengan flag --min-nodes dan --max-nodes.
  • MAX_NODES: jumlah maksimum node yang akan diskalakan secara otomatis untuk node pool yang ditentukan per zona. Guna menentukan jumlah maksimum node untuk seluruh node pool di GKE versi 1.24 dan yang lebih baru, gunakan --total-max-nodes. Flag --total-min-nodes dan --total-max-nodes tidak dapat muncul bersamaan dengan flag --min-nodes dan --max-nodes.
  • CONTROL_PLANE_LOCATION: lokasi Compute Engine dari bidang kontrol cluster Anda. Berikan region untuk cluster regional, atau zona untuk cluster zona.

Contoh: Menambahkan node pool dengan penskalaan otomatis node diaktifkan

Perintah berikut membuat node pool dengan penskalaan otomatis node yang menskalakan node pool ke maksimum 5 node dan minimal 1 node:

gcloud container node-pools create my-node-pool \
    --cluster my-cluster \
    --enable-autoscaling \
    --min-nodes 1 --max-nodes 5 \
    --location us-central1-c

Konsol

Untuk menambahkan node pool dengan penskalaan otomatis ke cluster yang sudah ada:

  1. Buka halaman Google Kubernetes Engine di konsol Google Cloud .

    Buka Google Kubernetes Engine

  2. Di daftar cluster, klik nama cluster yang ingin diubah.

  3. Klik tab Nodes.

  4. Klik Create user-managed node pool.

  5. Konfigurasikan node pool sesuai keinginan.

  6. Di bagian Size, pilih kotak centang Enable autoscaling.

  7. Ubah nilai minimum node pada kolom Minimum number of nodes dan nilai maksimum node pada kolom Maximum number of nodes sesuai keinginan.

  8. Klik Create.

Mengaktifkan penskalaan otomatis untuk node pool yang sudah ada

Anda dapat mengaktifkan penskalaan otomatis untuk node pool yang sudah ada menggunakan gcloud CLI atau konsol Google Cloud .

gcloud

Guna mengaktifkan penskalaan otomatis untuk node pool yang sudah ada, gunakan perintah berikut:

gcloud container clusters update CLUSTER_NAME \
    --enable-autoscaling \
    --node-pool=POOL_NAME \
    --min-nodes=MIN_NODES \
    --max-nodes=MAX_NODES \
    --location=CONTROL_PLANE_LOCATION

Ganti kode berikut:

  • CLUSTER_NAME: nama cluster yang akan diperbarui.
  • POOL_NAME: nama node pool yang diinginkan. Jika Anda hanya memiliki satu node pool, berikan default-pool sebagai nilainya.
  • MIN_NODES: jumlah minimum node yang akan diskalakan secara otomatis untuk node pool yang ditentukan per zona. Guna menentukan jumlah minimum node untuk seluruh node pool di GKE versi 1.24 dan yang lebih baru, gunakan --total-min-nodes. Flag --total-min-nodes dan --total-max-nodes tidak dapat muncul bersamaan dengan flag --min-nodes dan --max-nodes.
  • MAX_NODES: jumlah maksimum node yang akan diskalakan secara otomatis untuk node pool yang ditentukan per zona. Guna menentukan jumlah maksimum node untuk seluruh node pool di GKE versi 1.24 dan yang lebih baru, gunakan --total-max-nodes. Flag --total-min-nodes dan --total-max-nodes tidak dapat muncul bersamaan dengan flag --min-nodes dan --max-nodes.
  • CONTROL_PLANE_LOCATION: lokasi Compute Engine dari bidang kontrol cluster Anda. Berikan region untuk cluster regional, atau zona untuk cluster zona.

Konsol

Guna mengaktifkan penskalaan otomatis untuk node pool yang sudah ada:

  1. Buka halaman Google Kubernetes Engine di konsol Google Cloud .

    Buka Google Kubernetes Engine

  2. Di daftar cluster, klik nama cluster yang ingin diubah.

  3. Klik tab Nodes.

  4. Di bagian Node Pools, klik nama node pool yang ingin Anda ubah, lalu klik Edit.

  5. Di bagian Size, pilih kotak centang Enable autoscaling.

  6. Ubah nilai minimum node pada kolom Minimum number of nodes dan nilai maksimum node pada kolom Maximum number of nodes sesuai keinginan.

  7. Klik Save.

Memverifikasi bahwa penskalaan otomatis untuk node pool yang sudah ada telah diaktifkan

Anda dapat memverifikasi bahwa cluster menggunakan penskalaan otomatis dengan Google Cloud CLI atau konsol Google Cloud .

gcloud

Deskipsikan node pool di dalam cluster:

gcloud container node-pools describe NODE_POOL_NAME --cluster=CLUSTER_NAME |grep autoscaling -A 1

Ganti kode berikut:

  • NODE_POOL_NAME: nama node pool baru pilihan Anda.
  • CLUSTER_NAME: nama cluster.

Jika penskalaan otomatis diaktifkan, output-nya akan mirip dengan berikut ini:

autoscaling:
  enabled: true

Konsol

  1. Buka halaman Google Kubernetes Engine di konsol Google Cloud .

    Buka Google Kubernetes Engine

  2. Di daftar cluster, klik nama cluster yang ingin diverifikasi.

  3. Klik tab Nodes.

  4. Di bagian Node Pools, pastikan status Autoscalling node pool.

Membuat node pool yang memprioritaskan pengoptimalan reservasi yang tidak digunakan

Anda dapat menggunakan flag --location-policy=ANY saat membuat node pool untuk menginstruksikan autoscaler cluster agar memprioritaskan pemanfaatan reservasi yang tidak digunakan:

gcloud container node-pools create POOL_NAME \
    --cluster=CLUSTER_NAME \
    --location-policy=ANY

Ganti kode berikut:

  • POOL_NAME: nama node pool baru pilihan Anda.
  • CLUSTER_NAME: nama cluster.

Menonaktifkan penskalaan otomatis untuk node pool yang sudah ada

Anda dapat menonaktifkan penskalaan otomatis untuk node pool yang sudah ada menggunakan gcloud CLI atau konsol Google Cloud .

gcloud

Guna menonaktifkan penskalaan otomatis untuk node pool tertentu, gunakan flag --no-enable-autoscaling:

gcloud container clusters update CLUSTER_NAME \
    --no-enable-autoscaling \
    --node-pool=POOL_NAME \
    --location=CONTROL_PLANE_LOCATION

Ganti kode berikut:

  • CLUSTER_NAME: nama cluster yang akan diperbarui.
  • POOL_NAME: nama node pool yang diinginkan.
  • CONTROL_PLANE_LOCATION: lokasi Compute Engine dari bidang kontrol cluster Anda. Berikan region untuk cluster regional, atau zona untuk cluster zona.

Ukuran cluster tetap sesuai ukuran node pool default cluster saat ini, yang dapat diperbarui secara manual.

Konsol

Untuk menonaktifkan penskalaan otomatis bagi node pool tertentu:

  1. Buka halaman Google Kubernetes Engine di konsol Google Cloud .

    Buka Google Kubernetes Engine

  2. Di daftar cluster, klik nama cluster yang ingin diubah.

  3. Klik tab Nodes.

  4. Di bagian Node Pools, klik nama node pool yang ingin Anda ubah, lalu klik Edit.

  5. Di bagian Size, hapus centang pada kotak Enable autoscaling.

  6. Klik Save.

Mengubah ukuran node pool

Untuk cluster yang mengaktifkan penskalaan otomatis, autoscaler cluster akan otomatis mengubah ukuran node pool dalam batas yang ditentukan oleh nilai ukuran minimum (--min-nodes) dan ukuran maksimum (--max-nodes) atau ukuran total minimum (--total-min-nodes) dan ukuran total maksimum (--total-max-nodes). Kedua flag ini tidak dapat muncul bersamaan. Anda tidak dapat mengubah ukuran node pool secara manual dengan mengubah nilai-nilai ini.

Jika Anda ingin mengubah ukuran node pool secara manual di cluster dengan penskalaan otomatis yang diaktifkan, lakukan hal berikut:

  1. Nonaktifkan penskalaan otomatis pada node pool.
  2. Ubah ukuran cluster secara manual.
  3. Aktifkan kembali penskalaan otomatis dan tentukan ukuran minimum dan maksimum node pool.

Mencegah penjadwalan Pod pada node yang dipilih

Anda dapat menggunakan taint startup atau status untuk mencegah penjadwalan Pod pada node yang dipilih, bergantung pada kasus penggunaan.

Fitur ini tersedia di GKE versi 1.28 dan yang lebih baru.

Taint startup

Gunakan taint startup jika ada operasi yang harus diselesaikan sebelum Pod dapat berjalan di node. Misalnya, Pod tidak boleh berjalan hingga penginstalan driver pada node selesai.

Autoscaler cluster memperlakukan node yang di-taint dengan taint startup sebagai belum siap, tetapi diperhitungkan selama logika peningkatan skala, dengan asumsi node tersebut akan segera siap.

Taint startup didefinisikan sebagai semua taint dengan awalan startup-taint.cluster-autoscaler.kubernetes.io/

Taint status

Gunakan taint status jika GKE tidak boleh menggunakan node tertentu untuk menjalankan Pod.

Autoscaler cluster memperlakukan node yang di-taint dengan taint status sebagai siap, tetapi mengabaikannya selama logika peningkatan skala. Meskipun node yang di-taint sudah siap, tidak boleh ada Pod yang berjalan. Jika Pod memerlukan lebih banyak resource, GKE akan meningkatkan skala cluster dan mengabaikan node yang di-taint.

Taint status didefinisikan sebagai semua taint dengan awalan status-taint.cluster-autoscaler.kubernetes.io/

Mengabaikan taint

Pengabaian taint didefinisikan sebagai semua taint dengan awalan ignore-taint.cluster-autoscaler.kubernetes.io/

Pemecahan masalah

Untuk saran pemecahan masalah, lihat halaman berikut:

Langkah berikutnya