Praktik terbaik untuk upgrade cluster Google Distributed Cloud

Dokumen ini menjelaskan praktik terbaik dan pertimbangan untuk mengupgrade Google Distributed Cloud. Anda akan mempelajari cara bersiap untuk upgrade cluster, dan praktik terbaik yang harus diikuti sebelum upgrade. Praktik terbaik ini membantu mengurangi risiko yang terkait dengan upgrade cluster.

Jika Anda memiliki beberapa lingkungan seperti pengujian, pengembangan, dan produksi, sebaiknya mulai dengan lingkungan yang paling tidak penting, seperti pengujian, dan verifikasi fungsi upgrade. Setelah memverifikasi bahwa upgrade berhasil, lanjutkan ke lingkungan berikutnya. Ulangi proses ini hingga Anda mengupgrade lingkungan produksi. Pendekatan ini memungkinkan Anda berpindah dari satu titik penting ke titik berikutnya, dan memverifikasi bahwa upgrade dan beban kerja Anda berjalan dengan benar.

Checklist upgrade

Sebaiknya ikuti semua praktik terbaik dalam dokumen ini. Gunakan checklist berikut untuk membantu Anda melacak progres. Setiap item dalam daftar ditautkan ke bagian dalam dokumen ini dengan informasi selengkapnya:

Setelah pemeriksaan ini selesai, Anda dapat memulai proses upgrade. Pantau progres hingga semua cluster berhasil diupgrade.

Merencanakan upgrade

Update dapat mengganggu. Sebelum memulai upgrade, rencanakan dengan cermat untuk memastikan lingkungan dan aplikasi Anda siap.

Memperkirakan komitmen waktu dan merencanakan masa pemeliharaan

Jumlah waktu yang diperlukan untuk mengupgrade cluster bervariasi bergantung pada jumlah node dan kepadatan beban kerja yang berjalan di node tersebut. Untuk berhasil menyelesaikan upgrade cluster, gunakan masa pemeliharaan dengan waktu yang cukup.

Untuk menghitung perkiraan kasar upgrade, gunakan 10 minutes * the number of nodes untuk upgrade node serentak tunggal.

Misalnya, jika Anda memiliki lima puluh node dalam cluster, total waktu upgrade adalah sekitar lima ratus menit: 10 minutes * 50 nodes = 500 minutes.

Memeriksa kompatibilitas produk lain Google Cloud

Jika cluster Anda menjalankan Cloud Service Mesh, Config Sync, atau Policy Controller, periksa Dukungan versi dan upgrade serta verifikasi versi yang didukung dengan Google Distributed Cloud sebelum dan setelah upgrade.

Pemeriksaan kompatibilitas didasarkan pada cluster admin atau pengguna tempat Cloud Service Mesh, Config Sync, atau Policy Controller di-deploy.

Memeriksa penggunaan resource cluster

Untuk memastikan Pod dapat dievakuasi saat node dikuras dan ada cukup resource di cluster yang diupgrade untuk mengelola upgrade, periksa penggunaan resource cluster saat ini. Untuk memeriksa penggunaan resource cluster Anda, gunakan dasbor kustom di Google Cloud Observability.

Anda dapat menggunakan perintah, seperti kubectl top nodes untuk mendapatkan penggunaan resource cluster saat ini, tetapi dasbor dapat memberikan tampilan resource yang digunakan dari waktu ke waktu yang lebih mendetail. Data penggunaan resource ini dapat membantu menunjukkan kapan upgrade akan menyebabkan gangguan paling sedikit, seperti selama akhir pekan atau malam hari, bergantung pada beban kerja dan kasus penggunaan yang sedang berjalan.

Waktu untuk upgrade cluster admin mungkin tidak terlalu penting dibandingkan untuk cluster pengguna, karena upgrade cluster admin biasanya tidak menyebabkan waktu nonaktif aplikasi. Namun, tetap penting untuk memeriksa resource yang tersedia sebelum Anda memulai upgrade cluster admin. Selain itu, mengupgrade cluster admin mungkin menimbulkan risiko tertentu, dan oleh karena itu, mungkin direkomendasikan selama periode penggunaan yang kurang aktif saat akses pengelolaan ke cluster kurang penting.

Resource bidang kontrol cluster admin

Semua pengontrol dan tugas upgrade berjalan di node bidang kontrol cluster admin. Periksa penggunaan resource node bidang kontrol ini untuk resource komputasi yang tersedia. Proses upgrade biasanya memerlukan 1.000 milicore CPU (1.000 mCPU) dan RAM 2-3 GiB untuk setiap kumpulan pengontrol siklus proses. Perhatikan bahwa unit CPU 'mCPU' adalah singkatan dari "seperseribu core", sehingga 1.000 milicore setara dengan satu core di setiap node untuk setiap kumpulan pengontrol siklus proses. Untuk mengurangi resource komputasi tambahan yang diperlukan selama upgrade, coba pertahankan cluster pengguna pada versi yang sama.

Dalam contoh deployment berikut, dua cluster pengguna berada pada versi yang berbeda dengan cluster admin:

Cluster admin Cluster pengguna 1 Cluster pengguna 2
1.13.3 1.13.0 1.13.2

Kumpulan pengontrol siklus proses di-deploy di pengontrol admin untuk setiap versi yang digunakan. Dalam contoh ini, ada tiga kumpulan pengontrol siklus proses: 1.13.3, 1.13.0, dan 1.13.2. Setiap kumpulan pengontrol siklus proses menggunakan total 1.000 mCPU dan RAM 3 GiB. Total penggunaan resource pengontrol siklus proses saat ini adalah 3.000 mCPU dan RAM 9 GiB.

Jika cluster pengguna 2 diupgrade ke 1.13.3, kini ada dua kumpulan pengontrol siklus proses: 1.13.3 dan 1.13.0:

Cluster admin Cluster pengguna 1 Cluster pengguna 2
1.13.3 1.13.0 1.13.3

Pengontrol siklus proses kini menggunakan total 2.000 mCPU dan RAM 6 GiB.

Jika cluster pengguna 1 diupgrade ke 1.13.3, semua fleet kini berjalan pada versi yang sama: 1.13.3:

Cluster admin Cluster pengguna 1 Cluster pengguna 2
1.13.3 1.13.3 1.13.3

Sekarang hanya ada satu kumpulan pengontrol siklus proses, yang menggunakan total 1.000 mCPU dan RAM 3 GiB.

Dalam contoh berikut, semua cluster pengguna memiliki versi yang sama. Jika cluster admin diupgrade, hanya dua kumpulan pengontrol siklus proses yang digunakan, sehingga penggunaan resource komputasi berkurang:

Cluster admin Cluster pengguna 1 Cluster pengguna 2
1.14.0 1.13.3 1.13.3

Dalam contoh ini, pengontrol siklus proses kembali menggunakan total 2.000 mCPU dan RAM 6 GiB hingga semua cluster pengguna diupgrade ke versi yang sama dengan cluster admin.

Jika node bidang kontrol tidak memiliki resource komputasi tambahan selama upgrade, Anda mungkin melihat Pod seperti anthos-cluster-operator, capi-controller-manager, cap-controller-manager, atau cap-kubeadm-bootstraper dalam status Pending. Untuk mengatasi masalah ini, upgrade beberapa cluster pengguna ke versi yang sama untuk mengonsolidasikan versi dan mengurangi jumlah pengontrol siklus proses yang digunakan. Jika upgrade Anda sudah macet, Anda juga dapat menggunakan kubectl edit deployment untuk mengedit deployment yang tertunda guna menurunkan permintaan CPU dan RAM sehingga sesuai dengan bidang kontrol cluster admin.

Tabel berikut menjelaskan persyaratan resource komputasi untuk berbagai skenario upgrade:

Cluster Resource cluster admin yang diperlukan
Upgrade cluster pengguna Upgrade ke versi cluster lain yang sama: Tidak ada

Upgrade ke versi cluster admin atau pengguna lain yang berbeda: 1.000 mCPU dan RAM 3 GiB

Cluster pengguna dalam cluster hybrid memiliki persyaratan resource yang sama.
Upgrade cluster admin (dengan cluster pengguna) 1.000 mCPU dan RAM 3 GiB
Upgrade cluster hybrid (tanpa cluster pengguna) Lonjakan 1.000 mCPU dan RAM 3 GiB. Resource akan ditampilkan setelah digunakan.
Mandiri Lonjakan 200 mCPU dan RAM 1 GiB. Resource akan ditampilkan setelah digunakan.

Mencadangkan cluster

Sebelum memulai upgrade, cadangkan cluster menggunakan perintah bmctl backup cluster.

Karena file cadangan berisi informasi sensitif, simpan file cadangan dengan aman.

Memastikan cluster dikonfigurasi dan berfungsi dengan benar

Untuk memeriksa kondisi cluster sebelum upgrade, jalankan bmctl check cluster di cluster. Perintah ini menjalankan pemeriksaan lanjutan, seperti mengidentifikasi node yang tidak dikonfigurasi dengan benar, atau yang memiliki Pod dalam status macet.

Saat Anda menjalankan perintah bmctl upgrade cluster untuk mengupgrade cluster, beberapa pemeriksaan pra-penerbangan akan dijalankan. Proses upgrade akan berhenti jika pemeriksaan ini tidak berhasil. Sebaiknya identifikasi dan perbaiki masalah ini secara proaktif dengan perintah bmctl check cluster, daripada mengandalkan pemeriksaan pra-penerbangan yang ada untuk melindungi cluster dari kemungkinan kerusakan.

Meninjau deployment beban kerja pengguna

Ada dua area yang perlu dipertimbangkan untuk beban kerja pengguna: pengurasan dan kompatibilitas API.

Pengurasan beban kerja

Beban kerja pengguna pada node dikuras selama upgrade. Jika beban kerja memiliki satu replika atau semua replika berada di node yang sama, pengurasan beban kerja dapat menyebabkan gangguan pada layanan yang berjalan di cluster. Jalankan beban kerja Anda dengan beberapa replika. Jumlah replika harus berada di atas jumlah node serentak.

Untuk menghindari upgrade yang macet, proses pengurasan upgrade hingga 1.35 tidak mematuhi anggaran gangguan pod (PDB). Beban kerja mungkin berjalan dalam status yang menurun, dan replika penayangan paling sedikit adalah total replica number - concurrent upgrade number.

Kompatibilitas API

Untuk kompatibilitas API, periksa kompatibilitas API beban kerja Anda dengan versi minor Kubernetes yang lebih baru saat melakukan upgrade versi minor. Jika diperlukan, upgrade beban kerja ke versi yang kompatibel. Jika memungkinkan, tim teknik GKE akan memberikan petunjuk untuk mengidentifikasi beban kerja menggunakan API yang tidak kompatibel, seperti API Kubernetes yang dihapus.

Jika Anda menggunakan Cloud Service Mesh, Config Sync, Policy Controller, periksa apakah versi yang diinstal kompatibel dengan versi baru Google Distributed Cloud. Untuk informasi kompatibilitas versi, lihat Dukungan versi dan upgrade.

Mengaudit penggunaan webhook

Periksa apakah cluster Anda memiliki webhook, terutama resource Pod untuk tujuan audit seperti Policy Controller. Proses pengurasan selama upgrade cluster dapat mengganggu layanan webhook Policy Controller, yang dapat menyebabkan upgrade macet atau memerlukan waktu yang lama. Sebaiknya nonaktifkan webhook ini untuk sementara, atau gunakan deployment ketersediaan tinggi (HA).

Meninjau penggunaan fitur Pratinjau

Pratinjau fitur dapat berubah dan disediakan hanya untuk tujuan pengujian dan evaluasi. Jangan gunakan fitur Pratinjau di cluster produksi Anda. Kami tidak menjamin bahwa cluster yang menggunakan fitur Pratinjau dapat diupgrade. Dalam beberapa kasus, kami secara eksplisit memblokir upgrade untuk cluster yang menggunakan fitur Pratinjau.

Untuk mengetahui informasi tentang perubahan yang dapat menyebabkan gangguan terkait upgrade, lihat catatan rilis.

Memeriksa status SELinux

Jika ingin mengaktifkan SELinux untuk mengamankan container, Anda harus memastikan bahwa SELinux diaktifkan dalam mode Enforced di semua mesin host. Mulai dari rilis Google Distributed Cloud 1.9.0 atau yang lebih baru, Anda dapat mengaktifkan atau menonaktifkan SELinux sebelum atau sesudah pembuatan cluster atau upgrade cluster. SELinux diaktifkan secara default di Red Hat Enterprise Linux (RHEL). Jika SELinux dinonaktifkan di mesin host atau Anda tidak yakin, lihat Mengamankan container menggunakan SELinux untuk mengetahui petunjuk cara mengaktifkannya.

Google Distributed Cloud hanya mendukung SELinux di sistem RHEL.

Jangan ubah konfigurasi kepadatan Pod

Google Distributed Cloud mendukung konfigurasi hingga 250 pod maksimum per node dengan nodeConfig.PodDensity.MaxPodsPerNode. Anda hanya dapat mengonfigurasi kepadatan pod selama pembuatan cluster. Anda tidak dapat memperbarui setelan kepadatan pod untuk cluster yang ada. Jangan mencoba mengubah konfigurasi kepadatan pod selama upgrade.

Pastikan node bidang kontrol dan load balancer tidak dalam mode pemeliharaan

Pastikan node bidang kontrol dan load balancer tidak dalam pemeliharaan sebelum memulai upgrade. Jika ada node dalam mode pemeliharaan, upgrade akan dijeda untuk memastikan kumpulan node bidang kontrol dan load balancer tersedia secara memadai.

Langkah berikutnya