Anda dapat menyalin konfigurasi cluster virtual Managed Service untuk Apache Spark di GKE yang ada, memperbarui konfigurasi yang disalin, lalu membuat cluster Managed Service untuk Apache Spark di GKE baru menggunakan konfigurasi yang diperbarui.
Membuat ulang dan memperbarui cluster Managed Service untuk Apache Spark di GKE
gcloud
Menetapkan variabel lingkungan:
CLUSTER=existing Managed Service for Apache Spark on GKE cluster name \ REGION=region
Ekspor konfigurasi cluster Managed Service untuk Apache Spark di GKE yang ada ke file YAML.
gcloud dataproc clusters export $CLUSTER \ --region=$REGION > "${CLUSTER}-config.yaml"Perbarui konfigurasi.
Hapus kolom
kubernetesNamespace. Menghapus kolom ini diperlukan untuk menghindari konflik namespace saat Anda membuat cluster yang diperbarui.Contoh perintah
seduntuk menghapus kolomkubernetesNamespace:sed -E "s/kubernetesNamespace: .+$//g" ${CLUSTER}-config.yamlBuat perubahan tambahan untuk memperbarui setelan konfigurasi cluster virtual Managed Service untuk Apache Spark di GKE, seperti mengubah componentVersionSpark.
Hapus cluster virtual Managed Service untuk Apache Spark di GKE yang ada jika Anda akan membuat cluster yang memiliki nama yang sama dengan cluster yang diperbarui (jika Anda mengganti cluster asli).
Tunggu hingga operasi penghapusan sebelumnya selesai, lalu impor konfigurasi cluster yang diperbarui untuk membuat cluster virtual Managed Service untuk Apache Spark di GKE baru dengan setelan konfigurasi yang diperbarui.
gcloud dataproc clusters import $CLUSTER \ --region=$REGION \ --source="${CLUSTER}-config.yaml"
API
Menetapkan variabel lingkungan:
CLUSTER=existing Managed Service for Apache Spark on GKE cluster name \ REGION=region
Ekspor konfigurasi cluster Managed Service untuk Apache Spark di GKE yang ada ke file YAML.
curl -X GET -H "Authorization: Bearer $(gcloud auth print-access-token)" "https://dataproc.googleapis.com/v1/projects/${PROJECT}/regions/${REGION}/clusters/${CLUSTER}?alt=json" > "${CLUSTER}-config.json"Perbarui konfigurasi.
Hapus kolom
kubernetesNamespace. Penghapusan kolom ini diperlukan untuk menghindari konflik namespace saat Anda membuat cluster yang diperbarui.Contoh perintah
jquntuk menghapus kolomkubernetesNamespace:jq 'del(.virtualClusterConfig.kubernetesClusterConfig.kubernetesNamespace)'
Buat perubahan tambahan untuk memperbarui setelan konfigurasi cluster virtual Managed Service untuk Apache Spark di GKE, seperti mengubah componentVersionSpark.
Hapus cluster virtual Managed Service untuk Apache Spark di GKE yang ada jika Anda akan membuat cluster yang memiliki nama yang sama dengan cluster yang diperbarui (jika Anda mengganti cluster asli).
curl -X DELETE -H "Authorization: Bearer $(gcloud auth print-access-token)" "https://dataproc.googleapis.com/v1/projects/${PROJECT}/regions/${REGION}/clusters/${CLUSTER}"Tunggu hingga operasi penghapusan sebelumnya selesai, dan lalu impor konfigurasi cluster yang diperbarui untuk membuat cluster virtual Managed Service untuk Apache Spark di GKE baru dengan setelan yang diperbarui.
curl -i -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json; charset=utf-8" -d "@${CLUSTER}-config.json" "https://dataproc.googleapis.com/v1/projects/${PROJECT}/regions/${REGION}/clusters?alt=json"
Konsol
Konsol tidak mendukung pembuatan ulang cluster virtual Managed Service untuk Apache Spark di GKE dengan mengimpor konfigurasi cluster yang ada. Google Cloud