Saat membuat cluster Managed Service untuk Apache Spark, Anda menentukan region Compute Engine sebagai lokasi cluster. Anda juga dapat menentukan zona dalam region tersebut, atau Anda dapat menghilangkan zona agar fitur Managed Service untuk Apache Spark Zona Otomatis memilih zona untuk Anda di region yang ditentukan. Semua node untuk cluster di-deploy ke zona yang dipilih.
Anda dapat mengecualikan zona dari kriteria pemilihan Zona Otomatis jika region cluster mencakup setidaknya dua zona yang tidak dikecualikan. Untuk mengetahui informasi selengkapnya, lihat Menggunakan penempatan Zona Otomatis.
Pemesanan Zona Otomatis dan resource
Zona Otomatis memprioritaskan pembuatan cluster di zona dengan reservasi resource, sebagai berikut:
Jika resource cluster yang diminta dapat dipenuhi sepenuhnya oleh resource yang dicadangkan, ditambah, jika perlu, resource sesuai permintaan di zona, Auto Zone akan menggunakan resource yang dicadangkan dan sesuai permintaan, serta membuat cluster di zona tersebut.
Zona Otomatis memprioritaskan zona untuk dipilih berdasarkan total reservasi core CPU (
vCPU) dalam suatu zona.Contoh: Permintaan pembuatan cluster menentukan 20
n2-standard-2dan 1n2-standard-64(40 + 64vCPUsyang diminta). Zona Otomatis akan memprioritaskan zona berikut untuk dipilih berdasarkan total reservasi vCPU yang tersedia di zona:- Slot reservasi yang tersedia di
zone-c: 3n2-standard-2dan 1n2-standard-64(70vCPUs) zone-breservasi yang tersedia: 1n2-standard-64(64vCPUs)zone-areservasi yang tersedia: 25n2-standard-2(50vCPUs)Dengan asumsi setiap zona ini memiliki
vCPUon-demand tambahan dan resource lainnya yang cukup untuk memenuhi permintaan cluster, Zona Otomatis akan memilihzone-cuntuk pembuatan cluster.
- Slot reservasi yang tersedia di
Jika resource cluster yang diminta tidak dapat dipenuhi sepenuhnya oleh resource yang dipesan dan on-demand di suatu zona, Auto Zone akan membuat cluster di zona yang kemungkinan besar dapat memenuhi permintaan menggunakan resource on-demand.
Menggunakan penempatan Zona Otomatis
KonsolGoogle Cloud
Untuk membuat cluster yang menggunakan penempatan Zona Otomatis:
- Di konsol Google Cloud , buka halaman Create cluster.
- Di bagian Define your cluster, pilih Region.
- Di kolom Zone, pilih Any.
Mengecualikan zona: Menentukan zona yang akan dikecualikan dari penempatan Zona Otomatis tidak didukung melalui konsol Google Cloud . Fitur ini tersedia menggunakan Google Cloud CLI dan REST API.
gcloud CLI
Untuk membuat cluster Managed Service untuk Apache Spark yang menggunakan penempatan Zona Otomatis, gunakan perintah
gcloud dataproc clusters create. Tetapkan flag --region ke wilayah. Kemudian, hapus flag --zone atau tetapkan flag --zone ke string kosong (--zone="").
--auto-zone-exclude-zones untuk menentukan daftar zona yang dipisahkan koma. Pemilihan Zona Otomatis akan memilih zona dari region yang ditentukan, tetapi mengecualikan zona yang tercantum dari kriteria pemilihannya. Perhatikan bahwa
setidaknya harus ada dua zona yang tidak dikecualikan dan tersedia di region cluster.
Contoh:
Penggunaan Zona Otomatis Dasar:
gcloud dataproc clusters create CLUSTER_NAME \ --region=REGION \ other args ...
Zona Otomatis dengan zona yang dikecualikan:
gcloud dataproc clusters create CLUSTER_NAME \ --region=REGION \ --auto-zone-exclude-zones=ZONE_1,ZONE_2 \ other args ...
REST API
Untuk membuat cluster Managed Service untuk Apache Spark yang menggunakan penempatan Zona Otomatis,
buat permintaan API clusters.create JSON, dengan membiarkan kolom
gceClusterConfig.zoneUri
kosong. Di endpoint REST,
https://dataproc.googleapis.com/v1/projects/projectId/regions/region/clusters, masukkan nama region. Zona Otomatis Managed Service untuk Apache Spark akan memilih
zona untuk cluster dalam region yang ditentukan.
Untuk mengecualikan zona tertentu, Anda dapat mengisi kolom gceClusterConfig.autoZoneExcludeZoneUris dengan daftar nama zona yang akan dikecualikan. Perhatikan bahwa harus ada setidaknya dua zona yang tidak dikecualikan yang tersedia di region cluster.
Gunakan nama resource pendek dengan penempatan Zona Otomatis: Saat menentukan URI resource, seperti machineTypeUri atau acceleratorTypeUri, dalam permintaan pembuatan cluster REST API penempatan Zona Otomatis, gunakan nama resource pendek tanpa spesifikasi zona, misalnya, "n1-standard-2" atau "nvidia-tesla-t4".