Penempatan Zona Otomatis Dataproc

Saat membuat cluster Dataproc, Anda menentukan region Compute Engine sebagai lokasi cluster. Anda juga dapat menentukan zona dalam region tersebut, atau Anda dapat menghilangkan zona agar fitur Zona Otomatis Dataproc memilih zona untuk Anda di region yang ditentukan. Semua node untuk cluster di-deploy ke zona yang dipilih.

Anda dapat mengecualikan zona dari kriteria pemilihan Zona Otomatis jika region cluster mencakup setidaknya dua zona yang tidak dikecualikan. Untuk mengetahui informasi selengkapnya, lihat Menggunakan penempatan Zona Otomatis.

Reservasi zona dan resource otomatis

Zona Otomatis memprioritaskan pembuatan cluster di zona dengan reservasi resource, sebagai berikut:

  • Jika resource cluster yang diminta dapat dipenuhi sepenuhnya oleh resource yang dicadangkan, ditambah, jika perlu, resource sesuai permintaan di zona, Auto Zone akan menggunakan resource yang dicadangkan dan sesuai permintaan, serta membuat cluster di zona tersebut.

  • Zona Otomatis memprioritaskan zona untuk dipilih berdasarkan total reservasi core CPU (vCPU) dalam suatu zona.

    Contoh: Permintaan pembuatan cluster menentukan 20 n2-standard-2 dan 1 n2-standard-64 (40 + 64 vCPUs yang diminta). Zona Otomatis akan memprioritaskan zona berikut untuk dipilih berdasarkan total reservasi vCPU yang tersedia di zona tersebut:

    1. Slot reservasi zone-c yang tersedia: 3 n2-standard-2 dan 1 n2-standard-64 (70 vCPUs)
    2. zone-b reservasi yang tersedia: 1 n2-standard-64 (64 vCPUs)

    3. zone-a reservasi yang tersedia: 25 n2-standard-2 (50 vCPUs)

      Dengan asumsi setiap zona ini memiliki vCPU on-demand tambahan dan resource lainnya yang cukup untuk memenuhi permintaan cluster, Zona Otomatis akan memilih zone-c untuk pembuatan cluster.

  • Jika resource cluster yang diminta tidak dapat dipenuhi sepenuhnya oleh resource yang dipesan dan resource sesuai permintaan di suatu zona, Zona Otomatis akan membuat cluster di zona yang kemungkinan besar dapat memenuhi permintaan menggunakan resource sesuai permintaan.

Menggunakan penempatan Zona Otomatis

Konsol

Untuk membuat cluster Dataproc yang menggunakan penempatan Zona Otomatis:

  1. Di konsol Google Cloud , buka halaman Create a Dataproc cluster on Compute Engine Dataproc. Panel Set up cluster dipilih.
  2. Di bagian Location, lakukan tindakan berikut:
    • Pilih Region untuk cluster Anda.
    • Di bagian Zona, pilih "Semua".

Mengecualikan zona: Menentukan zona yang akan dikecualikan dari penempatan Zona Otomatis tidak didukung melalui konsol Google Cloud . Fitur ini tersedia menggunakan Google Cloud CLI dan REST API.

gcloud CLI

Untuk membuat cluster Dataproc yang menggunakan penempatan Zona Otomatis, gunakan perintah gcloud dataproc clusters create. Tetapkan tanda --region ke wilayah. Kemudian, hapus tanda --zone atau tetapkan tanda --zone ke string kosong (--zone="").

Sebagai alternatif untuk menggunakan flag `--zone`, Anda dapat menggunakan flag --auto-zone-exclude-zones untuk menentukan daftar zona yang dipisahkan koma. Pemilihan Zona Otomatis akan memilih zona dari region yang ditentukan, tetapi mengecualikan zona yang tercantum dari kriteria pemilihannya. Perhatikan bahwa setidaknya harus ada dua zona yang tidak dikecualikan dan tersedia di region cluster.

Contoh:

Penggunaan Zona Otomatis Dasar:

gcloud dataproc clusters create CLUSTER_NAME \
    --region=REGION \
    other args ...

Zona Otomatis dengan zona yang dikecualikan:

gcloud dataproc clusters create CLUSTER_NAME \
    --region=REGION \
    --auto-zone-exclude-zones=ZONE_1,ZONE_2 \
    other args ...

REST API

Untuk membuat cluster Dataproc yang menggunakan penempatan Zona Otomatis, buat permintaan API clusters.create JSON, dengan membiarkan kolom gceClusterConfig.zoneUri kosong. Di endpoint REST, https://dataproc.googleapis.com/v1/projects/projectId/regions/region/clusters, masukkan nama region. Zona Otomatis Dataproc akan memilih zona untuk cluster dalam region yang ditentukan.

Untuk mengecualikan zona tertentu, Anda dapat mengisi kolom gceClusterConfig.autoZoneExcludeZoneUris dengan daftar nama zona yang akan dikecualikan. Perhatikan bahwa harus ada setidaknya dua zona yang tidak dikecualikan yang tersedia di region cluster.

Gunakan nama resource singkat dengan penempatan Zona Otomatis: Saat menentukan URI resource, seperti machineTypeUri atau acceleratorTypeUri, dalam permintaan pembuatan cluster REST API penempatan Zona Otomatis, gunakan nama resource singkat tanpa spesifikasi zona, misalnya, "n1-standard-2" atau "nvidia-tesla-t4".